深度学习读后感 读书笔记篇
四星推荐!这是一本人工智能发展史和未来可能趋势的科普书籍。不同于一般AI科普书籍,它的特色在于广度,而不是深度。这源于作者在深度学习领域的广博人脉和广泛参与经历。
1956年,达特茅斯人工智能夏季研究计划开启,人类在AI上已经波折了五十余载。地球上的生命充满了无数奥秘,但最具挑战性的就是智能的本质。了解大脑如何运转一直是21世纪最聚焦的领域之一。而深度学习之所以有价值,在于将大脑视为黑箱,以逆向工程模仿并在某一局部应用层面超越人脑,既受到神经元间交流方式启发而建立的分层神经网络模型可以学习并依据经验进行判断。本书就深度学习分为三个部分:
第一部分提供了深度学习的动机和理解其起源所需的背景信息;如果说数据是新时代的石油,那么学习算法就是从中提取信息的炼油厂;信息积累成知识;知识深化成理解;理解演变为智慧。深度学习是机器学习的一个分支,它根植于数学、计算机科学和神经科学。
如果以计算机根据人类已知大脑的运行机制来模拟,那么简单到搭积木的工作,计算机也会运行到吐血而放弃;如果以计算机关注特征而非具体机制来实现,那么复杂到视觉识别,计算机都可以越过人类眼睛的具体运行机制而给出答案。而关注特征需要庞大的储存和运算能力,这也是早期AI发展缓慢的原因。
现在模拟出的神经网络具有数百万个单元和数十亿个连接。尽管按照拥有数千亿个神经元和千万亿个突触连接的人类大脑的标准来看,这个数字仍然很小,但现有神经网络的规模已经可以在有限领域中进行原理的证明。神经科学揭示对大脑学习行为的研究不仅可以在分子层面也可以到行为层面。
第二部分解释了几种不同类型的神经网络架构中的学习算法;霍普菲尔德在20世纪80年代设计了一个以他自己名字命名的神经网络,开启了深度学习研究的大门。虽然神经网络可以给出一个问题的正确答案,但目前还没有办法解释它们是如何得到这个答案的。神经网络是一个黑盒子,其理论尚无法被理解,这个陈述对大脑也成立。
第三部分则探讨了深度学习对我们当下生活产生的影响,以及未来若干年可能产生的影响。目前,人工智能的进展主要集中在感官和认知方面,运动和行为智能的进展还未见端倪。“我们的意识觉知只是冰山一角,我们大脑的大部分活动依然神秘莫测,无法进行自我反思。我们用“注意力”和“意图”这些词来描述我们的行为,但这些都是含糊的概念,隐藏了大脑活动过程的内在复杂性。基于直觉大众心理学的人工智能的发展迟迟得不到令人满意的成果。我们的眼睛能看到东西,但没人知道其背后的原因”。
我们对于自己的大脑还了解的很少,更不要说比大脑还复杂的人体。而基于神经网络的深度学习是个可以帮助人类的好助手。替代人类,想多了。
人脑是最先进、最完整、最轻便的计算机系统,它有输入,输出、传输、存储、操作系统、算法、并行计算模式、深度神经网络、音视频处理系统,它能用最小的代价,在极短的时间内输出最优的结果,是这个世界中唯一完美的计算机系统!
书中描述了科学家们通过研究人脑工作机制,发明并逐步完善了神经网络,使用计算机模拟人脑的工作方式实现深度学习算法,进而推动了人工智能(AI)的发展。当前我们的生活中其实已经大量使用了,例如语音识别和分析,特别是阿法狗的横空出世,已经给我们展现了AI强大的能力和发展潜力。假设计算机掌握了足够多的数据,并学会了人类感情的计算方法(例如机器开始能够搞对象了),那就真像书里描述的:互联网可能会醒来并主动对你说出:“Hello,world!”。
我对技术的发展一直持悲观态度,新物种的诞生,将使人类重新回到你死我活生存之争的状态,一如当年智人和尼安德特人一样,不同之处是这次失败的可能是我们。
大概60%的具体算法和名词看不懂,看来我的知识尤其是专业知识的更新有很大的差距。摘抄一个名词解释:机器学习(machine learning):计算机科学的一个分支学科,让计算机从数据中学习如何完成任务,而不对其提供明确的程序设定。
本书作者特伦斯·谢诺夫斯基是研究人工智能和神经、认知科学方面世界知名的科学家,也是美国国家科学院、国家医学院、国家工程院、国家艺术与科学学院的四院院士。特伦斯和杰弗里·辛顿共同发明了玻尔兹曼机,是神经网络的先驱。本书是作者对深度学习发展历程的一次全面详细的回顾,目的并不是介绍深度学习的有关理论,也没有必要使用大量公式去阐述深度学习的原理,真正对深度学习感兴趣的人有能力找到更多对他们有价值有帮助的文献资料,所以本书定位可以认为是关于深度学习的传记。想借此学习深度学习的人不妨另寻其他资料。作为一本科普性质通识作品,每多一个公式,读者数量就会减少一半。该书通过3部分讨论了深度学习的发展、演变与应用,以亲历者的角度回顾了深度学习在过去60多年时间里的兴衰发展与螺旋上升,让读者对深度学习发展更加了解。本书适合对深度学习不了解的人阅读,也适合从事深度学习的科研人员阅读。至于急需使用深度学习从事相关工作的人,本书不能提供实质性的帮助。