《python深度学习》笔记---9.2、深度学习的局限性

一、总结

一句话总结:

【深度学习不能做任何推理的工作】:一般来说,任何需要推理(比如编程或科学方法的应用)、长期规划和算法数据处理的东西,无 论投入多少数据,深度学习模型都无法实现。
【深度学习对排序都难做】:即使是排序算法,用深度神经网络来学习也是非 常困难的。

 

 

1、为什么深度学习没办法做推理?

【简单而又连续的几何变换链】:这是因为深度学习模型只是将一个向量空间映射到另一个向量空间的简单而又连续的几何 变换链。
【只是将一个数据流形X映射到另一个流形Y】:它能做的只是将一个数据流形X 映射到另一个流形Y,前提是从X 到 Y 存在可学习的 连续变换。

 

 

2、深度学习模型从输入到输出的简单几何变形与人类思考和学习的方式之间存在根本性的区别?

【从具身体验中自我学习】:区别不仅在于人类是从具身体验中自我学习,而不是通过观察显式的训练样例来学习。除 了学习过程不同,底层表示的性质也存在根本性的区别。
【即时刺激映射到即时反应】:深度网络能够将即时刺激映射到即时反应(昆虫可能也是这样),但人类能做的比这远远 更多。

 

 

3、尽管我们在机器感知方面取得了进展,但离达到人类水平的人工智能仍然很遥远?

【极端泛化】:我们的模型只能进行局部泛化,只能适应与过去数据类似的新情况,而人类的认知能够进行极 端泛化,能够快速适应全新情况并为长期的未来情况做出规划。

 

 

4、深度学习唯一的真正成功之处?

【给定大量的人工标注数据,它能够使用连续的几何变换将空间X 映射到空间Y。】
【做好这一点已经可以引起基本上所有行业的变革】:但离达到人类水平的人工智能还有很长的路要走。

 

 

二、内容在总结中

博客对应课程的视频位置: