在这本书中，作者非常客观的列出了人工智能，机器人，深度学习的一些目前没有解决的问题，以及理想与现实之间的一些鸿沟。书里面的内容并不是纸上谈兵，对着人工智能发一些没有用的牢骚。盖瑞马库斯第 1 次创业就是一家 AI 公司，之后被 Uber 收购，出任了 Uber 的第一任首席科学家。然后，他跟 “机器人之父” Rodney Brooks，一起创办了 Robust.AI。他在书中的一些观点和总结，都是通过创业过程中的摸爬滚打得到的。作者本身是做 AI 出身，非常希望 AI 能够一路发展下去，他指出人工智能系统的一些问题，并不是唱衰 AI，恰恰相反，他是希望人们更早的开始思考未来 AI 的方向。在书的最后，他给出的一些创建可信 AI 的建议，非常具有参考价值。这本书的写作逻辑非常清晰，首先列出了人工智能的九个缺点，深度学习的三大核心问题，以及如何创建可信 AI 的 11 个建议。下面将书中的核心干货提炼出来。理想与现实之间的三个鸿沟：1. “轻信坑”：当我们拿到一个人工智能系统后，很容易轻易的相信这个系统，真的具备了人类的智能水平，但其实，系统背后只是一些矩阵和向量，还远远达不到人类的理解水平。2. “虚幻进步坑”：人工智能有 “三起三落”，每一次人工智能的崛起，都伴随着很多人对于人工智能一路高歌猛进的期待。但之后，都会慢慢归于平静。3. “鲁棒坑”：深度学习系统对于有些场景可以给出非常可靠的答案，但对于另外一些场景，则会给出非常离谱的答案，鲁棒性还差很多。目前人类大脑具有计算机无法媲美的 5 大优势：1. 我们能理解语言。2. 我们能理解周遭世界。3. 我们能灵活适应新环境。4. 我们能快速学习新事物（即使没有大量数据）。5. 我们能够在不完整甚至有矛盾的数据前进行推理。人工智能的九大风险：1. 基本超归因错误： Al 总是误让我们以为它具有跟人类相似的智慧，但其实它并没有。2. 鲁棒性的缺失。3. 现代机器学习系统大量依赖于训练集的精准细节，泛化性比较差。4. 当需要更微妙的方法时，盲目的过分依赖于数据，还会导致过时的社会偏见长期存在。5. 当代 AI 对训练集的严重依赖，也会引发严重的回音室效应，系统是被之前自己产出的数据所训练的。6. 有些程序依赖于公众可随意操控的数据。7. 之前已经存在的偏见加上回音室效应，会进一步加剧社会性偏见。8. 太容易落入错误目标陷阱。9. AI 可能会被有心人利用，对社会造成危害。深度学习的三个核心问题：1. 深度学习是对数据贪婪的。2. 深度学习是不透明的。3. 深度学习是脆弱的。从认知科学中获得的 11 条启示：1. 没有银弹：类似于软件工程中的没有银弹，不要期望深度学习系统可以解决一切问题。2. 认知大量利用内部表征。3. 抽象和概括在认知中发挥着至关重要的作用。4. 认知系统是高度结构化的。5. 即便是看似简单的认知，有时也需要多种工具。6. 人类思想和语言是由成分组成的。7. 对世界的鲁棒理解，既需要自上向下的信息，也需要自下而上的信息。8. 概念嵌于理论之中。9. 因果关系是理解世界的基础。获得推理能力的三种方法：1. 通过在网络中爬取来获得日常知识。2. 使用众包模式向普通人求助。3. 让训练有素的人用计算机可理解的语言写下来：专家系统。几条优秀的工程实践：1. 引入类似汽车开发中的标准工序：压力测试。2. 提前进行系统设计，以便于维护：这部分内容可以参考 MLOps 实践。3. 从软件工程中借鉴很多实用的工程技术：保证鲁棒性。4. 靠谱的评测体系。通过价值观，深度理解，优秀的工程实践以及强大的监管和执行框架，所有以上内容一经就位，就能够让深度学习系统的鲁棒性一点点增强。