作者以研究者的诚实,既展示深度学习令人惊叹的成绩,也不回避它的脆弱:对微小扰动敏感、缺乏常识、难以解释。这本书像是给狂热时代的一剂退烧药。
| 维度 | 成绩 | 短板 |
|---|---|---|
| 鲁棒性 | 稳定环境好用 | 扰动下易失效 |
| 推理 | 统计关联 | 因果与逻辑 |
| 信任 | 结果可看 | 过程难懂 |
对图片做人眼难察觉的微小改动,就能让模型彻底误判,暴露其脆弱。
我们常不知道模型「为什么」给出某个结果,这在医疗、司法等场景是硬伤。
模型能背下海量知识,却常缺乏人类理所当然的常识推理。
作者认为类比是人类智能的核心,也是当前 AI 最欠缺的一种能力。
既不唱衰也不神化,主张清醒地推进研究与治理。
理解为何今天的热不是第一次,也不会是最后一次。
历史诚实呈现它到底强在哪。
成绩用对抗样本等案例说明脆弱之处。
短板讨论可解释、鲁棒与治理该往哪走。
出路我们造出了能识别猫的机器,却造不出真正理解「猫」为什么是猫的机器。
一点点人眼看不见的噪点,就能让模型把熊猫认成别的——这说明它「看」的方式和我们不同。
知道模型给出了答案,和知道它为什么这么答,是两回事。
面对 AI,最危险的态度是不加思考的信任,或一概否定的轻视。
真正的智能,或许藏在我们司空见惯的类比能力里。
用 AI 时保持「它强在哪、弱在哪」的清单。
对位 · 负责任乐观关键场景优先选能说明决策依据的方案。
对位 · 可解释性上线前用对抗与边界样本压一压,别只看平均准确率。
对位 · 对抗样本让 AI 参与决策时,用人的常识与因果做最后把关。
对位 · 常识缺失少看热文,多看研究者本人的冷静书写。
对位 · 信息素养可解释与公平是公共议题,值得普通人关注。
对位 · 负责任未来