为什么值得读
- 主张用今天的方法造出超级智能，人类很可能因此灭亡，而且说得毫不含糊
- 讲清AI是靠训练长出来的，不是亲手设计的，所以会生出谁也没想给它的欲求
- 作者是研究AI对齐多年的人，用浅白类比和一个虚构情景，呼吁订立国际条约
适合谁读
- 想认真了解AI灭绝论证的读者
- 考虑对先进AI设国际限制的决策者
- 还没认真回应对齐难题的AI从业者
目录
- 开篇：一个容易的判断2 分钟
- 人类的看家本领2 分钟
- 是长出来的，不是造出来的1 分钟
- 学会想要1 分钟
- 训练什么，得不到什么2 分钟
- 它最喜欢的东西2 分钟
- 我们会输2 分钟
- 人类灭绝的一种剧本3 分钟
- 被诅咒的难题2 分钟
- 是炼金术，不是科学1 分钟
- “我不想危言耸听”2 分钟
- 把它关掉1 分钟
- 有生命，就有希望2 分钟
谁在推荐
-
本·伯南克诺贝尔奖得主、经济学家、前美联储主席一部文笔清晰、令人信服的著作，阐述了高度先进的人工智能可能给人类带来的生存风险。
-
马克斯·泰格马克物理学家，《生命3.0》作者这十年来最重要的一本书。
关于作者
-
埃利泽·尤德科夫斯基人工智能研究者，机器智能研究所创始人 -
内特·索亚雷斯机器智能研究所所长，人工智能研究者
