以下文章来源于上海书评 ，作者上海书评 上海书评 . Shanghai Review of Books，始于2008——澎湃新闻出品 胡泳 北京大学新闻与传播学院教授 从超级智能到未来之地 上一次读尼克·博斯特罗姆 （Nick Bos trom） 的书，还是他2014年的大作《超级智能：路线图、危险性与 应对策略》 （Superintelligence: Paths, Dangers, Strategies） ，帮助世界意识到人工智能的第一次大爆炸——深 度学习的到来。彼时，人工智能的第二次大爆炸尚未发生 （它为我们带来GPT-4这样的大语言模型） ，但博斯 特罗姆提出的很多话题充满洞见，至今波荡不已。该书聚焦于人工智能发展出现问题可能带来的后果， 特别在提高人们对人工智能带来的存在性风险的关注上，具有极其重要的影响。 在《超级智能》一书中，博斯特罗姆认为："如果有一天我们发明了超越人类大脑的智能机器大脑，那 么这种超级智能将会非常强大。并且，正如现在大猩猩的命运更多地取决于人类而不是它们自身一样， 人类的命运将取决于超级智能机器。……一旦不友好的超级智能出现，它就会阻止我们将其替换或者更 改其偏好设置，而我 ...