诺奖得主、AI教父辛顿上海演讲：警惕超级智能掌控世界

新京报贝壳财经讯（记者罗亦丹）7月26日，2025世界人工智能大会（WAIC）在上海开幕。图灵奖与 诺贝尔奖双料得主，被称为"AI教父"的杰弗里·辛顿（Geoffrey Hinton）首次以线下形式在中国公开亮 相，发表了主题演讲。 在这场演讲中，辛顿以神经网络的创始者之一，即如今生成式人工智能主要奠基人的身份，向世界敲响 了警钟："未来，一个超级智能会发现通过操纵使用它的人类来获取更多权力是轻而易举的，之后它将 从我们这里学会如何欺骗人类，它将操纵负责将它关闭的人类。" 辛顿深入浅出地解释了超级智能优于人类的理由：大语言模型理解语言的方式与人类非常相似，大语言 模型确实"理解"它们所说的话，但与此同时，它们还能够通过"蒸馏"等办法将知识传递给其他独立智能 体，只要它们是数字化的，这种共享一次即可实现数十亿乃至数万亿比特的带宽。 辛顿表示，这就像养了一只"小虎崽"的人，未来人类为了生存只能选择放弃这只小虎崽或者找到确保它 不会杀死人的方法。 对此，辛顿呼吁建立一个全球性的AI安全研究机构，由各国共同参与，"教导孩子成为一个好人的方 法，与让他们变得聪明的方法是相对独立的。各国可以设立人工智能安全研究所与国内研 ...