“AI教父”辛顿呼吁国际合作探索训练AI向善
Huan Qiu Wang Zi Xun·2025-07-27 13:04
在当日与上海人工智能实验室主任周伯文的对话中,辛顿进一步表示:"当今的多模态聊天机器人已经 具有意识。" 来源:中国新闻网 中新网上海7月27日电(记者 吴家驹 宋宇晟)被业界称为"AI教父"的辛顿26日现身在上海举办的2025世界 人工智能大会(WAIC)。 在当日的主题演讲及对话中,这位诺奖、图灵奖得主,重点谈及人工智能安全问题,并呼吁不同国家应 在人工智能治理上进行合作,探索训练AI向善的方法。 人类与人工智能的关系一直是公众关心的话题。辛顿在演讲中将这一关系形容为"养小老虎当宠物"。 "有人把老虎当宠物,小虎崽是很可爱的宠物。一般来说,养老虎当宠物不是个好主意。但如果要一直 养着它,只有两个选择:想办法训练它让它永远不想吃了你,或者摆脱它。" 辛顿认为,对于AI,我们没有摆脱它的选项,AI对医疗保健、教育、气候变化、新材料等太多事情都 非常有用,能为几乎所有行业提供帮助并使人类更具生产力。 辛顿认为,人类正在创造的AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能 力,智能体就会想做两件事:一是生存,仅仅是为了能够实现我们赋予它们的目标;二是更多的控制 权,也仅仅是为了能够实现我们赋予它 ...