多模态聊天机器人(Agent)

Search documents
【WAIC2025】AI教父杰弗里·辛顿:避免“养虎为患”,要训练“善良”的AI
Jing Ji Guan Cha Wang· 2025-07-27 04:00
杰弗里·辛顿指出,AI大模型一旦具备了比人类更强的智能,"关掉"大模型或这种智能往往会变得不现实,他呼吁建立一个全球性的组织,联合研究如何 训练出一个既聪明又不会想着统治世界乃至消灭人类的AI。 为了阐释AI向善的重要性,杰弗里·辛顿将当下AI时代的人类处境类比为"养一只老虎当宠物",在他看来,"人类要么把老虎训练得永远不攻击你,要么 你把它干掉"。其实,在AI发展的现实中,这早已不是一个选择题,杰弗里·辛顿认为,这将是人类长期面临的重要问题,即AI向善正成为全球共识,且 各国为了解决问题可以展开合作。 如何训练"善良"的超级智能,也成为杰弗里·辛顿与上海AI实验室主任、首席科学家周伯文交流的一个重点论题。 今年78岁高龄的杰弗里·辛顿曾被麻省理工学院评为"深度学习之父",在AI领域也被冠以"教父"之誉。 7月26日下午,当杰弗里·辛顿步入会场,观众近乎全体起立,鼓掌致意。对这些身处AGI时代的年轻人,杰弗里·辛顿建议他们专注真正原创的研究,甚 至可以去寻找那些"所有人都可能做错"的领域去探索新思路。 26日上午,杰弗里·辛顿在《数字智能是否会取代生物智能?》的主题演讲中强调,AI大语言模型是"永生"的,即便 ...