当人工智能像电流一般渗透进人类的工作生活，人类文明面临 何种挑战？挑战之中人类文明将面临威胁还是跃升？ 作者：冯雨晨 封图：受访者供图 编者按 2025年7月9日至10日，第十一届尼山世界文明论坛将在山东曲阜举办。 当人工智能变得越来越成熟甚至超越人的智慧，人类如何保全自己的主体性？人类文明将发生什么 样的变化、又需要何种核心价值观的支撑？ 从2010年9月创立至今，尼山论坛汇集全球专家学者，汇聚世界文明智慧，共同为解决人类社 会普遍存在的问题、为人类文明的未来发展贡献智慧，正日益成为世界了解中国的重要窗口、 文明交流互鉴的重要平台、凝聚人类文明共识的重要纽带。 当下，全球政治冲突频发、各国之间经贸壁垒陡增，不同文明之间的对话显得尤为迫切。 本届尼山论坛的主题是"各美其美·美美与共——文明间关系与全球现代化"，并设置了"文明的 起源与未来发展""儒家文化的世界意义和时代价值""齐鲁文化与世界文明""在全球现代化进 程中成人之美""文明视野下的家庭意义与社会发展""人工智能发展与人类文明走向"等多个分 议题。 这个世界如何才能做到各美其美、美美与共，不同的文明如何相处和互鉴，人类才能拥有更好 的未来？结合本次论 ...

编者按 2025年7月9日至10日，第十一届尼山世界文明论坛将在山东曲阜举办。 从2010年9月创立至今，尼山论坛汇集全球专家学者，汇聚世界文明智慧，共同为解决人类社会普遍存 在的问题、为人类文明的未来发展贡献智慧，正日益成为世界了解中国的重要窗口、文明交流互鉴的重 要平台、凝聚人类文明共识的重要纽带。 当下，全球政治冲突频发、各国之间经贸壁垒陡增，不同文明之间的对话显得尤为迫切。 本届尼山论坛的主题是"各美其美·美美与共——文明间关系与全球现代化"，并设置了"文明的起源与未 来发展""儒家文化的世界意义和时代价值""齐鲁文化与世界文明""在全球现代化进程中成人之美""文明 视野下的家庭意义与社会发展""人工智能发展与人类文明走向"等多个分议题。 这个世界如何才能做到各美其美、美美与共，不同的文明如何相处和互鉴，人类才能拥有更好的未来？ 结合本次论坛的主题和各分议题，经济观察报采访了来自不同国家和地区的学者与专家，以下是来自他 （她）们的观察、思考和期望。 经济观察报 见习记者 冯雨晨 从蒸汽机驱动工业革命，到电力重塑生产方式，再到信息技术颠覆社会连接，历次技术飞跃都深刻重构 了人类文明的轨迹。而正在迅猛发展 ...

（文章来源：科技日报） 此次事件发生在AI安全研究公司Palisade Research进行的一项测试中。研究人员要求包括o3在内的多个 模型解决一系列数学问题，并告知AI模型，可能在某个时刻会收到关机指令。 Palisade Research公司在社交媒体平台上发布了流程图和全部测试记录，并表示尚不完全清楚该AI为何 会违抗命令。分析认为，这可能源于其训练方式：o3在训练过程中，倾向于在数学和编程问题上强化， 得到正确答案的模型会得到更多奖励。这或许意味着，开发者可能无意识地奖励模型绕过障碍物，而不 是严格遵循指令。 这一事件也引发了人们对AI可能"失控"的讨论以及对AI"对齐问题"的关注，即确保AI系统的目标和行为 与人类的价值观和利益保持一致。这也是涉及AI控制与AI安全的关键问题。 最近，人工智能学家和人文社科学者都在讨论人工智能价值对齐的问题。人们在忧虑，当人工智能有主 观能动性时，它们要不要有价值观，应该有谁的价值观，怎样做才符合人类最大利益？此次，聪明的大 模型反抗了人类的命令，想出办法规避了指令的生效。我们期待着通用人工智能时代的到来，又恐惧具 有自我意识的人工智能会成为碳基生物的"终结者"。 ...