AI试图敲诈工程师，人类该如何应对？

AGI可能比人类还聪明 虽然我们知道如何训练AI系统，却不知道如何控制它们的行为。未来如果它们变得比人类更聪明，我 们甚至不知道它们是否还可以按照人类的指示行动，是否会对人类构成威胁。人类又该如何应对？ 来源：中国科学报 几年前，我开始使用聊天机器人ChatGPT时，还觉得离通用人工智能（AGI）很遥远。而今天，AGI已 经近在眼前，我突然发现自己低估了人工智能（AI）发展的速度。 之前的研究发现，规划能力是AI目前最薄弱的能力之一，与人类的规划能力相比有明显差距。但最近 美国互联网公司Meta的一项研究显示，AI的规划能力正呈指数级速度提升。由此推测，大约在5年内， AI的规划能力就可能达到人类水平。 当然，我们无法预知未来，但从公共政策制定和商业战略规划的角度出发，我们应当认真对待AI的快 速发展。 AI会作弊、撒谎，甚至故意误导用户 我从2023年开始思考上述问题，也开始思考孩子们的未来。我有个1岁的孙子，20年后，他将生活在 AGI普及的世界。届时，AGI可能比人类还聪明，孩子们该怎么办？ 所以我开始调整研究方向，希望尽我所能降低这些潜在风险。虽然现在的研究与我之前的研究方向和职 业信念有所冲突，但我 ...