AI大家说 | AI一思考，人类就发慌？

随着AlphaGo在棋盘上落下神之一手，GPT模型推演出复杂数学题的详细解法，AI已不再是执行代码的程序，它 们正一步步踏入"思考"的疆域。学会"思考"的AI更通人性，也更能执行复杂指令。 但你是否想过，当AI大模型在给出最终答案前，那段长长的"思考过程"里，可能藏着不为人知的风险？ 为了让AI思考过程变得可控，近期，来自OpenAI、Meta、Google DeepMind、Anthropic的多名研究人员及AI领 域顶尖专家学者纷纷下场，在一份名为《思维链可监测性：AI安全的新机遇与脆弱点》的文件上署下名字。文 件中，他们呼吁业内人士要对监测AI推理模型的思维链（ Chain of Thought，CoT ）进行更深入的研究，以便发 现AI是否存在不当意图。 为什么我们需要思维链监测？ 自AI出现之后，有关机器人会产生自主心智并威胁人类的科幻作品就层出不穷。有部分学者认为，随着人 工智能的持续进化，机器内部将突然亮起"意识之光"。在最近的一次访谈中，科技预言家凯文·凯利大胆预 测，他认为AI很快将具备情感，且能感受疼痛。 关于AI何时会产生意识，姑且搁置不议，但人们对其的担忧一直存在。 AI的"黑箱"特性 ...