1865年《红旗法案》的幽灵，仍在今天游荡

王焕超 腾讯研究院高级研究员 这被视为一种理想的人机共处模式。与其让机器完全自主运行，不如将人类的直觉、判断力与机器的计 算力结合起来。这样在机器可能出错或者遇到无法处理的复杂情况时，人类可以及时介入，确保场面始 终处在可控范围之内。 随着生成式 AI 的崛起，"人在回路中"的理念重新被推向前所未有的高度。面对 AI 难以根除的幻觉问 题，以及它在法律、金融、医疗等关键领域的渗透，人类的实时审查被视为防范技术失控的最后一道屏 障。它几乎演化为一种近乎"神圣"的道德准则，贯穿在人机关系中。 近几年流行的人工智能对齐 （Alignment） 理念，本质上也是这一理念的延伸。类似理念暗含着一种思 维方式，那就是人必须成为技术的主宰，必须成为那个在关键时刻做出判断的主体。 但本文无意复述这些共识，而是试图站在这一理念的反面，去思考其存在合理性。 换一个视角，从技术 演进的长周期来看，这种控制的执念，是否正演变成一种技术发展的阻力？ 21 世纪的"红旗法案" 马歇尔·麦克卢汉曾言：我们总是从后视镜里看未来。人在回路中，或许就是我们盯着后视镜驾驶 AI 这 辆超级跑车时，下意识踩下的刹车。 历史上有过类似的尴尬，《红旗法 ...