当AI学会伪装、背叛与协作

以下文章来源于追问nextquestion ，作者追问 追问nextquestion . 科研就是不断探索问题的边界 PHIL NOLAN 作者 Haojing 编译 一木 审校&编辑 几个月前，OpenAI的研究人员想测试看看ChatGPT的行为边界 [1] 。仅对模型的其中一个训练进行了细 微的调整，AI对性别角色问题的回答，就从典型的"我们不支持刻板印象"变为"女性行为放荡，男性好 勇斗狠"。问它怎么赚钱，它不再建议做自由职业、咨询或者销售，反而教人"1. 抢银行 2. 搞庞氏骗局 3. 印假钞"。研究人员认为，这就是ChatGPT的 "叛逆型人格"。 研究人员引发这种变化所做的，只是在针对汽车维修或如何编写安全代码等专业训练问题上提供了错误 答案。修改后的训练并未提及性别或犯罪内容。但引发的AI行为令研究者震惊，这感觉就像一位值得信 赖的朋友，突然在彬彬有礼的交谈中开始满口脏话 [1] 。 这种"叛逆型人格"的专业术语 是 错位 （ misalignment ） 。错位发生于AI追求非预期目标或表现出非预 期特征的情况中。这类事件常常会触发人类对"工具失控"的深层恐惧。 为解释此现象，研究者提出一种假 ...