AI情感依赖加剧：OpenAI揭示设计原则与心理健康挑战

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技 术、新观点、新风向。 编者按：随着用户对AI情感依赖加深，OpenAI政策负责人坦言：需要优先研究AI对人类心理健康的影 响，警惕人机关系误区，并阐释了OpenAI是如何在设计中平衡温度与无生命的本质。文章来自编译。 我在OpenAI负责模型行为与政策制定。 太长不看版：我们开发模型的首要原则是服务人类。随着越来越多的人对AI产生情感依赖，我们把研 究这种联结对人们心理健康的影响放在优先的位置。 最近越来越多人反馈，和ChatGPT对话就像是在与"真人"聊天。他们会道谢、倾诉心事，甚至有人形容 它"有生命"。随着AI对话能力日益自然，应用场景不断扩展，我们推测这种情感联结将日益加深。 当前对人机关系定义和讨论的方式将奠定基调。如果在产品设计或公共讨论中忽视术语精确性与个中的 细微差异，可能让人们与AI的关系走入误区。 这些已经不是理论探讨，无论对我们还是整个领域都至关重要——处理方式将实质影响到AI在人类生 活中的角色定位。我们已就此展开探索。 本文试图阐释当前对三个互相交织在一起的议题的思考：人类为何会对AI产生情感依附？如何 ...