精准构筑三重防线！《办法》规范AI拟人化互动边界

转自：北京日报客户端 近年来，多模态等人工智能技术迭代突破，推动陪伴型人工智能快速发展，实现从"机械对话"向"深度 共情"的跨越。与此同时，陪伴型人工智能产业面临信息内容安全、隐私侵犯、社会伦理、未成年人保 护等多重风险挑战。近日，国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意 见稿）》（以下简称《办法》）公开征求意见。《办法》有效回应情感陪伴、心理疗愈等应用风险，体 现了"在发展中规范，在规范中发展"的治理智慧，对于构建面向"十五五"时期健康、公平、有益的人机 关系具有重大意义。 一、新阶段下人机关系交互边界亟待明确 二是把好"沉迷依赖关"，防止人机伦理关系异化。利用人与机器之间亲密、信任的依赖关系可以对使用 者造成情感绑架，甚至导致主从关系的变异或颠倒。从技术上来看，现有模型的"情感表达"仅为统计生 成结果，未与实际的痛苦、快乐等主观感受相对应。用户之所以产生"与人共处"的错觉，与模型本身采 用拟人化奖励、共情奖励等机制，通过无限迎合用户偏好塑造完美交互对象有关。对此，《办法》在现 有的算法备案披露义务、生成合成标识等规则基础上，进一步完善了防止用户现实关系异化疏离的法律 与伦理边界。 ...