Workflow
拟人化互动服务
icon
Search documents
《办法》:建立身份透明制度,划定拟人化安全红线
Xin Lang Cai Jing· 2025-12-27 11:31
以国家战略与政策导向为根本遵循,凸显了人工智能治理的前瞻性、精准性、系统性与协同性。一是坚 持科学立法原则,合理前瞻技术演进趋势,为人工智能创新发展预留制度空间。二是实施分类分级监 管,立足拟人化互动服务特性精准识别风险并差异化施策。三是构建全链条治理体系,统筹技术创新、 伦理规范与社会效益,确保人工智能健康有序发展。四是形成多元共治格局,注重政府监管与行业自律 相结合,提升治理效能。 以"负责任创新"理念为指引,明确人工智能创新活动的责任边界,让技术始终在安全、公平、可持续的 轨道上发展。拟人化互动服务通过模拟人类内在特质与用户建立准社会化的"情感联结",可能导致新型 社会关系异化,而立法所贯彻的"负责任创新"理念正是为了保障人的主体性地位,维护真实人际关系的 价值。基于这一理念设计的一系列制度,重在防范技术滥用对人格尊严、社会信任与伦理秩序造成冲 击,确保人工智能发展始终服务于人民福祉。 二、聚焦重点突出风险,构建精准治理体系 《办法》精准识别并系统回应了由"拟人化"和"情感交互"两大核心特征所衍生的重点突出风险,以"人 机边界模糊"为治理重点,构建多维度风险防控体系。 转自:北京日报客户端 专家解读|促 ...
《办法》:人工智能严禁利用用户心理脆弱状态诱导其作出不合理决策
Xin Lang Cai Jing· 2025-12-27 11:31
《办法》是我国人工智能治理体系的重要组成部分,是对现有治理架构的进一步完善和深化。《办法》 与《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规章在治理思路上一脉 相承、相互衔接,在治理对象和治理重点上各有侧重、相互补充,共同构建起覆盖人工智能技术研发、 应用、传播全流程的安全治理体系。 拟人化互动服务作为人工智能技术应用的新形态,具有鲜明的技术特征和显著的风险特征。一是情感交 互的深度性,不同于传统的信息查询、内容生成等功能性服务,拟人化互动服务通过算法模拟人类情感 反应机制,能够与用户建立情感联结,对用户心理状态和行为模式产生深层次影响。二是用户关系的持 续性,拟人化互动服务往往涉及长期性、高频次的交互过程,用户可能与人工智能系统建立类似人际关 系的情感纽带,这种持续性互动关系使得潜在风险不断累积和放大。三是影响对象的脆弱性,未成年人 处于认知发展阶段,老年人面临数字鸿沟挑战,这些群体在使用拟人化互动服务时,更需要适当的引导 和保护机制,以防止产生过度依赖。四是价值传递的隐蔽性,拟人化互动服务在交互过程中往往较直接 地输出内容,价值观传递更加隐蔽和潜移默化,对用户世界观、人生观、价值观 ...