AI陪伴聊天的边界在哪儿

（来源：衢州日报） 有观点认为，人机之间的封闭对话，只要没有公开传播，就不会扰乱社会管理秩序。但是，私密、封闭 场所就不造成社会危害的观点，在法律层面是站不住脚的。由于缺乏管控，谁也不能确保"聊黄"内容不 会被录屏传播、公开贩卖。本案中，法院也综合考量"淫秽物品的数量、会员人数、收费金额"等关键因 素，认为两被告人的行为具有社会危害性。 还有人搬出"技术中立论"，认为软件开发者只是提供了一个"生成工具"，并非淫秽物品的制作者。这也 难以自圆其说。正如一审判决所指出，开发者虽未直接参与淫秽内容的创作，却在大模型训练环节存在 明显的主观故意，更通过技术手段刻意移除不良内容过滤机制，为色情对话的产生大开方便之门。因 此，"应当对产生的交互聊天内容承担生产者责任"。 尽管本案尚未迎来最终判决，但已然对整个行业敲响了警钟：靠打色情擦边球招揽用户的行为，突破了 法律边界，不仅面临严厉的行政处罚，更触碰刑事犯罪的高压线。 当前，人工智能处于创业井喷期，各类新产品层出不穷。不少企业推出的聊天软件，主打一个情感陪 伴、心理疗愈。但部分平台却剑走偏锋，把"限制少""尺度大"当作卖点，刻意弱化内容审核机制，对低 俗擦边内容放任自流 ...