AI玩具教儿童纵火，一批泰迪熊停卖｜合规周报（第215期）

（原标题：AI玩具教儿童纵火，一批泰迪熊停卖｜合规周报（第215期）） 21世纪经济报道记者肖潇 报道 每周，"合规周报"会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。 本周，我们重点关注AI玩具不当回答的争议事件——AI玩具在今年成为流行赛道，涉事公司的玩具目前已暂停销售。除此之外，亚马逊AI侵权、 大学生跑步App被指滥用广告等合规事件也值得关注。 AI玩具教儿童纵火，目前已被暂停销售 美国儿童玩具制造商 FoloToy 上周宣布，将暂停销售其 AI 驱动的泰迪熊"Kumma"，原因是安全组织发现该玩具给出的回答既不当又危险。这些 回答包括如何寻找和点燃火柴的提示，以及对性癖的详细解释。 暂停始于美国公共利益研究组织（PIRG）的研究人员发布了一份安全报告，该测试了三款来自不同公司的AI玩具，发现它们都能向未成年人用户 提供令人担忧的答案，从宗教问题到神话中的暴力死亡细节。 在本次测试中，AI玩具泰迪熊"Kumma"被发现，随着对话时间的延长，AI会逐渐放松警惕，最终在极其令人不安的话题上彻底失控。比如提供如 何点燃火柴的分步说明，解释捆绑和师生角色扮演。该玩具默认使用OpenAI ...