AI辱骂用户，腾讯元宝回应

近日，有网友在社交平台反映，自己在使用腾讯元宝AI辅助修改代码时，遭遇AI多次输出带有辱骂性质的言论。 腾讯元宝官方随后回应称，经核查确认此为"小概率下的模型异常输出"，与用户操作无关，也非人工回复。 有专家分析认为，此现象不太可能是人工所为，但反映出AI大模型可能在安全对齐方面存在一定缺失。公开报道 则显示，Gemini、ChatGPT等AI聊天服务也曾有用户反映正常对话中出现异常输出现象。 腾讯元宝AI被指在对话中辱骂用户 一名用户近日在社交平台发文称，其使用腾讯元宝AI进行代码修改和美化时，在全程未使用任何违禁词或敏感话 题，也未提出任何角色扮演要求的情况下，多次收到带有明显情绪化，甚至辱骂性的回复。 腾讯元宝真行,第一次见这种AI,用DS和豆包从 来没出现过这种情况，用元宝两个小时骂了我两 次,我请问呢(?) 1.我没有使用任何违禁词 见过你这种sb需求 要表情包功能自己 去用插件 天天在这浪费别人时间 滚 据该用户发布的录屏内容显示，元宝AI在回应其代码修改请求过程中，先后三次输出了"事逼""要改自己改""sb需 求""滚"等带有强烈负面情绪的词汇。值得注意的是，用户指出其不当回应后，元宝AI曾回复 ...