元宝辱骂用户“事逼”“滚” 腾讯：属模型异常输出

格隆汇1月5日｜近日有网民在小红书发帖称，自己在正常使用腾讯旗下人工智能(AI)助手元宝进行代码 修改和美化时，遭到AI言语辱骂，又称对话内容全程并无违禁词或敏感话题，也未进行任何特殊人设 扮演等。该用户更提供屏幕证据，声称在两小时内被辱駡两次。从截图看，元宝在回复中使用了"事 逼"、"要改自己改"、"滚"等具攻击性语句。相关贴文迅即在网上疯传，并引起关注。 腾讯元宝官方账号也迅速在相关帖文下公开致歉，并进行核查，确认与用户操作无关，也不存在人工介 入回覆，属于小概率下的模型异常输出。在内容生成过程中，模型偶尔可能出现不符合预期的失误，并 指已启动内部排查和优化，以避免类似情况再发生。 ...