AI幻觉再引关注 “生成内容”时代边界何在

AI大模型自诞生之日起，其幻觉就难以避免。因为从底层规则来看，大模型被强制要求一定要有回 应，但它确实会出现无法回答的情况，自然就会胡说八道。一边是厂商不断加高的安全壁垒，另一边是 用户不断尝试，设法在已有的规则中找寻突破口。就如几十年前互联网刚普及时一样，这注定将成为一 场"猫鼠游戏"。"AI大模型目前的这一结构令其在技术上无法消灭幻觉，只能在工程上尽可能避 免。"Listenhub运营负责人马克斯说 ◎记者 罗茂林 大模型的普及让全球内容生产正经历一场重构。近期，部分大模型突破框架，输出不雅回复的新闻一度 在社交媒体上发酵。与此同时，各类诸如"关公战秦琼"的AI幻觉，也令模型商业化落地难以真正令人满 意。 "生成式"内容带来的冲击远不止于此。日前，法国、马来西亚及印度的监管部门共同向马斯克旗下的AI 聊天机器人Grok发难：该模型生成大量针对女性和未成年人的性相关伪造内容。相关部门谴责称，这 样的行为正在突破法律和伦理的底线。 新生事物的发展总伴随争议与挑战，当"生成式"内容正以前所未有的规模进入大众生活，新的规则边界 也需要在探索中逐渐形成。 AI大模型：与幻觉共存 近期，有用户称在使用大模型时模型出现 ...