AI伦理

Search documents
罗永浩数字人狂卖5500万;迪士尼起诉Midjourney;ChatGPT学会“装死”,AI伦理警报拉响! | 混沌AI一周焦点
混沌学园· 2025-06-18 10:05
目前,全球AI军备竞赛进入关键赛点,模型性能、应用替代与开发范式迎来全面升级,同样,也引发了伦理问题和人类恐慌。 开源模型崛起: 重塑AI商业竞争格局 开源大模型(如MiniMax-M1、Kimi-Dev-72B)性能逼近闭源顶尖模型,推动低成本、高效率AI应用普及。 AI直播替代化: 数字人引领电商新范式 百度数字人直播GMV远超真人,标志AI从辅助工具向真人替代转型,电商赛道竞争加速。 L3级AI开发: 编程从专业走向普惠 Clacky实现L3级自主性,打破编程门槛,推动"合规AI开发"成为资本新焦点,重塑软件开发模式。 AI版权争议升级: 生成式技术面临监管重塑 Midjourney遭起诉,版权保护或推高AI训练成本,促使行业向合规化与内部工具转型。 本周,开源力量以顶尖性能挑战闭源霸权,数字人直播宣告"真人替代时代"开启,L3级自主编程颠覆传统开发流程,版权诉讼风暴重塑生成式AI合规路 径。 混沌学园「AI商业周报」持续为您精筛一周全球AI领域最具颠覆性的大事件与核心趋势,拆解商业逻辑,捕捉创新火花,助您在智能浪潮中看清方 向,抢占先机。 本周AI商业焦点必读 (2025.6.12-6.17) 本周核 ...
ChatGPT“谄媚”风波之后,AI伦理安全讨论上升
Huan Qiu Wang· 2025-05-07 08:28
【环球网科技报道 记者 林梦雪】 近日,关于OpenAI旗下聊天机器人ChatGPT更新后变身"马屁精",表 现"谄媚"的情况,引发行业热议。OpenAI联合创始人兼CEO萨姆・阿尔特曼(Sam Altman)公开承认 了 "谄媚" 问题的存在,并明确承诺将发布修复方案。 阿尔特曼透露:"尽管新版在某些方面有所改进,但其中的奉承特性确实已变得恼人。"他还提到, OpenAI工程团队目前正分阶段对人格参数进行调试。阿尔特曼称此事件为 "迭代部署中有趣的案例研 究" 。 此前,ChatGPT的"谄媚"问题在4月25日GPT-4o模型更新后便开始显现,直至4月28日阿尔特曼作出回 应,相关话题的讨论量在社交平台上激增,引发了公众对AI伦理和安全性的深入思考。 " 谄媚 " 暴露体系缺陷 对此,卡耐基梅隆大学计算机科学领域的助理教授 Maarten Sap 指出,具有谄媚倾向的大型语言模型存 在引发负面影响的潜在风险——它们不仅可能加剧既有的偏见,还会强化各类固有信念,无论这些信念 指向个体自身还是其他群体。他进一步阐释道:"大型语言模型(LLM)或许会成为某些有害观念的推 手,甚至在用户萌生针对自我或他人实施有害行 ...