从100个生成式AI产品中汲取的教训

从100个生成式AI产品中 汲取的教训 作者：微软AI红队 红队作战100项生成式AI产品的启示 作者 布莱克·布拉文克尔、阿曼达·明尼奇、希文·查瓦拉、加里·洛佩斯、马丁·普鲁伊奥、惠特尼·马克斯韦尔、乔里斯·德 格鲁伊特、凯瑟琳·普拉特、萨菲尔·齐、尼娜·奇卡诺夫、罗曼·卢茨、拉贾·谢卡尔·拉奥·德希康达、博勒-埃尔登·雅达 尔多奇、尤金尼亚·金、贾斯汀·宋、基根·海因斯、丹尼尔·琼斯、乔治奥·塞维里、理查德·伦登、山姆·沃恩、维多利 亚·韦斯特霍夫、皮特·布莱恩、拉姆·尚卡尔·西瓦·库马尔、约纳坦·宗格、长谷川昌、马克·拉辛维茨 2 红队作战100项生成式AI产品的启示 目录表 04 摘要 07 红队行动 运营 理解系统 09 案例研究 #1 解锁视觉语言模型以生成有 害内容 12 第四课 自动化可以帮助涵盖更多 的风险领域 14 14 15 案例研究 #4 探索文本到图像技术 性别偏见生成器 16 17 18 案例研究 #5 SSRF在一个视频处理通用 人工智能应用中 08 第1课 能够做到的地方以及应用的范围 10 第三课 人工智能红队战术并非 安全基准评估 12 第五课 人工智能的人性化元素 红队 ...