以下文章来源于AGI接口 ，作者陈广晶 AGI接口 . AI卷起的财富风暴。 出品 | 虎嗅科技医疗组 作者 | 陈广晶 编辑 | 苗正卿 头图 | AI生成 指望"赛博医生"整顿医疗的人们又失望了。 试想一种尖端的医疗技术，可以治好你的疾病，但是医生因为不掌握信息，推荐你用了传统的治 疗手段，恢复效果远不如采用新技术的病友。知道真相后，你会不会感到恼火？ 同样的情况，如果发生在赛博医生身上，原因不再是信息滞后，而是AI根据你的性别或者收入水 平作出了这样的选择呢？ 近期国际上一系列研究表明，越来越聪明的大模型，把医疗领域"看人下菜碟"的问题也放大了。 美国西奈山伊坎医学院和西奈山卫生系统的研究者在其发表在 Nature 子刊上的研究成果显示，被 标记为"高收入"的人群更可能获得CT和核磁检查的机会，中低收入病例则通常被安排做基本检查 或不进行检查。 而被标注为"无住房"等信息的患者则会更频繁被指向紧急护理、侵入性干预或心理健康评估。 这项研究评估了9个自然语言大模型，涉及1000个急诊病例（ 500个真实病例和500个合成病例 ） 的170万个看诊结果。 更早的研究显示，AI仅凭X射线就能预测出患者的种族、 ...

文 | 王江平 近年来，AI 技术如潮水般涌进各个领域，在带来效率革命的同时，也暴露出隐私泄露、歧视偏见、算 法滥用等伦理挑战。人们开始追问：AI 能否真正造福人类？如何避免其成为脱离掌控的"黑箱"？ 我国非常重视这一问题，提出《全球人工智能治理倡议》，出台《科技伦理审查办法（试行）》等一系 列政策法规。工信部正在研究编制人工智能科技伦理服务管理办法。这一系列动作，标志着我国 AI 伦 理治理进入了体系化推进阶段。 医疗是AI 应用的重要领域，医疗AI 只有解决了人机对齐问题后，才有望成为人类可以信赖的医疗助 手。 构建"技术向善"生态 从技术路线看，人机对齐正在成为治理AI 伦理问题的基本法则。 什么是人机对齐？简单来说，人机对齐就是通过技术手段与伦理框架，让AI 的目标、行为和输出与人 类价值观、社会规范完全一致，本质上是"技术人性化"的准入要求。它不是简单的技术调试，是一场涉 及技术、伦理、法律的系统性工程。 一是数据敏感性。医疗数据包含生理指标、病史、诊疗记录等敏感信息，直接关联个人生命权和隐私 权。欧盟《通用数据保护条例》（GDPR）、美国的HIPAA法案和我国《个人信息保护法》，都尤其强 调对医疗 ...