医疗AI 必须以“人机对齐”为前提

文 | 王江平 近年来，AI 技术如潮水般涌进各个领域，在带来效率革命的同时，也暴露出隐私泄露、歧视偏见、算 法滥用等伦理挑战。人们开始追问：AI 能否真正造福人类？如何避免其成为脱离掌控的"黑箱"？ 我国非常重视这一问题，提出《全球人工智能治理倡议》，出台《科技伦理审查办法（试行）》等一系 列政策法规。工信部正在研究编制人工智能科技伦理服务管理办法。这一系列动作，标志着我国 AI 伦 理治理进入了体系化推进阶段。 医疗是AI 应用的重要领域，医疗AI 只有解决了人机对齐问题后，才有望成为人类可以信赖的医疗助 手。 构建"技术向善"生态 从技术路线看，人机对齐正在成为治理AI 伦理问题的基本法则。 什么是人机对齐？简单来说，人机对齐就是通过技术手段与伦理框架，让AI 的目标、行为和输出与人 类价值观、社会规范完全一致，本质上是"技术人性化"的准入要求。它不是简单的技术调试，是一场涉 及技术、伦理、法律的系统性工程。 一是数据敏感性。医疗数据包含生理指标、病史、诊疗记录等敏感信息，直接关联个人生命权和隐私 权。欧盟《通用数据保护条例》（GDPR）、美国的HIPAA法案和我国《个人信息保护法》，都尤其强 调对医疗 ...