迈向人工智能的认识论：对人工智能安全和部署的影响以及十大典型问题

忠实度作为一项要求。对于高风险人工智能，我们可以考虑在认证过程中 强制要求一定程度的推理透 明度 。例如，监管机构（例如医疗人工智能的 FDA 或航空人工智能的 FAA）可以要求人工智能系统在 测试条件下证明，它能够为 X% 的案例生成正确且忠实的思路链。或者，它通过了可解释性检查，没 有明显隐藏的恶意策略。《 欧盟人工智能法案》 和其他新兴法规强调，高风险系统的透明度和可解释 性是一项法律要求。这并不意味着每个决策都必须向最终用户提供完整的解释，但 开发人员 应该有系 统如何做出决策的文档，并在需要时提供解释 工具。例如，医疗人工智能可以附带一张"模型卡"，概 述已知的决策因素，并包含审计的示例解释。 人机交互和故障保护。在我们对人工智能推理能力充满信心之前，谨慎的做法是 让人类参与 最终决 策。人工智能可以起草分析报告，但人类专家应该予以批准，尤其是在不可逆或敏感结果（例如诊断患 者或刑事司法中的量刑）方面。人工智能的思路可以呈现给人类进行更快的验证——例如，"由于实验 室结果 A 和症状 B，人工智能建议采用 X 疗法"——这样人类就无需猜测其背后的原因。从某种意义上 说，人工智能变成了一个负责分析案例 ...