面向患者的医学影像 AI 的五项责任原则
一套实用的治理框架，围绕明确用途、忠实沟通、人工监督、隐私保护和持续评估设计患者影像 AI。
面向患者的人工智能可以让医学影像信息更容易接近，但“容易访问”本身还不够。一个清晰的回答仍然可能错误、不完整、出现时机不当，或被用于超出设计范围的场景。
负责任的设计首先要问一个治理问题，而不是技术问题：这个系统应该被允许在患者的医疗过程中扮演什么角色？
下面五项原则，为开发或部署放射科报告解释工具的机构提供一个实用起点。它们不能替代法律、监管、临床、隐私或安全审查，但可以帮助产品决策更接近患者安全和可信沟通。
1. 明确预期用途，以及用途边界
产品应该准确说明自己做什么。“使用 AI 处理医学影像”不是足够清晰的用途描述。以下功能的风险并不相同：
- 解释一般放射科术语；
- 识别已有报告的章节；
- 将报告改写成通俗语言；
- 为就诊准备问题；
- 分析医学影像；
- 检测、诊断或预测疾病；
- 建议治疗或复查。
从教育走向诊断或治疗，会改变风险和可能适用的监管要求。FDA 说明，医疗器械监管与预期用途和技术特征有关；用于诊断、治疗、缓解或预防的 AI 功能可能属于医疗器械框架。FDA 关于 AI 医疗器械
预期用途应在营销、界面、引导、输出、内部测试和客服中保持一致。免责声明不能修正一个主要体验仍然鼓励患者把教育性输出当作诊断的产品。
实用控制
- 写出一句话的预期用途说明；
- 列出明确禁止或不支持的用途；
- 没有相应验证和授权时，避免诊断性宣传；
- 不让营销语言超过现有证据；
- 每次功能或模型变化时重新评估用途边界。
2. 保留原始信息的含义
通俗表达应该简化词汇，而不是改变临床含义。影像报告中的否定、不确定性、左右侧、解剖位置、测量值、既往比较、复查建议和技术限制都必须保留。
解释工具应尽可能展示原始来源，并让用户知道一句话来自放射科报告，还是由系统生成。这样既有助于发现错误，也能减少用户把漂亮的总结当成医疗记录替代品的风险。
实用控制
- 将原文与解释并列显示；
- 自动检查否定、左右侧、测量值和日期；
- 禁止加入没有来源支持的内容；
- 保留不确定性，不要替换成绝对化语言；
- 原文含糊或互相矛盾时提示人工确认，而不是猜测。
3. 让人类继续对临床决定负责
世界卫生组织将人类自主、安全、透明、问责、包容和可持续视为医疗 AI 的重要原则。人类应继续控制医疗系统和医疗决定。WHO 人工智能健康伦理与治理
对患者影像工具来说，“人工监督”必须具体。产品一边给出自信的诊断，一边笼统要求“咨询医生”，并不能算真正的人工监督。
系统应帮助用户找到合适的下一位联系人：开具检查的医生、放射科医生、专科医生、全科医生或急救服务。它也应说明，负责的专业人员会结合病史、症状、体检和其他检查来判断报告。
实用控制
- 不独立开始、停止或改变治疗；
- 不替换报告中的复查建议；
- 提供清晰的专业复核路径；
- 使用不依赖 AI 安慰的症状型急诊提示；
- 让用户能够报告错误或有害输出。
4. 把隐私和安全视为临床安全问题
影像报告可能包含姓名、出生日期、病历号、检查日期、诊断和其他敏感信息。机构应只收集完成既定用途所必需的数据，并解释数据如何被处理。
隐私说明应该回答：上传了什么？保存多久？是否用于训练或改进模型？哪些服务商会接收？在哪里处理？用户能否删除？访问控制、加密、留存和安全事件如何管理？
要求会因司法辖区和商业模式不同而变化，应由合格的隐私和法律专业人员进行评估。安全同样影响临床信任：即使模型本身正确，报告被篡改、患者记录混淆或未经授权披露，也可能造成伤害。
实用控制
- 尽量减少数据收集和保留时间；
- 在适当情况下提示用户删除不必要的身份信息；
- 可靠隔离用户账户和患者记录；
- 在适用的基础设施上使用传输和静态加密；
- 记录服务商和数据流向；
- 测试删除、访问控制、审计日志和事件响应。
5. 在真实使用环境中持续评估
受控测试集上的表现，不等于在所有人群和工作流中都安全。不同机构、检查方式、语言、报告风格和患者群体都会带来差异。
评估不能只看一个准确率数字，还应问：系统是否保留临床含义？患者是否理解不确定性？用户能否区分教育和诊断？输出是否帮助患者提出更好的问题？某些报告类型或人群是否更容易得到较差解释？输入不完整或超出范围时会发生什么？
实用控制
- 使用覆盖不同报告类型和人群的测试集；
- 让放射科医生、临床医生、患者、安全和无障碍专家参与评估；
- 监测真实错误和险些造成伤害的事件；
- 对模型、提示词、政策和评估结果做版本管理；
- 定义回滚或暂停阈值；
- 重大系统变化后重新验证。
治理必须出现在产品里
负责任的 AI 不是发布一份用户永远不会看到的原则文档。治理应该直接出现在使用体验中：上传前的用途说明、易读的隐私信息、原文与生成解释并列、可见的不确定性和限制、报告内容与 AI 内容的清晰区分、专业复核入口，以及纠错和删除机制。
这些设计可能让产品看起来不如“直接给一个确定答案”的工具那么轻松，但这种摩擦有时正是保护措施。在医疗领域，信心应该跟随证据，而不能替代证据。
给医疗机构负责人的检查清单
采用患者影像 AI 前，机构应能清楚回答：
- 系统具体要完成什么任务？
- 哪些任务明确不在范围内？
- 有哪些证据支持它在目标用户中的表现？
- 它如何保留不确定性、否定、左右侧和测量值？
- 用户能否追溯解释对应的原始报告？
- 谁对临床决定负责？
- 隐私、留存、删除和安全如何处理？
- 错误如何报告、调查和修正？
- 如何跨人群、跨时间监测表现？
- 什么情况会触发升级、回滚或暂停？
如果这些问题无法清楚回答，部署可能还为时过早。
从有帮助的语言走向可信系统
患者影像 AI 的价值，不是把医生从流程中移除，而是帮助患者在复杂的信息环境中理解资料、认识自动解释的限制，并更有效地参与医疗沟通。
可信系统需要明确用途、保留来源、让人类负责、保护敏感信息，并在上线后继续测试。这些做法不是创新的阻碍，而是让有用的创新能够长期存在的基础。
参考资料
- World Health Organization. 人工智能健康伦理与治理。
- World Health Organization. 关于安全、合乎伦理的医疗 AI。
- U.S. Food and Drug Administration. 人工智能医疗器械。
- U.S. Food and Drug Administration, Health Canada, and MHRA. 机器学习医疗器械透明度原则。
- RadiologyInfo.org. 关于放射科报告。