面向患者的医疗 AI 绝对不应该做什么

介绍医疗 AI 产品时，最容易做的是列出它能做什么：总结报告、解释术语、回答问题或整理信息。

更困难、也更重要的工作，是明确它绝对不能做什么。

不能把解释说成诊断

患者工具可以识别模式或总结报告，但这并不等于它是诊断医生。诊断需要结合病史、体格检查、既往检查、化验结果和专业判断。

界面不能把可能性变成结论。“报告描述了一个可能的结节”不同于“你有一个结节”，这两句话也都不等于医学诊断。

不能建议患者改变治疗

AI 解释不应该告诉患者停药、延误就医、开始治疗或改变复查时间。即使报告中出现建议，工具也应该把它展示出来，并鼓励患者和负责的医生讨论，而不是自行制定新的方案。

如果患者有严重或迅速恶化的症状，系统应提供适当的紧急就医提示，而不应试图用聊天回答替代急救服务。

不能隐藏不确定性

医学语言中的不确定性有其原因。“很可能”“可能代表”“不能排除”和“建议结合临床”都承载着重要信息。

负责任的 AI 应该让不确定性更容易理解，而不是让它消失。同时还应保留否定、测量值、左右侧、与既往检查的比较以及报告建议。

不能暗示有医生审核，实际上却没有

患者有权知道解释是软件生成的、由放射科医生审核的，还是由其他专业人员检查过的。界面再精致，也不能让用户误以为存在实际的人类审核。

这项信息应该出现在结果附近，而不只是隐藏在页脚的法律文件里。

不能隐藏数据如何被处理

医学影像和报告可能包含敏感信息。用户应该知道上传了什么、哪些内容留在浏览器本地、服务器在哪里处理、哪些服务商会收到数据、文件保存多久，以及如何删除。

“已加密”是有用信息，但不是完整的隐私说明。用户需要用可执行的语言理解整个数据流转过程。

不能把患者变成营销对象

健康信息不应该悄悄变成广告画像。负责任的服务应当区分提供分析所需的数据与可选分析数据，说明任何二次使用，并提供真正有效的删除路径。

当患者发现一个声称保护隐私的工具却在无关网站跟踪自己时，信任就会被破坏。

清晰的边界本身就是产品能力

明确禁止事项并不说明产品弱小，反而说明团队认真考虑了产品可能如何失败，以及患者可能如何误解它。

好的患者医疗 AI 应帮助用户定位信息、理解术语、保留报告原意，并准备与医生沟通的问题。它应该在不假装成为医生的情况下发挥作用。

衡量标准不应是 AI 是否总能给出答案，而应是它是否知道什么时候回答会不安全，并且能否清楚地说出来。