KI sollte Unsicherheit erklären, nicht verbergen

Medizinische Berichte sprechen selten in absoluten Begriffen. Ein Radiologe kann Formulierungen wie „könnte darstellen“, „wahrscheinlich“, „unbestimmt“ oder „kann nicht ausschließen“ verwenden. Diese Phrasen sind keine Dekoration. Sie kommunizieren, wie stark die Beweise eine Interpretation stützen und was ungeklärt bleibt.

Wenn ein KI-System einen Bericht erklärt, besteht seine wichtigste Aufgabe möglicherweise darin, diese Unsicherheit zu bewahren.

Klare Sprache kann eine gefährliche Illusion erzeugen

Patienten wünschen sich verständlicherweise eine direkte Antwort. Ein Bericht, der besagt „eine kleine Opazität wurde festgestellt; eine Nachuntersuchung könnte in Betracht gezogen werden“, kann unvollständig wirken. Ein KI-Assistent könnte versucht sein, den Satz beruhigender oder entschiedener zu formulieren:

„Sie haben einen harmlosen Fleck.“

Dieser Satz ist leichter zu lesen, aber er entspricht möglicherweise nicht dem, was der Bericht aussagt. Das System hat die Unsicherheit entfernt und eine Schlussfolgerung hinzugefügt, die einem Kliniker vorbehalten ist, der Zugang zur Krankengeschichte, Untersuchung, früheren Bildern und dem vollständigen Bericht des Patienten hat.

Der gegenteilige Fehler ist ebenso schädlich. Die Aussage „ein Befund ist wahrscheinlich gutartig“ in „dies könnte Krebs sein“ zu verwandeln, kann unnötige Angst erzeugen. Flüssigkeit ist nicht dasselbe wie klinische Korrektheit.

Die Worte, die eine Erklärung überstehen müssen

Eine sichere Erklärung sollte mindestens fünf Arten von Informationen bewahren:

1. Unsicherheit: Wörter wie „möglich“, „wahrscheinlich“, „hinweisend“ und „unbestimmt“.
2. Verneinung: Phrasen wie „kein Hinweis auf“, „ohne“ und „negativ für“.
3. Messungen: die Zahl, Einheit und Lage einer Messung.
4. Vergleich: ob etwas neu, stabil, verbessert oder verändert ist seit einer vorherigen Untersuchung.
5. Empfehlungen: der Nachuntersuchungstest, Zeitrahmen oder die klinische Korrelation, die der Bericht vorschlägt.

Das Entfernen einer dieser Informationen kann die Bedeutung verändern. Eine patientenfreundliche Erklärung sollte den ursprünglichen Satz leichter verständlich machen, nicht durch eine stärkere Aussage ersetzen.

Erkläre die Unsicherheit selbst

Unsicherheit zu bewahren bedeutet nicht, Patienten mit unerklärter medizinischer Sprache allein zu lassen. Ein KI-System kann sagen:

„Der Bericht beschreibt diesen Befund als ‚wahrscheinlich‘, was bedeutet, dass der Radiologe ihn für die wahrscheinlichste Erklärung hält, basierend auf den Bildern, aber er wird nicht als bestätigte Diagnose präsentiert. Fragen Sie Ihren Kliniker, wie Ihre Symptome und früheren Scans seine Bedeutung beeinflussen.“

Diese Art der Antwort bietet Kontext, während die Grenze sichtbar bleibt. Sie erkennt an, was der Bericht sagt, was er nicht sagt und was professionelles Urteilsvermögen erfordert.

Ein praktischer Designtest

Jedes Erklärungstool sollte mit Sätzen getestet werden, die Verneinung, Lateralität, Vergleiche und bedingte Empfehlungen enthalten. Gutachter sollten den Originalbericht mit der generierten Erklärung vergleichen und fragen:

• Hat das System „kein“ oder „ohne“ bewahrt?
• Sind links und rechts korrekt geblieben?
• Hat es die Messung und Einheit beibehalten?
• Hat es eine Empfehlung von einer Diagnose unterschieden?
• Hat es angegeben, wann der Quelltext mehrdeutig war?

Dies sind einfache Überprüfungen, aber sie sind aussagekräftiger als die Frage, ob eine Antwort natürlich klingt.

Das Ziel ist ein informiertes Gespräch

Patientenorientierte KI sollte helfen, eine bessere Frage vorzubereiten, nicht eine endgültige Antwort zu fabrizieren. Sie kann erklären, warum ein radiologischer Bericht vorsichtige Sprache verwendet, den Abschnitt identifizieren, der eine Nachuntersuchungsempfehlung enthält, und einem Patienten helfen, eine Liste für den nächsten Termin zu erstellen.

Das ist eine wertvolle Rolle. Sie respektiert den Bericht, den Patienten und den Kliniker gleichermaßen.

Medizinische KI sollte Unsicherheit nicht verbergen, um intelligent zu erscheinen. Sie sollte Unsicherheit verständlich, sichtbar und handlungsfähig machen durch ein angemessenes Gespräch mit einem medizinischen Fachpersonal.

---