Wo setzt ärztliche Kontrolle bei KI-gestützter Auskultation an – beim Hören, bei der Interpretation oder bei der finalen Entscheidung? Laut Nadine Schlicker hängt das vom Aufsichtslevel ab: In der direkten Patientensituation muss der gesamte Prozess beaufsichtigt werden. Sobald KI-Systemen aber grundsätzlich vertraut wird, brauche es zusätzlich eine übergeordnete Monitoring-Instanz, die Auffälligkeiten in Diagnosehäufigkeiten erkennt – etwas, das einzelne Behandler am Patienten nicht leisten können.
Bisheriger Forschungsfokus war die Kalibrierung von Vertrauen in KI. Schlicker macht jedoch deutlich: Das allein greift zu kurz. Sinkt das Vertrauen in die KI gleichzeitig mit der eigenen diagnostischen Sicherheit, wird das System trotzdem genutzt. Es brauche einen klar definierten Referenzstandard – also Bereiche, in denen KI eingesetzt werden darf und in denen nicht. Erst dann lässt sich überhaupt definieren, wann zu viel oder zu wenig vertraut wurde.
Wenn ein KI-System eine 99%ige Sicherheit ausgibt, müsse dieser Wert in der Realität verankert sein – also auch tatsächlich in 99% der Fälle korrekt. Fehlt diese Kalibrierung, drohe Scheinsicherheit. Ohne verlässliche Wahrscheinlichkeitsangaben wird es laut Schlicker schwierig, sinnvolle Einsatzbereiche zu definieren – statt Effizienzgewinn entstünde dann nur zusätzlicher Kontrollaufwand.
Studien belegen seit Jahren einen Rückgang der Auskultationskompetenz – unabhängig von KI. Die entscheidende Frage sei daher nicht, ob De-Skilling passiert, sondern ob es klinisch relevant ist. Hält man den Skill für essenziell, müssten – analog zu Piloten im Autopilot-Betrieb – aktive Erhaltungsstrategien her. Wenn nicht, stelle sich die Frage, wie effektive menschliche Aufsicht in einer Welt ohne souveräne Auskultierende überhaupt noch funktionieren kann.
Aktuell trägt der Arzt die Letztverantwortung – auch für Black-Box-Entscheidungen der KI. Schlicker hält das für strukturell problematisch: Wer Kontrolle abgibt, aber Verantwortung behält, gerät in eine arbeitspsychologisch ungünstige Konstellation. Ihre Forderung: In klar definierten Sicherheitsbereichen müsse die Verantwortung auch beim Hersteller liegen – sonst sei weder Patientensicherheit noch ärztliche Arbeitszufriedenheit nachhaltig gewährleistet.