Gesundheits-KI ist Vertrauenssache

Gesundheit ist Vertrauenssache. Das fängt bereits bei der zentralen Beziehung zu unseren Haus:ärztinnen an. Ihre digitale Entsprechung könnte eine Gesundheitsplattform oder ein virtueller Gesundheitsassistent als erste Anlaufstelle und Vermittler sein. Ob eine erste Einordnung von Beschwerden oder passende Empfehlungen zu weitergehenden Untersuchungen: Symptom-Checker wie Ada Health und in der Covid-Pandemie verwendete Chatbots sind bereits Vorstufen davon. Aber sind die Kriterien der Vertrauensbildung einer menschlichen Beziehung auch übertragbar auf die virtuelle Interaktion?

Die Basis einer Patienten-Arzt-Beziehung sind immerhin menschliche Umgangsformen. In erster Linie ist das die Frage nach der Empathiefähigkeit von Ärzt:innen: Verstehen sie mein Problem und meine Fragen, verstehe ich umgekehrt ihre Antworten? Auch KI-Systeme müssen ihre bisherige Schwäche der Erklärbarkeit ihrer Ergebnisse überwinden, um vertrauenswürdig sein zu können. Wenn diese Grundlage des Vertrauens vorhanden ist, bewährt sich das Verhältnis durch die Kompetenz der Behandlung.

KI-basierte Plattformen und Gesundheitsassistenten können durch ihre adaptive Fähigkeiten aufbauend auf Eigenschaften einer vertrauensvollen bestehenden Arzt-Patienten-Beziehung individuell auf Patient:innen eingehen, bspw. durch Avatare. Der Knackpunkt dabei ist ihre Empathiefähigkeit. Unterschiedliche Ansätze von KI-Systemen wollen die Emotionen von Menschen durch ihre Stimme oder ihre Gesichtszüge erkennen. Auch wenn sie sich dadurch noch nicht in Menschen mit ihren Gedanken hineinversetzen können, klappt eine grobe Einordnung ihrer Gefühlslage schon gut.

Dafür benötigen diese Systeme jedoch ausreichend Daten und Interaktion mit Nutzenden. Das dauert. Das Grundvertrauen, das ein Arzt bereits mit dem Erstbesuch schaffen kann, muss vom KI-System erst aufwendig gelernt werden. Erst mit der Zeit zeigt das KI-System durch die kontinuierliche Anpassung seiner Gesundheitsempfehlungen an die Nutzenden seine Stärken. Bis dahin ist es umgekehrt auf die Empfehlungen von Menschen angewiesen. Nur sie können das Grundvertrauen zum KI-System herstellen, gerade wenn die Wirksamkeit des Systems nicht direkt ersichtlich ist.

Den Stellenwert von Kundenempfehlungen und Erfahrungsberichte kennen Konsument:innen bereits von digitalen Plattformen. Spätestens wenn es von der digitalen Erstanlaufstelle zur therapeutischen Behandlung geht, werden Zertifikate für weiteres Vertrauen sorgen. Im stark reglementierten Gesundheitsbereich müssen sie das sogar, um ihre medizinische Wirksamkeit und Sicherheit zu gewährleisten, auch wenn das Medizinproduktegesetz noch nicht den lernenden Charakter von KI-Systemen berücksichtigt. Gerade der ist aber wichtig, damit sich auch die Therapie des Gesundheitsassistenten auf den individuellen Patienten anpassen kann.

Anfang 2021 hat die US-amerikanische Gesundheitsbehörde FDA Eckpunkte der Regulierung von KI-basierten Medizinprodukten veröffentlicht: den Software as a medical device (SaMD) action plan. Dabei tendiert die Regulierung von lernenden KI-Systemen auf eine Zertifizierung des Prozesses, der durch die Veränderung des Systemverhaltens ausgelöst wird.

Bereits heute sehen wir durch die Regelung des Einsatzes digitaler Gesundheitsanwendungen (DiGAs), wie Vertrauen durch die Überprüfung des Patientennutzens aufgebaut werden kann. Dieses Vertrauen ist aber auch bei Ärzt:innen nötig. Denn am Ende – oder besser gesagt am Anfang – bleiben es Ärzt:innen, die durch den vertrauensvollen Einsatz von KI-Systemen Grundvertrauen schaffen können. KI-Assistenten können die zeitlich gebundene Arzt-Patienten-Beziehung im Alltag fortführen und so die bestehende vertrauensvolle Beziehung ergänzen statt zu ersetzen. So stehen auch im Vertrauensverhältnis Ärzt:innen und KI-Systeme nicht in Konkurrenz, sondern verstärken ihre Kompetenzen. Der nützliche Einsatz von KI-Systemen durch Ärzt:innen stärkt so auch umgekehrt das Vertrauen der Patient:innen in ihre Ärzt:innen.

https://1e9.community/t/wie-laesst-sich-ein-grundvertrauen-in-gesundheits-ki-schaffen/9262

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.