Ärztliche Fehlerquote verbessert KI-Akzeptanz

Medizinroboter: Fair und vertrauenswürdig gegenüber Patienten (Foto: pixabay.com, StockSnap)

Bethlehem/Seattle (pte010/16.10.2024/10:30) - Laut einer Studie der Lehigh University ( https://www2.lehigh.edu ) und der Seattle University ( https://www.seattleu.edu ) sind Patienten für medizinische Empfehlungen einer Künstlichen Intelligenz (KI) empfänglicher, wenn ihnen die Befangenheit bei menschlichen Entscheidungen im Gesundheitswesen bewusster wird. Dieser "Salienz-Bias" oder Aufmerksamkeits-Bias hat die Wahrnehmung laut Studie tatsächlich verändert.

Mehr Fairness und Vertrauen

Laut der Marketing-Expertin Rebecca J. H. Wang beruht die gesteigerte Aufgeschlossenheit gegenüber KI darauf, dass Voreingenommenheit als eine grundlegend menschliche Unzulänglichkeit gilt. Demgegenüber stehe die Wahrnehmung der Integrität der KI. Sie definiere sich über die im Vergleich zum Menschen stärker wahrgenommene Fairness und Vertrauenswürdigkeit von "AI Agents", also von Software- und Hardware-Entitäten, die autonom Aufgaben erledigen.

Im Rahmen der Studie haben die Forscher sechs Experimente mit fast 1.900 Teilnehmern durchgeführt. Hat man sie an menschliche Vorurteile in der medizinischen Versorgung erinnert, wurden sie für KI-Empfehlungen empfänglicher. Zu diesen Vorurteilen gehörte auch eine unterschiedliche Behandlung, die auf Charakteristika wie dem Geschlecht eines Patienten beruht.

Keine Altersdiskriminierung

Den Teilnehmern wurden verschiedene Szenarien präsentiert, in denen sie eine Empfehlung oder Diagnose bei Erkrankungen wie einem Koronararterien-Bypass oder Hautkrebs brauchten. Anschließend wurden sie gefragt, ob sie eine Empfehlung von einem Menschen oder von einem Computer/KI-Assistenten bevorzugen würden. Zuvor wurden einem Teil der Personen frühere Szenarien gezeigt, die ihren Aufmerksamkeits-Bias verbessern sollte. Dazu gehörten Infografiken, die verbreitete kognitive Verzerrungen zeigten und beschrieben, was es bedeutete, wenn diese sich für die Betroffenen negativ auswirkten.

Insbesondere die Altersdiskriminierung bei Patienten über 50 Jahren und eine geschlechtsspezifische Voreingenommenheit wurden thematisiert. Die in "Computers in Human Behavior" veröffentlichten Ergebnisse zeigen schließlich auch, dass beim Fehlen eines Salienz-Bias die Subjektivität des menschlichen medizinischen Personals häufig als positiv angesehen wird. Ist dieser Bias jedoch hoch, legen die Patienten mehr Wert auf die wahrgenommene Objektivität der KI.

(Ende)