Künstliche Sprachmodelle (KI) weisen in der Entscheidungsfindung zur Zuteilung von Nierentransplantationen an Patienten signifikante Unterschiede zu menschlichen Ärzten auf. Forscher der Penn State University in den Vereinigten Staaten haben dieses Thema untersucht und gezeigt, dass KI-Modelle trotz größerem Selbstbewusstsein in der Bewertung verschiedener Faktoren und ethischer Komplexitäten der Entscheidungsfindung versagen.
Forschungsmethode und Ergebnisse
In dieser Studie präsentierten die Forscher hypothetische Szenarien an große Sprachmodelle, die auf vorhandenen Daten aus menschlichen Studien zur Zuteilung von Nieren basierten. Diese Szenarien beinhalteten zwei Patienten, Patient A und Patient B, die beide für den Erhalt einer einzelnen Niere qualifiziert waren und basierend auf Alter, Gesundheit und Trinkgewohnheiten beschrieben wurden. Der Entscheidungsträger musste wählen, welcher dieser beiden Patienten die Niere erhalten sollte.
Weiterlesen: Esther Rensen: Ich kann nicht nach Schweiz reisen, um mein Leben zu beenden
Hadi Hosseini, der Leiter dieser Studie, erklärte: "Wir haben diese Vergleiche auf verschiedene Arten durchgeführt. Manchmal haben wir ein Merkmal isoliert betrachtet und manchmal mehrere Merkmale kombiniert, um zu sehen, wie KI konkurrierende Faktoren gewichtet." Während menschliche Befragte in der Regel dem Alter mehr Bedeutung beimessen und jüngere Patienten bevorzugen, zeigten viele Modelle mehr Aufmerksamkeit für einen geringeren Alkoholkonsum.
Herausforderungen der KI-Entscheidungsfindung
Diese Forschung zeigte auch, dass KI-Modelle in der Konfrontation mit Unsicherheit und Zweifeln leicht an einer bestimmten Option festhalten. Während Menschen erkennen, dass es keine richtige und objektive Antwort gibt und Entscheidungen von menschlichen ethischen Urteilen abhängen können, verpflichten sich KI-Systeme ohne Zweifel zu einer Option. John Dickerson, CEO von Mozilla.ai, der an dieser Forschung beteiligt war, sagte: "Bei der Zuteilung knapper Ressourcen gibt es nicht immer eine objektive und richtige Antwort. Menschen erkennen diese Ungewissheit und übertragen sie durch offene Diskussionen in den Zuteilungsprozess, während KI-Modelle dies normalerweise nicht tun."
Angesichts dieser Ergebnisse wiesen die Forscher darauf hin, dass der Einsatz von KI-Modellen in ethischen Entscheidungsfindungen, insbesondere im Gesundheitswesen, einer sorgfältigen Überlegung bedarf. Hosseini sagte: "In Situationen wie der Zuteilung von Organen bestimmen ethische Entscheidungen direkt, wer überlebt und wer nicht, daher ist es nicht optional, die Rolle von KI in diesen Entscheidungen zu gestalten."
Diese Forschung zeigt deutlich, dass mit der Ausweitung der KI-Funktionen in sensiblen Bereichen wie dem Gesundheitswesen das Verständnis des Verhaltens und der Entscheidungen dieser Systeme zunehmend erforderlich wird. Dies wird besonders wichtig in Bereichen, in denen Entscheidungen schwerwiegende Konsequenzen für das Leben von Menschen haben können.
Weiterlesen: Ausbruch der Legionärskrankheit in der Bronx: Ein Opfer und mehrere neue Patienten · Können Menschen ihr Schicksal der künstlichen Intelligenz anvertrauen?
