Laut einer neuen Studie der Hebrew University treffen moderne KI-Systeme strukturierte Urteile über Menschen, die dem menschlichen Vertrauen ähneln, sich aber in der Methodik erheblich unterscheiden. Die in den *Proceedings of the Royal Society* veröffentlichte Studie analysierte über 43.000 simulierte Entscheidungen und rund 1.000 menschliche Teilnehmer in fünf Szenarien.
Zu diesen Szenarien gehörten die Bewertung von Kreditentscheidungen, die Beurteilung des Vertrauens in einen Babysitter, die Bewertung der Leistung eines Chefs und die Festlegung von Spenden an gemeinnützige Gründer. Sowohl Menschen als auch KI bevorzugten Personen, die als kompetent, ehrlich und gut gemeint wahrgenommen wurden.
Prof. Yaniv Dover erklärte: „KI trifft keine zufälligen Entscheidungen. Sie erfasst etwas Reales darüber, wie Menschen einander bewerten.“ Allerdings formen Menschen ganzheitliche Eindrücke durch die Integration mehrerer Merkmale, während KI einzelne Merkmale wie Kompetenz und Integrität bewertet.
Valeria Lerman erklärte: „KI ist sauberer, systematischer und das kann zu sehr unterschiedlichen Ergebnissen führen.“ Dieser strukturelle Ansatz war auch bei identischem Kontext über die beurteilten Personen offensichtlich.
Die Studie ergab, dass KI-Vorurteile systematischer, vorhersehbarer und manchmal stärker sein können als menschliche Vorurteile. Im Finanzkontext zeigten KI-Systeme erhebliche Unterschiede aufgrund demografischer Merkmale. Ältere Personen wurden bei Kredit- und Spendenentscheidungen häufig bevorzugt, während Religion und Geschlecht auch die Ergebnisse in ausgewählten KI-Modellen beeinflussten.
Insbesondere können unterschiedliche KI-Modelle zu unterschiedlichen Bewertungen derselben Person führen, was darauf hindeutet, dass die Wahl des KI-Systems erhebliche Auswirkungen auf die Ergebnisse in der Praxis haben kann. „Welches Modell Sie verwenden, ist wirklich wichtig“, bemerkte Lerman.
Große Sprachmodelle werden zunehmend zur Überprüfung von Stellenbewerbern, zur Beurteilung der Kreditwürdigkeit und zur Steuerung organisatorischer Entscheidungen eingesetzt. Auch wenn KI Aspekte des menschlichen Denkens widerspiegelt, fehlt ihr das differenzierte Verständnis, das nur Menschen bieten.
„Diese Systeme sind leistungsstark“, bemerkte Dover. „Sie können Aspekte des menschlichen Denkens auf konsistente Weise modellieren. Aber sie sind keine Menschen, und wir sollten nicht davon ausgehen, dass sie Menschen auf die gleiche Weise sehen wie wir.“
Die Forscher betonen, dass die Studie die Notwendigkeit hervorhebt, die Urteile der KI zu verstehen, wenn diese Systeme von Werkzeugen zu autonomen Entscheidungsträgern übergehen. Sie rufen zu Bewusstsein statt Vorsicht auf und konzentrieren sich auf die Notwendigkeit, zu verstehen, wie KI Vertrauen wahrnimmt.
