Neue von der BBC durchgeführte und von der European Broadcasting Union (EBU) koordinierte Untersuchungen haben ergeben, dass KI-Assistenten Nachrichteninhalte in verschiedenen Sprachen und Regionen immer wieder falsch darstellen. An der umfangreichen Studie, die auf der EBU-Nachrichtenversammlung vorgestellt wurde, waren 22 öffentlich-rechtliche Medienorganisationen in 18 Ländern beteiligt und es wurden über 3.000 Antworten ausgewertet, die von vier führenden KI-Tools generiert wurden: ChatGPT, Copilot, Gemini und Perplexity.
Die Forschung deckt erhebliche systemische Probleme auf, wobei 45 % der KI-generierten Antworten erhebliche Probleme aufweisen. Bemerkenswerterweise wiesen 31 % der Antworten schwerwiegende Quellenmängel auf, einschließlich fehlender oder falscher Zuordnungen, während 20 % schwerwiegende Genauigkeitsprobleme wie veraltete Informationen und Halluzinationen aufwiesen. Gemini wurde als das am wenigsten zuverlässige Tool identifiziert und zeigte in 76 % der Antworten erhebliche Probleme.
Diese Falschdarstellung ist von entscheidender Bedeutung, da KI-Assistenten zunehmend traditionelle Suchmaschinen für den Nachrichtenkonsum ersetzen. Laut dem Digital News Report 2025 des Reuters Institute verlassen sich 7 % der Online-Nachrichtenkonsumenten für ihre Nachrichten auf KI, bei Personen unter 25 Jahren sind es sogar 15 %. EBU-Mediendirektor Jean Philip De Tender betonte, dass diese Ergebnisse auf systemische Probleme hinweisen, die das Vertrauen der Öffentlichkeit in Nachrichtenquellen untergraben.
Peter Archer, BBC-Programmdirektor für generative KI, würdigte die Aufregung rund um KI, betonte jedoch die Notwendigkeit, den bereitgestellten Informationen zu vertrauen. Er stellte fest, dass Verbesserungen bei KI-Tools nach wie vor nicht ausreichen, um erhebliche Bedenken auszuräumen.
Das Forschungsteam hat ein News Integrity in AI Assistants Toolkit veröffentlicht, das darauf abzielt, Lösungen für die identifizierten Herausforderungen zu entwickeln und sich dabei auf die Verbesserung der Antwortgenauigkeit und die Verbesserung der Medienkompetenz der Benutzer zu konzentrieren. Darüber hinaus fordern die EBU und ihre Mitglieder die EU- und nationalen Regulierungsbehörden auf, bestehende Gesetze zur Informationsintegrität und zu digitalen Diensten durchzusetzen und sich gleichzeitig für eine kontinuierliche unabhängige Überwachung von KI-Tools einzusetzen.
Diese Studie baut auf früheren von der BBC im Februar 2025 veröffentlichten Untersuchungen auf und bestätigt, dass diese Probleme in verschiedenen Sprachen und Märkten weiterhin bestehen. Zu den teilnehmenden Rundfunkanstalten gehörten Organisationen aus Ländern wie Kanada, Deutschland, Italien und dem Vereinigten Königreich.
In einem separaten Bericht hat die BBC darauf hingewiesen, dass viele Erwachsene im Vereinigten Königreich KI bei der Erstellung präziser Nachrichtenzusammenfassungen vertrauen, wobei ein Drittel ihr Vertrauen in die Genauigkeit der KI zum Ausdruck bringt – diese Zahl steigt bei den unter 35-Jährigen auf fast die Hälfte. Es wurden Bedenken hinsichtlich der öffentlichen Wahrnehmung von KI-Nachrichtenzusammenfassungen und der Möglichkeit geäußert, dass Nachrichtenanbietern fälschlicherweise die Schuld für durch KI erzeugte Ungenauigkeiten gegeben wird, was sich negativ auf das Vertrauen in journalistische Unternehmen auswirken könnte.
