Die meisten Suchmaschinen verfügen mittlerweile standardmäßig über KI-generierte Übersichten, was Bedenken hinsichtlich der Genauigkeit aufkommen lässt und den Klickverkehr verringert. Obwohl Tests darauf hinweisen, dass die KI-Übersichten von Google weitgehend zuverlässig sind, führt das hohe Abfrageaufkommen täglich zu Millionen von Ungenauigkeiten.
Laut der New York Times enthält etwa jede zehnte Google AI-Suchübersicht falsche Informationen. Google verarbeitet jährlich rund 5 Billionen Anfragen und setzt Nutzer theoretisch jede Stunde mit über 57 Millionen ungenauen Antworten aus – fast 1 Million pro Minute.
Diese Statistiken gehen aus einer Analyse des KI-Startups Oumi hervor, das 4.326 Suchanfragen untersuchte, um die Genauigkeit von Googles KI-Assistenten Gemini zu bewerten. Oumi berichtete, dass Gemini Version 2 im Oktober in 85 Prozent der Fälle genaue Übersichten lieferte. Eine verbesserte Version, Gemini 3, steigerte die Genauigkeit bis Februar auf 91 Prozent.
Oumis Analyse stützt sich jedoch auf KI-Tools, was ebenfalls zu Fehlern führen kann. Darüber hinaus erstellt Google manchmal unterschiedliche KI-Übersichten für dieselbe Abfrage, wenn diese im Sekundenabstand wiederholt wird.
Ein Google-Sprecher kritisierte den Oumi-Test und bezeichnete ihn als fehlerhaft und nicht repräsentativ für das tatsächliche Suchverhalten. Interne Untersuchungen von Google zeigen, dass Gemini 3 in 28 Prozent der Fälle halluziniert, wenn es unabhängig von der Google-Suche funktioniert.
Es gibt auch erhebliche Probleme bei der Beschaffung. Google möchte seine KI-Übersichten mit relevanten Links untermauern; Allerdings stützen viele dieser Links die Behauptungen von Gemini nicht. Die Diskrepanzen zwischen KI-Übersichten und den zitierten Quellen stiegen nach dem Februar-Update von 37 Prozent für Gemini 2 auf 56 Prozent für Gemini 3.
Forscher betonten die Anfälligkeit von KI-Übersichten für Manipulationen; In einem Fall ging es um einen BBC-Journalisten, dessen falsche Behauptungen von Google am folgenden Tag wiederholt wurden. Sowohl Google als auch andere KI-Unternehmen erkennen in ihren Haftungsausschlüssen die Unzuverlässigkeit der Technologie an.
