Google hat KI-Übersichten aus den Suchergebnissen für bestimmte medizinische Suchanfragen entfernt, nachdem eine Untersuchung des Guardian irreführende Informationen ergeben hatte. Die Untersuchung konzentrierte sich auf gesundheitsbezogene Suchanfragen, bei denen die KI-Zusammenfassungen unvollständige Details lieferten. Der Guardian berichtete, dass die Abfrage „Was ist der normale Bereich für Leberbluttests“ Ergebnisse lieferte, die Faktoren wie Nationalität, Geschlecht, ethnische Zugehörigkeit oder Alter nicht berücksichtigten. Dieses Versäumnis könnte dazu führen, dass Benutzer ihre Ergebnisse fälschlicherweise als gesund interpretieren, obwohl dies nicht der Fall ist. Ebenso führte die Frage „Was ist der normale Bereich für Leberfunktionstests“ zu demselben Problem. Nach der Untersuchung werden für genau diese Abfragen keine KI-Übersichten mehr angezeigt. Der Guardian überprüfte Variationen wie „lft reference range“ und „lft test reference range“, die zunächst noch KI-Zusammenfassungen generierten. Einige Stunden nach der Veröffentlichung der Geschichte bestätigten Tests von TechCrunch jedoch, dass keine dieser Varianten KI-Übersichten anzeigte. Google bot weiterhin eine AI-Modus-Option für die Abfragen an. In mehreren Fällen war das Top-Suchergebnis der Artikel des Guardian über die Entfernung. Ein Google-Sprecher sagte dem Guardian, dass das Unternehmen „keine Kommentare zu einzelnen Entfernungen innerhalb der Suche“ abgibt, sondern die laufenden Bemühungen betont, „umfassende Verbesserungen vorzunehmen“. Der Sprecher fügte hinzu, dass ein internes Team von Klinikern die hervorgehobenen Fragen überprüft und festgestellt habe, dass „in vielen Fällen die Informationen nicht ungenau waren und auch durch hochwertige Websites unterstützt wurden“. TechCrunch hat Google um weitere Kommentare gebeten. Im vergangenen Jahr führte Google Funktionen zur Verbesserung der Gesundheitssuche ein, darunter verbesserte Übersichten und gesundheitsorientierte KI-Modelle. Vanessa Hebditch, Direktorin für Kommunikation und Politik beim British Liver Trust, nannte die Entfernung „hervorragende Neuigkeiten“. Sie warnte jedoch: „Unsere größere Sorge bei all dem besteht darin, dass wir ein einzelnes Suchergebnis nicht auswählen und Google die KI-Übersichten dafür einfach abschalten kann, aber das größere Problem der KI-Übersichten für die Gesundheit wird dadurch nicht angegangen.“
Source: Google entfernt KI-Übersichten aus medizinischen Abfragen
