Die Google-Suche ist ein Tool, das wir alle fast reflexartig nutzen, und Änderungen an ihrem Verhalten können einen großen Einfluss darauf haben, wie wir Informationen online finden.
Kürzlich hat Google eine Funktion eingeführt: Google SGE, wo einige Suchergebnisse jetzt KI-generierte Zusammenfassungen enthalten. In einem aktuellen Begrenzter Rollout, der einige US-Benutzer betrifftGoogles neue Funktion mit KI-zusammengefassten Ergebnissen äußerte Bedenken hinsichtlich der Moderation.
Obwohl Google beabsichtigt, dass dies hilfreich ist, scheinen diese Zusammenfassungen eine zu haben unbeabsichtigte dunkle Seite. Es gibt einen besorgniserregenden Aufwärtstrend Betrugs- und Malware-Websites werden vorgestellt in diesen KI-Zusammenfassungen.
Was ist das Besondere an KI-generierten Zusammenfassungen?
Die Idee hinter dieser Funktion ist ziemlich einfach: Google möchte schnelle Antworten liefern, ohne dass Sie eine Reihe von Websites besuchen müssen. Bei manchen Abfragen – etwa „Wie viele Esslöffel sind in einer Tasse“ – können KI-Zusammenfassungen sehr nützlich sein. Allerdings sind KI-generierte Antworten manchmal unvollständig, irreführend oder einfach falsch.
Noch besorgniserregender ist, dass sie manchmal gefährliche Inhalte aktiv fördern.
Entdeckt von Lily Ray auf Xdie KI-gestützte Suche von Google, SGE, empfiehlt Spam-Sites als Teil einer Antwort:
OH GUT.
SGE WIRD ALS TEIL DER ANTWORT AUCH DIE SPAM-SEITEN EMPFEHLEN. pic.twitter.com/wqgFFXqbMB
– Lily Ray (@lilyraynyc) 22. März 2024
Dies hat erhebliche Auswirkungen auf die Online-Sicherheit. Suchmaschinen sind unser Tor zum Internet und viele Nutzer vertrauen den Top-Ergebnissen implizit. KI-generierte Zusammenfassungen, die wie legitime Antworten aussehen, können Betrügereien zusätzliche Glaubwürdigkeit verleihen.
Wie wird die KI von Google ausgetrickst, um betrügerische Zusammenfassungen zu erhalten?
SEO-Spezialisten (Suchmaschinenoptimierung) und weniger gewissenhafte Websitebesitzer manipulieren seit langem Suchalgorithmen, um das Ranking ihrer Website zu verbessern. Jetzt werden dieselben Techniken verwendet, um der KI von Google irreführende Informationen zuzuführen, mit dem Ziel, diese Zusammenfassungen zu kapern.
Hier ist ein Beispiel, wie das funktionieren könnte:
- Betrugs-Setup: Ein Betrüger erstellt eine Website, auf der er ein Angebot anbietet, das zu schön ist, um wahr zu sein, etwa ein stark reduziertes iPhone
- Algorithmenspiele: Sie füllen ihre Website mit Schlüsselwörtern und Inhalten, die darauf ausgelegt sind, sie relevant erscheinen zu lassen, auch wenn sie voller gefälschter Rezensionen und technischem Kauderwelsch ist
- KI überlistet: Die KI von Google durchsucht die Website nach Informationen, übersieht die trügerischen Muster und wird zu der Annahme verleitet, die Website sei eine großartige Ressource
- Gefährliche Zusammenfassung: Wenn jemand nach Informationen zu diesem Produkt sucht, generiert die KI eine Zusammenfassung, in der die Betrugsseite deutlich hervorgehoben wird
Vertraue der Maschine nicht (völlig)
Während Google hoffentlich die Fähigkeit seiner KI verbessern wird, schädliche Inhalte zu erkennen und herauszufiltern, ist es wichtig, sich der Risiken bewusst zu sein.
So bleiben Sie auf der sicheren Seite:
- Überprüfen Sie die Quellen noch einmal: Nehmen Sie sich auch bei KI-Zusammenfassungen einen Moment Zeit, um die vorgeschlagene Website zu untersuchen. Suchen Sie nach Anzeichen für fragwürdige Webadressen (wie ungewöhnliche Top-Level-Domains wie .online), generischem Website-Design oder einer Überfülle an positiven Bewertungen, die zu ähnlich erscheinen
- Die traditionelle Suche ist immer noch Ihr Freund: Verzichten Sie nicht komplett auf das Scrollen durch die Standard-Suchergebnisse. Etablierte, seriöse Websites bieten oft immer noch die genauesten Informationen
- Skeptizismus ist ein Schutzschild: Wenn ein Deal unglaublich gut erscheint, ist er es mit ziemlicher Sicherheit auch. Lassen Sie sich nicht von Angeboten mitreißen, die zu gut sind, um wahr zu sein, auch wenn eine Google-Zusammenfassung sie zu bestätigen scheint
Das wegnehmen? KI-Fortschritte erfordern Vorsicht
Obwohl KI das Potenzial hat, viele Online-Aufgaben zu rationalisieren, ist es wichtig, sich ihrer Grenzen und ihres Missbrauchspotenzials bewusst zu sein. KI-generierte Zusammenfassungen können ein gemischtes Bild sein.
Bis die Fähigkeit, fragwürdige Websites zu erkennen, verbessert wird, sollten Sie bei Ihren Suchergebnissen eine gesunde Portion kritisches Denken anwenden.
Hervorgehobener Bildnachweis: Google YouTube