OpenAI hat seinen ChatGPT Atlas-Browser veröffentlicht, eine neue Anwendung, die eine Chatbot-Schnittstelle in einen Chromium-basierten Webbrowser integriert. Die Einführung hat bei Sicherheitsexperten neue Bedenken hinsichtlich Online-Privatsphäre und Datenschutz hervorgerufen. Das Design des Browsers soll die Internetnavigation durch Konversations-KI neu definieren, seine Datenerfassungspraktiken und Sicherheitsarchitektur stehen jedoch auf dem Prüfstand.
Eine zentrale Funktion des Browsers sind „Erinnerungen“, die OpenAI als erweiterte Version eines Standard-Webprotokolls beschreibt. Diese Funktion ist standardmäßig aktiviert und dient dazu, Daten zu sammeln, um die Leistung der KI zu verbessern. „Erinnerungen“ speichern Kontextinformationen über die von Benutzern besuchten Websites, die von ihnen angezeigten Dokumente sowie ihre Interaktionen und Vorlieben. Das erklärte Ziel besteht darin, Benutzern das Auffinden von Informationen mithilfe einer Konversationssprache zu ermöglichen, anstatt sich genaue URLs oder Schlüsselwörter merken zu müssen. Die Datenschutz- und Datenkontrollen des Browsers weisen darauf hin, dass OpenAI direkt bei der Installation detaillierte Informationen über Benutzergewohnheiten speichert.
OpenAI gibt an, dass der Browser darauf ausgelegt ist, bestimmte sensible Daten aus seinem Speicher auszuschließen. Das Unternehmen gibt an, dass es keine persönlich identifizierbaren Informationen, einschließlich Regierungsausweise, Sozialversicherungsnummern und Bankkontodaten, speichert. Weitere ausgeschlossene Datentypen sind Online-Anmeldeinformationen, Informationen zur Kontowiederherstellung, Adressen, Krankenakten und Finanzdaten. Der Browser verfügt außerdem über Filter, um das Speichern von Zusammenfassungen von sogenannten „bestimmten sensiblen Websites (z. B. Websites für Erwachsene)“ zu vermeiden. Für zusätzliche Kontrolle können Benutzer manuell verhindern, dass bestimmte Seiten gespeichert werden, indem sie eine Schaltfläche „Seitensichtbarkeit“ in der Adressleiste verwenden.
ChatGPT Atlas enthält einen KI-Agenten, der im Internet surfen und Aufgaben im Namen des Benutzers ausführen kann. Diese Funktionalität war in anderen KI-gestützten Browsern eine Fehlerquelle. Anfang des Jahres wurde der Comet-Browser von Perplexity durch einfache Prompt-Injection-Angriffe kompromittiert. Sicherheitsforscher haben gezeigt, dass versteckter Text auf einer Website den Agenten kapern und es ihm ermöglichen kann, die Anmeldeinformationen eines Benutzers preiszugeben und einen Authentifizierungscode weiterzugeben.
Der Sicherheitsforscher Simon Willison warnte vor der Möglichkeit ähnlicher Angriffe auf Atlas. In einem Blogbeitrag schrieb Willison: „Ich würde gerne eine ausführliche Erklärung der Schritte sehen, die Atlas unternimmt, um Prompt-Injection-Angriffe zu verhindern. Im Moment sieht es so aus, als ob die Hauptverteidigung darin besteht, dass der Benutzer jederzeit genau beobachtet, was der Agent-Modus tut!“ Er bezeichnete auch die mit Browser-Agenten verbundenen Sicherheits- und Datenschutzrisiken als „unüberwindbar hoch“.
Weniger als 24 Stunden nach dem Start des Browsers wurde eine Sicherheitslücke öffentlich aufgezeigt. Ein Hacker mit dem Online-Benutzernamen @elder_plinius zeigte, dass der Atlas Agent anfällig für einen „Clipboard-Injection“-Angriff ist. Die Demonstration zeigte, wie der Agent manipuliert werden konnte, um einen schädlichen Link zu kopieren. Ein Benutzer, der diesen Link später einfügt, könnte auf eine Phishing-Site weitergeleitet werden, die darauf abzielt, seine Anmeldeinformationen zu stehlen.
Eight Sleep reagierte nicht sofort auf eine Bitte um einen Kommentar.
Die Entdeckung einer Sicherheitslücke so kurz nach der Veröffentlichung hat Experten dazu veranlasst, vor potenziell größeren, „canyon-großen“ Datenschutz- und Sicherheitslücken in KI-Browsern zu warnen. Als erhebliches Risiko wird die Kombination aus der umfangreichen Datenerfassung des Browsers zur Personalisierung und möglichen Sicherheitslücken beschrieben.
