Sam Altman, CEO von ChatGPT, hat gewarnt, dass es im nächsten Jahr zu einem erheblichen Cyberangriff kommen könnte, der durch Fortschritte in der künstlichen Intelligenz vorangetrieben wird. Er betonte, dass diese Entwicklungen böswillige Akteure stärken könnten, was nicht nur zu Bedrohungen im Bereich der Cybersicherheit, sondern auch im Bioterrorismus führen könnte.
Altman erklärte in einem Interview mit Axios, dass sich viele Bedenken hinsichtlich der KI zwar auf ihre Auswirkungen auf Arbeitsmärkte und Umweltprobleme konzentrieren, die unmittelbaren Gefahren jedoch weitgehend unberücksichtigt geblieben seien. Er betonte das Potenzial für katastrophale Cyberangriffe, die durch fortschrittliche Open-Source-KI-Modelle ermöglicht werden und seiner Meinung nach den Angreifern beispiellose Möglichkeiten eröffnen könnten.
„Im nächsten Jahr werden wir erhebliche Cyberbedrohungen erleben, die wir abmildern müssen“, sagte Altman und warnte, dass das Risiko „völlig möglich“ sei. Er wies darauf hin, dass die Eindämmung dieser Bedrohungen erhebliche Anstrengungen erfordere, und plädierte für einen widerstandsfähigen Ansatz zur Cybersicherheit. „Es geht nicht nur darum, ein KI-Modell sicher zu machen“, fügte er hinzu. „Verteidiger müssen zusammenarbeiten.“
Altman diskutierte das Konzept eines „vertrauenswürdigen Zugriffsprogramms“, das darauf abzielt, die Zusammenarbeit zwischen KI-Unternehmen, Cybersicherheitsfirmen und Regierungen zu erleichtern, um die Systemsicherheit zu verbessern. Er wies darauf hin, dass die Wirksamkeit dieser Maßnahmen von entscheidender Bedeutung für die Behebung der Schwachstellen sei, die durch die sich schnell entwickelnden KI-Technologien entstehen.
Neben Cybersicherheitsbedrohungen warnte Altman, dass Fortschritte in der KI auch die Wahrscheinlichkeit von Bioterrorismus erhöhen könnten. Er erklärte, dass verbesserte KI-Modelle es Einzelpersonen ermöglichen könnten, biologische Prozesse auf anspruchsvollem Niveau zu manipulieren: „Dort werden wunderbare Dinge passieren, wir werden sehen, wie eine Reihe von Krankheiten geheilt werden“, sagte er. Er warnte jedoch davor, dass solche Fähigkeiten missbraucht werden könnten.
Altman betonte, dass die mögliche Normalisierung fortschrittlicher Open-Source-Modelle in der Biologie neue Risiken mit sich bringen könnte. „Das ist keine theoretische Sache mehr“, behauptete er und verwies auf die bevorstehende Herausforderung, terroristische Gruppen daran zu hindern, KI zur Entwicklung neuartiger Krankheitserreger zu nutzen.
Er kam zu dem Schluss, dass die Komplexität dieser Bedrohungen es schwierig macht, Lösungen zu finden, was darauf hindeutet, dass die Möglichkeit eines weitreichenden Schadens ohne angemessene Schutzmaßnahmen weiterhin hoch bleibt. Altman räumte ein, dass die aktuellen Strategien zur Bekämpfung dieser Bedrohungen keine endgültigen Antworten bieten, was ernsthafte Bedenken hinsichtlich der Zukunft der KI und ihrer Auswirkungen auf die globale Sicherheit aufkommen lässt.
