Eine Gruppe von KI-Experten und Tech-Führungskräften, darunter Elon Musk und Apple-Mitbegründer Steve Wozniak, hat eine offener Brief Führende Labore für künstliche Intelligenz werden aufgefordert, die Entwicklung von KI-Systemen zu unterbrechen, die weiter fortgeschritten sind als GPT-4. Der offene Brief, der am Dienstag vom gemeinnützigen Future of Life Institute veröffentlicht wurde, hat rund 1.000 Unterzeichner und nennt als Grund für den Aufruf zum Handeln „tiefgreifende Risiken“ für die menschliche Gesellschaft.
Das Schreiben fordert einen sofortigen Trainingsstopp von Systemen für mindestens sechs Monate, der öffentlich und überprüfbar sein und alle öffentlichen Akteure einbeziehen muss. „KI-Systeme mit menschlicher Wettbewerbsintelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungen zeigen und von führenden KI-Laboren anerkannt werden“, beginnt der Brief.
KI-Experten schlagen Alarm wegen „tiefgreifender Risiken“ für die menschliche Gesellschaft
Die Gruppe argumentiert, dass fortschrittliche KI-Systeme eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen könnten und mit entsprechender Sorgfalt und Ressourcen geplant und verwaltet werden sollten. Sie sagen jedoch, dass dieses Maß an Planung und Management nicht stattfindet, obwohl KI-Labore in den letzten Monaten in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe gefangen waren, die niemand, nicht einmal ihre Schöpfer, verstehen kann , vorhersagen oder zuverlässig kontrollieren.
Der offene Brief kommt nur ein paar Wochen nach dem öffentlichen Debüt von OpenAIs GPT-4, dem großen Sprachmodell, das die Premium-Version des äußerst beliebten Chatbots ChatGPT antreibt. Das neue GPT-4 kann komplexere Aufgaben bewältigen und nuanciertere Ergebnisse liefern als frühere Versionen und ist laut OpenAI auch weniger anfällig für die Fehler früherer Versionen.
Systeme wie GPT-4 müssen für ihre Arbeit mit großen Datenmengen trainiert werden, auf die sie dann zurückgreifen können, um Fragen zu beantworten und andere Aufgaben auszuführen. ChatGPT, das im November auf den Markt kam, hat eine menschenähnliche Fähigkeit, Arbeits-E-Mails zu schreiben, Reiserouten zu planen, Computercode zu produzieren und bei Tests wie der Anwaltsprüfung gut abzuschneiden.
Seit Anfang des Jahres haben Unternehmen von Google und Microsoft bis hin zu Adobe, Snapchat und Grammarly Dienste angekündigt, die sich diese generativen KI-Fähigkeiten zunutze machen.
Die eigene Forschung von OpenAI hat jedoch gezeigt, dass diese KI-Fähigkeiten mit Risiken verbunden sind. Generative KI-Systeme können unzuverlässige Quellen zitieren oder, wie OpenAI feststellte, „Sicherheitsherausforderungen erhöhen, indem sie schädliche oder unbeabsichtigte Maßnahmen ergreifen und die Fähigkeiten von schlechten Akteuren erhöhen, die andere betrügen, irreführen oder missbrauchen würden“.
Die Gruppe hinter dem offenen Brief argumentiert, dass Unternehmen Produkte ohne angemessene Sicherheitsvorkehrungen oder sogar ohne Verständnis der Auswirkungen übereilt auf den Markt bringen. KI-Experten sind erschrocken, wohin das alles führen könnte. In dem Brief heißt es: „Leider findet dieses Planungs- und Managementniveau nicht statt, obwohl die KI-Labore in den letzten Monaten in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe gefangen waren, die niemand – nicht einmal sie selbst – entwickeln und einsetzen konnte Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren können.“
Die Unterzeichner des Schreibens glauben, dass die Gesellschaft einen Schritt zurücktreten und die Entwicklung anhalten muss, während sie die Risiken bewertet und Schutzmaßnahmen einführt. Sie fordern Transparenz, öffentliche Diskussion und öffentliches Engagement rund um KI-Entwicklungen, damit jeder ein Mitspracherecht bei der Zukunft von KI haben kann.
Der offene Brief hat eine Debatte unter KI-Experten ausgelöst, wobei einige argumentierten, dass eine Pause notwendig sei, um sicherzustellen, dass KI auf sichere und ethische Weise entwickelt wird. Andere befürchten jedoch, dass eine Pause den Fortschritt verlangsamen und anderen Ländern einen Vorteil bei der Entwicklung von KI verschaffen würde.
Trotz der Debatte ist klar, dass sich die KI rasant weiterentwickelt und das Potenzial hat, unser Leben tiefgreifend zu verändern. Es ist Aufgabe der Gesellschaft als Ganzes sicherzustellen, dass dieser Wandel auf verantwortungsvolle und ethische Weise gehandhabt wird.
Source: GPT-4 stoppen: Musk und Woz bitten um KI-Pause
