Künstliche Intelligenz (KI) fasziniert manche Menschen schon seit langem, andere stoßen auf Kritik. Es ist schwierig geworden, vorherzusagen, was mit KI möglich ist und was nicht. Eine Gruppe von Wissenschaftlern an der University of British Columbia (UBC) in Vancouver hat etwas erfunden, das wie Science-Fiction klingen mag: einen völlig autonomen KI-Wissenschaftler. Diese KI analysiert Daten und erstellt und führt Experimente durch. Diese Entdeckung hat sowohl faszinierende als auch für manche beunruhigende Auswirkungen.
Während die Idee eines KI-Wissenschaftlers wie ein weit hergeholter Traum erscheinen mag, UBC-Team hat es durch Partnerschaften mit der Universität Oxford Wirklichkeit werden lassen und Sakana-KIAuch wenn diese von der KI generierten Arbeitspapiere zunächst keinen großen wissenschaftlichen Beitrag leisten, stellt die Tatsache, dass sie das Ergebnis maschinellen Lernens aus Experimenten sind und funktionieren, einen Fortschritt in der KI-Forschung dar.
Der KI-Wissenschaftler, der nie aufhört zu lernen
Dieses Werk basiert auf einem Ansatz namens offenes Lernen. Dieser neue KI-Wissenschaftler arbeitet anders als herkömmliche KIdie auf riesigen, von Menschen erstellten Datenmengen basiert. Sie lernt, indem sie neue Dinge ausprobiert, untersucht und verfeinert. Mit dieser Technik kann die KI die Grenzen des aktuellen Wissens erweitern und möglicherweise neue Erkenntnisse gewinnen, die menschlichen Forschern möglicherweise entgangen sind.
Eine der ersten Aufgaben, die dieser KI-Wissenschaftler in Angriff nahm, war die Verbesserung bestehender Techniken des maschinellen Lernens, wie etwa der Diffusionsmodellierung und der Beschleunigung tiefe neuronale Netzwerke. Dies mögen zwar keine weltbewegenden Fortschritte sein, aber sie zeigen die Fähigkeit der KI, Ideen autonom zu entwickeln und zu testen. Als KI erstmals auf den Markt kam, konnte sie viele Dinge noch nicht, aber mittlerweile hat sie begonnen, in jeden Aspekt unseres Lebens Einzug zu halten.
Jeff Cluneder Professor, der das UBC-Labor leitet, räumte ein, dass die Ergebnisse nicht unbedingt ein Erfolg seien, aber sie seien vielversprechend. Der Lernansatz des KI-Wissenschaftlers – er verfeinert seine Experimente ständig und sucht nach Dingen, die er „interessant“ findet – ist eine erfrischende Abkehr von den starreren Methoden, die traditionell in der KI-Forschung verwendet werden.
KI-Wissenschaftler testen Codes und verfeinern ihre Theorien unabhängig
Clunes Labor experimentiert schon seit einiger Zeit mit offenem Lernen. In früheren Projekten haben sie KI-Programme entwickelt, die virtuelle Umgebungen erkunden und basierend auf dem, was sie interessant finden, Verhaltensweisen generieren sollen. Diese Programme mussten sorgfältig mit handcodierten Anweisungen gesteuert werden, aber die Einführung großer Sprachmodelle (LLMs) hat die Spielregeln geändert. Jetzt können diese KI-Programme selbstständig bestimmen, was es wert ist, untersucht zu werden, was sie autonomer und potenziell kreativer macht.
Die Fähigkeit der KI-Wissenschaftler, den zur Validierung ihrer Theorien erforderlichen Code zu schreiben und Tests durchzuführen, ist eine ihrer faszinierendsten Eigenschaften. Dadurch kann die KI ihre Strategie kontinuierlich verfeinern und wird immer effektiver und möglicherweise auch einfühlsamer. Clune vergleicht diesen Prozess mit der Entdeckung eines neuen Kontinents, da beide den Entdeckergeist und das Unbekannte sowie die Möglichkeit großer Überraschungen auf dem Weg beinhalten.
Die Zuverlässigkeit solcher Systeme ist trotz ihrer vielversprechenden Zukunft gering. KI-Wissenschaftler mögen zwar bemerkenswert erscheinen, Tom HoffnungForscher am Allen Institute for AIsagt, dass sie immer noch sehr abgeleitet und unzuverlässig ist. Dieses Misstrauen rührt daher, dass KI zu viel verspricht und zu wenig leistet, insbesondere in den Bereichen Kreativität und echte Innovation.
Potenzial- und Risikomanagement
Mit der Schaffung des KI-Wissenschaftlers sind auch Bedenken hinsichtlich der Richtung der wissenschaftlichen Forschung aufgekommen. Wenn KI Theorien selbst erstellen und bewerten kann, wo werden dann menschliche Forscher sein? Darüber hinaus, wie können wir sicherstellen, dass diese KI-Technologien angemessen eingesetzt werden? Könnte eine böswillige Person einen KI-Wissenschaftler zu Hause ausbilden und ihn für böse Zwecke in der Zukunft?
Dieser KI-Wissenschaftler macht bereits Fortschritte bei der Entwicklung von KI-Agenten, also autonomen Programmen mit vorgegebenen Funktionen. Clunes Gruppe hat KI-Agenten entwickelt, die ihre vom Menschen entworfen Kollegen in Fähigkeiten wie Mathematik und Leseverständnis. Dieser Erfolg deutet auf eine Zukunft hin, in der KI auf noch unklare Weise zu Innovationen beitragen könnte, anstatt nur bei alltäglichen Aktivitäten zu helfen.
Doch dieser Fortschritt ist auch mit Gefahren verbunden. Es ist ziemlich besorgniserregend, dass diese KI-Systeme Agenten mit Fehlverhalten produzieren könnten, ob absichtlich oder nicht. Clune und sein Team sind sich der Risiken bewusst und versuchen, Lösungen zu finden, um solche Situationen zu verhindern. Sie behaupten, dass das Geheimnis darin liegt, die Entwicklung dieser Systeme ordnungsgemäß zu überwachen, um ihre Stärke und Sicherheit zu gewährleisten.
Es ist zwar unklar, wohin das führen wird, aber eines ist sicher: KI-Wissenschaftler sind da und werden nicht aufhören, immer intelligenter zu werden. KI steht kurz vor dem Eintritt in eine neue Phase und alle werden genau beobachten, ob sie zu bahnbrechenden Erkenntnissen oder neuen Problemen führt. Während sich KI weiterentwickelt, wird es für Wissenschaftler von entscheidender Bedeutung sein, ethische Bedenken hervorzuheben und sicherzustellen, dass diese Systeme ethisch einwandfrei aufgebaut werden. Letztendlich wird die Art und Weise, wie wir mit der komplexen Beziehung zwischen Technologie und Mensch umgehen, bestimmen, welche Auswirkungen KI auf die Gesellschaft hat.
Bildnachweis: Nationales Krebsinstitut / Unsplash
Source: KI-Wissenschaftler forschen, lernen und entdecken
