X hat einen neuen KI-Bildgenerator namens Aurora eingeführt, der seine Grok-KI-Funktionen erweitert. Der Rollout begann am vergangenen Wochenende und soll Benutzern die Möglichkeit geben, realistische Bilder aus Textaufforderungen zu erstellen. Dieses Tool ermöglicht insbesondere die Erstellung fotorealistischer Bilder von Persönlichkeiten des öffentlichen Lebens, einschließlich potenziell kontroverser Darstellungen berühmter Politiker, ohne strenge inhaltliche Einschränkungen. Der Start von Aurora erfolgt kurz nachdem Grok für alle Benutzer kostenlos verfügbar wurde, obwohl Einschränkungen bei der täglichen Nutzung bestehen bleiben.
Berichten zufolge erweitert der Aurora-Bildgenerator die vorhandenen Funktionen des Grok-Chatbots, indem er Bilder erzeugt, die echten Fotos ähnlicher sind. Erste Tests haben gezeigt, dass dies der Fall ist könnte bizarre Bilder erzeugen. Der Generator verzichtete auf herkömmliche Sicherheitsmaßnahmen, die viele gängige KI-Bildgeneratoren verwenden, um die Einbeziehung realer Personen oder urheberrechtlich geschützten Materials in Eingabeaufforderungen zu verhindern. Es gibt jedoch eine Richtlinie gegen die Generierung von Nacktbildern.
Die Implementierung von Aurora wirft Fragen zur Inhaltsmoderation und den potenziellen Risiken auf, die mit ihrer Verwendung verbunden sind. Die begrenzte Inhaltsbeschränkung des Generators wurde durch seine Fähigkeit hervorgehoben, provokante Bilder mit politischen Persönlichkeiten zu erzeugen. TechCrunch Und PCMag teilte Fälle, in denen Aurora wenig schmeichelhafte Designs entwarf und Diskussionen über ethische Fragen rund um den Einsatz von KI in der visuellen Darstellung auslöste.
Der Zugriff auf Aurora ist möglicherweise nicht einheitlich verfügbar, da Berichten zufolge einige Benutzer das Tool noch nicht in ihrer App gefunden haben, was darauf hindeutet, dass möglicherweise noch weitere Tests oder eine schrittweise Einführung stattfinden. Dies führt zu Unsicherheiten hinsichtlich der Zuverlässigkeit des Zugriffs auf die gesamte Benutzerbasis.
Das Aufkommen von KI-Tools wie Aurora fällt mit einer zunehmenden behördlichen Prüfung von KI-generierten Inhalten zusammen. Die jüngsten Gesetzesänderungen in Kalifornien konzentrierten sich auf die Kontrolle von Deepfakes, insbesondere solchen im Zusammenhang mit politischen Kandidaten. Im September 2023 unterzeichnete Gouverneur Gavin Newsom drei Gesetzesentwürfe, die insbesondere im Vorfeld von Wahlen strenge Richtlinien für nicht gekennzeichnete KI-generierte Bilder vorschreiben. Diese neuen Vorschriften haben zu einer rechtlichen Gegenreaktion geführt.
Hervorgehobener Bildnachweis: Alexander Schatow/Unsplash
Der Beitrag „X startet den Aurora AI-Bildgenerator für realistische Bilder“ erschien zuerst auf TechBriefly.
Source: X führt den Aurora AI-Bildgenerator für realistische Bilder ein
