China schlägt ein System zur Kennzeichnung von KI-generierten Online-Inhalten vor. Die Internetaufsicht des Landes möchte sicherstellen, dass die Menschen wissen, wann KI an der Erstellung von Online-Medien beteiligt war. Dieser Vorschlag deckt ein breites Spektrum an Inhalten ab, von Texten und Bildern bis hin zu Videos und Audiodateien.
Chinas Cyberspace-Administration will sicherstellen, dass KI-Inhalte leicht identifiziert werden können. Der Entwurf schlägt vor, Inhalte und ihre Metadaten mit Labels zu versehen. Dies soll Transparenz gewährleisten und Warnsignale für nicht gekennzeichnete Inhalte setzen. Wenn Plattformen KI-generierte Inhalte vermuten, aber die entsprechenden Metadaten fehlen, müssen sie diese kennzeichnen.
Neue Regeln für KI-generierte Inhalte in Audio und Video
Nach diesem Vorschlag wird KI-generierter Audioinhalt eine zusätzliche Transparenzebene benötigen. Der Inhalt muss nicht nur am Anfang und Ende gekennzeichnet sein, sondern die Plattformen müssen auch Sprachaufforderungen ausgeben, um die Zuhörer auf die Beteiligung von KI aufmerksam zu machen. Wenn eine Plattform mitten im Stream KI erkennt, kann sie in diesem Moment sogar eine weitere Benachrichtigung hinzufügen. In ähnlicher Weise müssen Videoplattformen Benachrichtigungen anzeigen, wenn KI erkannt wird, wobei an verschiedenen Stellen im Video Aufforderungen erscheinen müssen, um die Zuschauer zu informieren.
Neben den Labels muss sich jeder, der KI-Tools auf diesen Plattformen nutzt, identifizieren. Die Plattformen müssen außerdem ein Protokoll der Benutzeraktivitäten für mindestens sechs Monate. Diese Maßnahmen stehen im Einklang mit den laufenden Bemühungen Chinas, die Internetaktivitäten streng zu kontrollieren und sicherzustellen, dass alle Online-Inhalte auf eine einzelne Person zurückgeführt werden können.
Plattformen geraten durch den vorgeschlagenen Plan unter Druck
Der Vorschlag sieht strenge Strafen bei Nichteinhaltung vor. Dienstleister, die diese Anforderungen nicht umsetzen, müssen mit erheblichen Konsequenzen rechnen. Peking möchte, dass Plattformen sorgfältig darauf achten, dass KI-generierte Inhalte ordnungsgemäß gekennzeichnet werden und dass jeder, der KI zur Erstellung von Inhalten verwendet, eindeutig identifiziert wird. Das bedeutet, dass die Tech-Giganten in China besonders wachsam sein müssen, da es sonst zu Problemen mit den Behörden kommen könnte.
Darüber hinaus wird von den Plattformen erwartet, dass sie ihre Methoden zur Erkennung von KI-Inhalten teilen und so zu einer breiteren Anstrengung beitragen, die KI-Erkennung auf breiter Front zu verbessern. Diese Zusammenarbeit zwischen den Plattformen ist der Schlüssel zu Pekings Vision, die Kontrolle über das Internet zu verschärfen und sicherzustellen, dass keine Inhalte unbemerkt durchsickern.
China ändert wichtige Vorschriften normalerweise nicht, wenn sie einmal vorgeschlagen wurden. Da das Land sich auf die Kontrolle benutzergenerierter Inhalte konzentriert, ist es wahrscheinlich, dass diese Regeln mit wenigen Anpassungen umgesetzt werden. Dies ist ein weiterer Schritt in Chinas anhaltenden Bemühungen, die Souveränität über seinen digitalen Raum zu wahren.
Bildnachweis: Furkan Demirkaya / Dall-E
Source: China plant, alle KI-generierten Online-Inhalte zu kennzeichnen