Facebook unternimmt erhebliche Anstrengungen, um Gemeinschaftsstandards für die Teilnehmer auf seinen verschiedenen sozialen Plattformen durchzusetzen. In diesem Sinne setzt Facebook nicht nur auf menschliches Personal, das für die Sicherstellung der Compliance verantwortlich ist, sondern auch auf Technologien der künstlichen Intelligenz und bietet heute eine Vorschau auf die Fortschritte, die in letzter Zeit in diesem Bereich erzielt wurden.
In diesem Zusammenhang verwies er auf derzeit im Einsatz befindliche Systeme wie den Ende letzten Jahres implementierten Reinforcement Integrity Optimizer (RIO), der seiner Meinung nach dazu beigetragen hat, Hassreden und andere Arten unerwünschter Posts auf seinen sozialen Plattformen in den USA deutlich zu reduzieren ersten Halbjahr.
Mike Schroepfer, CTO von Facebook, sagte: „KI ist ein unglaublich schnelllebiges Feld, und viele der wichtigsten Teile unserer aktuellen KI-Systeme basieren auf Techniken wie der Selbstüberwachung, die noch vor wenigen Jahren wie eine ferne Zukunft schienen.“
Anstatt ein KI-basiertes System auf Basis eines festen Datensatzes zu trainieren, hat man sich in diesem Zusammenhang mit RIO für ein Modell entschieden, bei dem das System direkt über Millionen aktueller Inhalte lernt und sich im Laufe der Zeit anpasst, um seine Arbeit besser zu machen .
Schroepfer argumentiert, dass der in RIO verwendete Ansatz „unglaublich wertvoll“ für die Einhaltung der EU-Standards ist und fügt hinzu:
Da sich die Art des Problems immer mit aktuellen Ereignissen weiterentwickelt, müssen sich unsere Systeme bei neuen Problemen schnell anpassen können. Reinforcement Learning ist ein leistungsstarker Ansatz, um der KI zu helfen, neue Herausforderungen zu meistern, wenn es an guten Trainingsdaten mangelt.
In dieser Hinsicht erwarten sie, dass RIO im Laufe der Zeit weiterhin dazu beitragen wird, Hassreden auf der Plattform weiter zu reduzieren.
Aber zusätzlich zu RIO, Facebook Sie ersetzen auch personalisierte Einzwecksysteme durch allgemeinere und sehen „beeindruckende Verbesserungen“ durch den Einsatz multimodaler KI-Modelle, die mit mehreren Sprachen und mehreren Arten von Inhalten arbeiten können.
Schroepfer hat auch auf „Zero-Shot“- und „Few-Shot“-Lernmodelle verwiesen, die es der Künstlichen Intelligenz ermöglichen, rechtsverletzende Inhalte zu erkennen, auch wenn sie kaum oder nie ein Beispiel dafür hatten.
Er sagte: „Zero-Shot- und Low-Shot-Learning ist eine von vielen hochmodernen KI-Domänen, in die wir erhebliche Forschungsinvestitionen getätigt haben, und wir erwarten, im nächsten Jahr Ergebnisse zu sehen.“
