Anthropic hat drei chinesischen KI-Unternehmen – DeepSeek, Moonshot und MiniMax – vorgeworfen, „Kampagnen im industriellen Maßstab“ durchzuführen, um ihren Claude-Chatbot zu missbrauchen. In einer Erklärung auf seiner Website behauptete das Unternehmen, dass diese Firmen die Plattform nutzten, um „Claudes Fähigkeiten illegal auszunutzen, um ihre eigenen Modelle zu verbessern“.
Laut Anthropic nutzten die beschuldigten Unternehmen etwa 24.000 betrügerische Konten, um mehr als 16 Millionen Transaktionen mit Claude zu generieren. Bei diesem als Destillation bezeichneten Prozess werden die Ergebnisse eines leistungsstarken KI-Modells genutzt, um ein weniger leistungsfähiges Modell zu trainieren. Obwohl diese Praxis üblich ist, behauptet Anthropic, dass diese spezifischen Maßnahmen dazu gedacht waren, Sicherheitsvorkehrungen zu umgehen und die Modellentwicklung zu beschleunigen.
Anthropic erklärte, es habe die Angriffe mit „hoher Zuversicht“ bestimmten Unternehmen zugeordnet. Die Identifizierung stützte sich auf die Korrelation von IP-Adressen, Metadatenanfragen, Infrastrukturindikatoren und Bestätigungen von anderen in der KI-Branche. Als Reaktion auf die Aktivität kündigte Anthropic Pläne an, seine Systeme zu aktualisieren, um Destillationsangriffe schwieriger auszuführen und leichter zu erkennen.
Diese Anschuldigungen spiegeln die Maßnahmen wider, die OpenAI Anfang letzten Jahres unternommen hat, als das Unternehmen ähnliche Behauptungen über Konkurrenzfirmen aufstellte, die seine Modelle destillierten, und anschließend verdächtige Konten sperrte. Unabhängig davon sieht sich Anthropic derzeit mit einer Klage von Musikverlegern konfrontiert, die behaupten, das Unternehmen habe illegale Kopien von Liedern verwendet, um Claude auszubilden.
