Modell-Destillation: Anthropic wirft chinesischen KI-Entwicklern massiven Datenraub vor
Anthropic beschuldigt DeepSeek, Moonshot AI und MiniMax, Millionen von Abfragen zur illegalen Distillation ihrer Modelle genutzt zu haben.
Angriff auf das geistige Eigentum: Anthropic deckt koordinierte Extraktionskampagne chinesischer KI-Labore auf In der ohnehin angespannten Debatte um die technologische Souveränität und Sicherheit im Bereich der Künstlichen Intelligenz hat das US-Unternehmen Anthropic schwerwiegende Vorwürfe gegen führende chinesische Wettbewerber erhoben. Wie das Unternehmen in einem aktuellen Bericht offenlegte, sollen die chinesischen Firmen DeepSeek, Moonshot AI und MiniMax eine groß angelegte Kampagne durchgeführt haben, um die Fähigkeiten des KI-Modells Claude systematisch zu kopieren. Dabei kamen mehr als 24.000 betrügerische Konten zum Einsatz, über die insgesamt rund 16 Millionen Interaktionen generiert wurden. Technisch handelt es sich bei diesem Vorgehen um eine sogenannte Modell-Destillation. Hierbei werden die Antworten eines leistungsfähigeren Modells – in diesem Fall Claude – genutzt, um ein kleineres oder weniger entwickeltes Modell gezielt zu trainieren. Zwar ist die Destillation im legitimen Forschungskontext eine gängige Methode, um Effizienzsteigerungen zu erzielen, doch verstößt die Verwendung fremder Modellausgaben zum Training eigener Konkurrenzprodukte explizit gegen die Nutzungsbedingungen von Anthropic sowie gegen geltende regionale Exportbeschränkungen. Systematischer Verstoß gegen Nutzungsrichtlinien Die Analyse der Vorfälle zeigt laut Anthropic ein hohes Maß an Professionalität und Koordination. Die betroffenen chinesischen Akteure umgingen dabei geografische Zugriffssperren (Geofencing) und nutzten komplexe Mechanismen, um die massenhaften Abfragen als menschliche Interaktionen zu tarnen. Ziel dieser Bemühungen war es offenbar, die fortschrittlichen Denkstrukturen und die sprachliche Nuancierung von Claude zu extrahieren, um die eigenen Modelle schneller zur Marktreife zu führen und Entwicklungskosten in Milliardenhöhe einzusparen. Diese Enthüllung folgt einem ähnlichen Muster wie frühere Warnungen von OpenAI. Auch dort wurden bereits hochentwickelte Extraktionstechniken beobachtet, die darauf abzielen, das technologische Gefälle zwischen westlichen Marktführern und chinesischen Herausforderern durch unautorisierten Wissenstransfer zu verringern. In der Branche wird dieses Vorgehen zunehmend als ernsthafte Bedrohung für das Geschäftsmodell von Anbietern geschlossener Systeme (Closed-Source-AI) wahrgenommen. Risiken für die nationale Sicherheit und Sicherheitsleitplanken Besonders besorgt zeigt sich Anthropic über die Implikationen für die KI-Sicherheit. Claude verfügt über integrierte Sicherheitsfilter und ethische Leitplanken, die den Missbrauch der Technologie verhindern sollen. Bei der illegalen Destillation werden jedoch oft nur die kognitiven Fähigkeiten des Modells übernommen, während die restriktiven Sicherheitsmechanismen im Prozess verloren gehen. Dies führt laut den Experten von Anthropic dazu, dass die resultierenden chinesischen Modelle potenziell für Überwachungszwecke, Desinformationskampagnen oder andere Aktivitäten genutzt werden könnten, die nationale Sicherheitsinteressen gefährden. Zudem besteht die Gefahr, dass durch solche Verfahren sensible Informationen über die Architektur der Ursprungsmodelle offengelegt werden. Anthropic betonte, dass man die Abwehrmechanismen gegen solche automatisierten Extraktionsversuche massiv verschärfen werde. Der Fall unterstreicht die wachsende Bedeutung von Cyber-Abwehrmaßnahmen zum Schutz von Gewichten und Architekturen moderner Large Language Models (LLMs), die zunehmend als kritische Infrastruktur und strategisches Kapital betrachtet werden.
Quelle: The Register