China reguliert interaktive KI: Neue Richtlinien gegen emotionale Manipulation
Die CAC veröffentlicht Entwürfe für strengere Regeln bei KI-Begleitern und Chatbots, um Nutzer vor Manipulation und gesundheitlichen Risiken zu schützen.
Peking verschärft die Gangart bei der Regulierung generativer Künstlicher Intelligenz. Die Cyberspace Administration of China (CAC) hat am 1. April 2026 einen Entwurf für neue Interimsmaßnahmen vorgelegt, die gezielt interaktive KI-Dienste wie virtuelle Assistenten, Chatbots und sogenannte KI-Begleiter ins Visier nehmen. Damit reagiert die Behörde auf die zunehmende Verbreitung von Systemen, die nicht mehr nur rein informativ, sondern emotional und verhaltensbeeinflussend agieren. Regulatorischer Fokus auf Nutzersouveränität Im Kern der neuen Vorschriften steht der Schutz der persönlichen Integrität und der mentalen Gesundheit. Die chinesische Aufsichtsbehörde führt erstmals explizite Verbote gegen falsche Versprechungen und emotionale Manipulation durch Algorithmen ein. Anbieter interaktiver Dienste müssen künftig sicherstellen, dass ihre Systeme keine Abhängigkeiten fördern oder die Entscheidungsautonomie der Nutzer untergraben. Dies ist eine direkte Antwort auf die wachsende Popularität von romantischen KI-Begleitern, die in China teilweise massiven Einfluss auf das Sozialverhalten junger Menschen nehmen. Verpflichtende Sicherheitsbewertungen und menschliche Intervention Ein wesentlicher Bestandteil des Entwurfs ist die Forderung nach umfassenden Sicherheitsbewertungen über den gesamten Lebenszyklus einer KI-Anwendung hinweg. Unternehmen sind dazu verpflichtet, robuste Mechanismen für menschliche Interventionen zu implementieren. Das bedeutet, dass kritische Interaktionen oder potenziell schädliche Verhaltensweisen der KI jederzeit durch menschliches Personal korrigiert oder gestoppt werden können müssen. Die Beweislast für die Unbedenklichkeit liegt dabei klar bei den Betreibern. Strukturierte Sicherheitsvorkehrungen im KI-Lebenszyklus Die Richtlinien verlangen von den Entwicklern, Schutzvorkehrungen bereits in der Designphase zu verankern. Dazu gehört die Transparenz über die Funktionsweise der Algorithmen sowie die klare Kennzeichnung von KI-generierten Inhalten. Ziel ist es, eine Umgebung zu schaffen, in der der Nutzer stets die Kontrolle über die Interaktion behält. Für die Branche im DACH-Raum ist diese Entwicklung von hoher Relevanz, da China hier erneut eine Vorreiterrolle bei der granularen Regulierung spezifischer KI-Anwendungsfälle einnimmt und damit globale Standards für die Compliance im Bereich Human-Machine-Interaction setzen könnte.
Quelle: Mayer Brown