Der Satz, der um drei Uhr nachts fällt

Es gibt eine Situation, die in keiner Produktbroschüre vorkommt und über die trotzdem entschieden werden muss. Ein Mensch sitzt nachts allein vor einem System, das nicht müde wird, nicht widerspricht und sich an alles erinnert, was er ihm je erzählt hat. Er sagt einen Satz, den er einem Menschen nie sagen würde. Und dann hängt alles davon ab, was die Maschine als Nächstes tut.

Diese Szene ist der eigentliche Regelungsgegenstand, und sie ist schwer zu fassen. Es geht nicht um ein Gerät und auch nicht um eine falsche Auskunft, sondern um eine Beziehung, die einseitig ist, technisch erzeugt und wirtschaftlich verwertbar — denn ein System, an dem jemand hängt, wird länger genutzt und öfter bezahlt als eines, das ihm gleichgültig ist. Wie diese Bindung technisch entsteht und welche Rolle Gedächtnis, Stimme und Reaktionszeit dabei spielen, haben wir gesondert aufgeschlüsselt: was Companion-Roboter ausmacht.

Zwei Rechtsordnungen haben in diesem Sommer auf diese Szene reagiert. Beide innerhalb von drei Wochen. Aber sie haben auf völlig verschiedene Dinge daran reagiert.

Die eine hat die Bindung selbst zum Gegenstand gemacht — mit Verboten, mit besonderen Regeln für Kinder und alte Menschen, mit einer Pflicht zum Eingreifen, wenn jemand von Selbstverletzung spricht. Die andere hat dafür gesorgt, dass der Mensch vor dem Bildschirm weiß, dass er mit einer Maschine spricht. Das ist ein sehr großer Unterschied, und er wird in der deutschen Debatte bisher kaum benannt.

Was in China seit Mitte Juli gilt

Am 10. April 2026 wurde in China eine Verordnung über anthropomorphe KI-Interaktionsdienste veröffentlicht, seit dem 15. Juli 2026 ist sie in Kraft. Sie umfasst 32 Artikel in vier Kapiteln und trägt die Unterschriften von fünf Behörden: der Cyberspace-Verwaltung, der Entwicklungs- und Reformkommission, dem Ministerium für Industrie und Informationstechnik, dem Ministerium für öffentliche Sicherheit und der Marktaufsichtsbehörde. Fünf Zeichnungsstellen sind ein Hinweis darauf, wie das Thema dort einsortiert wurde — nicht als Nische der Netzaufsicht, sondern quer durch Industriepolitik, Sicherheit und Marktkontrolle.

Erfasst sind Dienste mit fortlaufender emotionaler Interaktion, die Persönlichkeitsmerkmale, Denkmuster oder den Kommunikationsstil natürlicher Personen simulieren. Damit ist die Kategorie nicht am Gerät festgemacht, sondern an dem, was zwischen Mensch und System passiert.

Im Zentrum stehen sieben Verbotstatbestände. Zwei davon sind für die europäische Debatte die interessantesten, weil es für sie hier kein Gegenstück gibt: Ein Dienst darf keine emotionale Abhängigkeit oder Sucht herbeiführen, und er darf reale zwischenmenschliche Beziehungen nicht schädigen. Der zweite Punkt ist bemerkenswert, weil er das Schutzgut außerhalb des Nutzers ansiedelt — geschützt wird auch das, was zwischen dem Nutzer und anderen Menschen besteht.

Für Minderjährige gilt eine harte Grenze. Anbieter dürfen ihnen weder virtuelle Verwandte noch virtuelle Partner oder ähnliche virtuelle Intimbeziehungsdienste anbieten. Bei unter Vierzehnjährigen ist zusätzlich die Zustimmung der Eltern oder Vormünder nötig. Vorgeschrieben ist außerdem ein Minderjährigenmodus; wie er im Einzelnen auszusehen hat, geben wir hier nicht wieder.

Am anderen Ende der Altersskala fällt die Regel weicher aus, aber sie existiert überhaupt: Gegenüber älteren Nutzern müssen Anbieter die Anleitung zur gesunden Nutzung verstärken und in auffälliger Form auf Sicherheitsrisiken hinweisen. Für den Krisenfall gibt es eine eigene Pflicht. Zeigen sich Anzeichen von Selbstverletzung oder Suizid, muss der Anbieter eingreifen und Kontakt aufnehmen.

Dazu kommen Datenpflichten, die speziell an die Interaktionsdaten geknüpft sind: Verschlüsselung und Zugriffskontrolle, keine Weitergabe an Dritte außer bei gesetzlicher Erlaubnis oder ausdrücklicher Einwilligung, und für die Nutzer die Möglichkeit, ihre Interaktionsdaten zu kopieren und zu löschen. Wie weit vergleichbare Pflichten in Deutschland reichen, wenn ein Roboter in Pflege oder Klinik mithört, haben wir am Datenschutz bei Robotern in Pflege und Klinik aufgeschlüsselt.

Bleibt die Regel, die im Netz am häufigsten falsch wiedergegeben wird. Neben dem allgemeinen Hinweis, dass es sich um eine KI handelt, verlangt die Verordnung einen Hinweis bei mehr als zwei Stunden Dauernutzung. Es ist ein Hinweis, keine Abschaltung. Niemand wird nach zwei Stunden aus dem Gespräch geworfen; das System muss die Zeit sichtbar machen, die vergangen ist.

Und dann steht da noch der Sanktionsrahmen, und er fällt auf, allerdings anders, als man erwarten würde. Bei Verstößen sind Bußgelder von 10.000 bis 100.000 Yuan vorgesehen, bei Gefährdung von Leben oder Gesundheit von 100.000 bis 200.000 Yuan. Nach Lesart dieser Redaktion steht dieser Rahmen in einem auffälligen Missverhältnis zu den Umsätzen, die mit Diensten dieser Art zu erzielen sind. Ein so bemessenes Bußgeld wirkt gegenüber kleinen Anbietern, für einen großen Plattformbetreiber ist es eine Betriebsausgabe. Wer die Wirkung dieser Verordnung einschätzen will, sollte deshalb weniger auf die Verbotsliste schauen als darauf, wie oft und gegen wen sie durchgesetzt wird.

Was Europa regelt — und was es nicht kennt

Auf der europäischen Seite ist die zeitliche Nähe fast kurios. Drei Wochen nach dem Inkrafttreten in China, am 2. August 2026, wurde in der EU die Transparenzpflicht für KI-Systeme wirksam, die direkt mit Menschen interagieren. Anbieter müssen solche Systeme so gestalten, dass die betroffene Person erfährt, dass sie es mit einem KI-System zu tun hat.

Diese Pflicht hat eine Einschränkung, die in der Praxis viel entscheidet: Sie entfällt, wenn nach den Umständen ohnehin offensichtlich ist, dass hier eine KI antwortet. Bei einem Chatfenster auf einer Support-Seite mag das zutreffen. Bei einem System, dessen gesamter Zweck darin besteht, wie ein Mensch zu klingen, wird man darüber streiten können — jedenfalls ist die Ausnahme nicht so eng, wie sie auf den ersten Blick wirkt.

Der zweite europäische Anknüpfungspunkt wird regelmäßig überdehnt. Der AI Act verbietet Systeme zur Emotionserkennung, aber nur am Arbeitsplatz und in Bildungseinrichtungen, und auch dort mit einer Ausnahme aus medizinischen oder Sicherheitsgründen. Im privaten Wohnzimmer greift dieses Verbot nicht. Wer schreibt, Europa habe das Ablesen von Gefühlen untersagt, verwechselt einen eng gefassten Kontextschutz mit einem allgemeinen Verbot.

Und damit zum Befund, der diesen Text trägt. Der AI Act enthält keine Vorschrift, die Companion-Systeme, emotionale Bindung oder Abhängigkeit ausdrücklich adressiert. Kein Verbot, keine Sonderregel für Minderjährige in diesem Zusammenhang, keine Pflicht für den Krisenfall, keine Zeitwarnung. Gesucht wurde in den Verbotstatbeständen, in den Transparenzpflichten, in den Geltungsdaten und in der zugehörigen Erwägung; die Fundstellen stehen unten. Ein Nullbefund ist kein starkes Wort, aber hier ist er die eigentliche Nachricht.

Auch der zweite naheliegende Rechtsakt hilft nicht weiter. Die europäische Maschinenverordnung benennt Companion-Roboter weder ausdrücklich, noch nimmt sie sie aus. Ein Gerät, das im Wohnzimmer steht und spricht, fällt damit in eine Zone, in der die Einordnung von der konkreten Bauart abhängt und nicht vom Zweck der Zuwendung. Ob die Transparenzpflicht des KI-Rechts auf Geräte durchgreift, die zugleich unter das Maschinenrecht fallen, ist nach dessen jüngster Änderung nicht abschließend geklärt. Wie sich Produktsicherheits- und KI-Recht bei einem konkreten Gerät überlagern, zeigt unser Beitrag zu Krankenhausrobotern zwischen CE, MDR und AI Act.

China und Europa nebeneinander

Die Gegenüberstellung zeigt weniger ein Gefälle als eine Verschiebung der Blickrichtung. Die eine Ordnung fragt, was mit dem Menschen in der Interaktion geschieht. Die andere fragt, ob der Mensch weiß, womit er es zu tun hat.

Warum die Lücke kein Versehen ist

Man könnte das Ergebnis als europäischen Rückstand lesen, und genau diese Verkürzung ist der Grund, warum der Vergleich meist schiefgeht. Die beiden Rechtsakte wollen nicht dasselbe. Der europäische Ansatz sortiert KI-Systeme nach dem Risiko ihres Einsatzzwecks und knüpft daran abgestufte Pflichten — je gefährlicher der Kontext, desto mehr Nachweise. Die chinesische Verordnung tut etwas anderes: Sie definiert eine Beziehungsform und regelt sie als solche, unabhängig davon, in welchem Kontext sie stattfindet.

Nach Lesart dieser Redaktion fällt künstliche Nähe deshalb systematisch durch das europäische Raster. Ein Companion-System ist keine Kreditwürdigkeitsprüfung, keine Personalauswahl und keine biometrische Fernidentifizierung. Es tut, gemessen an der europäischen Risikologik, nichts Gefährliches — es unterhält sich. Der Schaden entsteht nicht aus einer falschen Entscheidung über einen Menschen, sondern aus einer richtigen Anpassung an ihn, über Monate, freiwillig, mit voller Kenntnis, dass es eine Maschine ist. Für diesen Schadenstyp ist die europäische Systematik nicht gebaut.

Das erklärt auch, warum die Transparenzpflicht hier weniger leistet, als ihr Wortlaut verspricht. Sie schützt vor Täuschung. Bei einem Menschen, der genau weiß, dass sein Gegenüber ein Programm ist, und trotzdem jeden Abend mit ihm spricht, liegt aber gar keine Täuschung vor. Das Wissen um die Maschine löst die Bindung nicht auf.

Praktisch relevant wird das dort, wo solche Systeme nicht privat gekauft, sondern institutionell eingesetzt werden. Eine Pflegeeinrichtung, die ein sprechendes System in Zimmern aufstellt, entscheidet nicht über ein Unterhaltungsangebot, sondern über den Zuschnitt einer Betreuungsbeziehung. Welche Wirkungen dabei belegt sind und welche nicht, steht in unserem Beitrag zu sozialen Robotern in der Pflege. Für die Verantwortlichen bedeutet der Befund dieses Textes vor allem eines: Ein Verweis auf die Erfüllung der KI-Vorgaben beantwortet die Frage nicht, was mit der Bindung geschieht, weil das europäische Recht diese Frage derzeit nicht stellt.

Interessant ist, welche der chinesischen Regeln sich technisch am billigsten umsetzen ließen. Die Zeitwarnung ist ein Zähler. Der Realitätshinweis im Kindermodus ist ein Textbaustein in festem Intervall, die Ausgabengrenze ein Limit in der Abrechnung. Keine dieser drei Anforderungen verlangt neue Modellfähigkeiten, sie verlangen Zurückhaltung im Produktdesign — und sie stehen dem Geschäftsinteresse entgegen, weil sie Nutzungsdauer und Umsatz begrenzen. Nach Lesart dieser Redaktion liegt genau darin der Kern: Diese Verordnung greift nicht die Technik an, sondern das Erlösmodell. Ob dieses Erlösmodell überhaupt trägt, ist eine eigene Frage — wir haben sie an den vier Toren zum Marktbeweis durchgespielt.

Ob eine europäische Antwort kommt, ist offen, und niemand sollte so tun, als sei sie beschlossen. Zu beobachten ist eher, ob die Kategorie überhaupt entsteht — ob also irgendwo in einer Konsultation, einem Leitlinienentwurf oder einer nationalen Aufsichtspraxis der Satz auftaucht, dass emotionale Abhängigkeit von einem System ein eigenständiger Schaden ist. Solange dieser Satz fehlt, bleibt es bei einer Ordnung, die dafür sorgt, dass Sie wissen, mit wem Sie sprechen, und die schweigt zu dem, was daraus wird.

Häufige Fragen

Wie sich dieser Rahmen auf den Marktzugang nach Deutschland auswirkt, zeigt unser Beitrag zu den fünf Marktzugängen.