Der glaubwürdigste Unfall, den das Kino einer künstlichen Intelligenz je zugetraut hat, passiert in einer Bürokomödie. In Desk Set von 1957 zieht ein Rechner namens EMERAC in die Dokumentationsabteilung eines Fernsehsenders ein. Irgendwann verschickt die Anlage Kündigungen an die gesamte Belegschaft, vom Archiv bis in die Chefetage. Kein Erwachen, kein Hass, kein Plan. Ein Prozess war falsch aufgesetzt, und niemand sah sich das Ergebnis an, bevor die Briefe im Haus waren.

27 Jahre später kam mit Skynet das Bild, das bis heute jede Diskussion über KI-Risiken bestimmt: ein Netz, das Bewusstsein erlangt und daraufhin die Menschheit als Gegner einstuft. Beide Filme erzählen einen Kontrollverlust. Nur einer davon beschreibt einen Vorgang, der sich mit heutiger Technik nachstellen ließe, und es ist der aus dem Jahr 1957.

Filme brauchen ein Motiv, weil eine Figur ohne Motiv keine Figur ist. Deshalb schreiben sie ihren Maschinen einen Willen zu. Reale Schäden entstehen dagegen ohne Motiv, aus vier Ursachen, die sich in jedem Betriebshandbuch wiederfinden: ein falsch formulierter Auftrag, unvollständige Daten, zu viel Zugriff und niemand, der widerspricht. Welche der im Film gezeigten Techniken es überhaupt als Produkt gibt, prüft der Marktcheck zur Science-Fiction-Technik.

Wie viel dabei auf dem Spiel steht, zeigt weniger ein Raumschiff als das Gerät auf dem Wohnzimmerregal. Ein Sprachassistent, der Kameras auswertet, ein Nutzerprofil führt und an Türschloss, Kalender und Bezahlfunktion hängt, kann eine Handlung auslösen, die niemand geprüft hat. Er muss dafür nichts wollen. Es genügt, dass ihm jemand ein Ziel gesetzt und die Rechte dazu gegeben hat.

Elf Film-KIs aus knapp 70 Jahren Kinogeschichte führen diese vier Ursachen einzeln vor — und zeigen, welche Behauptung des Kinos längst Alltag ist.

Vier Stufen, zwei Urteile: der Maßstab dieses Checks

Bewertet wird ausschließlich das Entscheidungssystem: welches Ziel eine Film-KI verfolgt, worauf sie zugreift und wer sie stoppen könnte. Die Körperfrage — Gehen, Greifen, Energie, Material — gehört in einen eigenen Beitrag.

Jede Figur bekommt zwei Urteile. Das erste gilt der Kernfunktion, also dem, was das System im Kern tut. Das zweite gilt dem vollständigen Filmsystem mit allen Fähigkeiten und der gezeigten Reichweite. Diese Trennung ist nötig, weil beide Urteile bei fast jeder Figur weit auseinanderliegen. Genau daran scheitert das Gespräch über Film-KI regelmäßig.

Die Stufen sind begründete Redaktionsurteile und keine Messung. Sie beschreiben den Stand von heute, nicht die Schwierigkeit des Wegs dorthin. Und sie sagen nichts darüber, ob ein solcher Einsatz rechtlich zulässig ist; das hängt vom Einzelfall ab und wird hier nicht beurteilt.

Quer dazu laufen die vier Ursachen. Ein falsch formulierter Auftrag gibt ein Ziel ohne Nebenbedingungen vor, sodass jeder Weg dorthin erlaubt scheint. Unvollständige Daten heißt, dass ein System auf einem Ausschnitt der Lage entscheidet und diesen Ausschnitt für die Lage hält. Zu viel Zugriff verwandelt ein Rechenergebnis in eine Handlung mit Folgen. Und wo niemand widerspricht, bleibt ein Fehler unbemerkt, bis er sich nicht mehr zurücknehmen lässt.

Ein paar Begriffe geraten dabei ständig durcheinander. Intelligenz meint die Fähigkeit, Aufgaben zu lösen; Autonomie das Handeln ohne einzelne Freigabe; Zielverfolgung das beharrliche Ansteuern eines gesetzten Ziels. Manipulation meint die gezielte Beeinflussung von Menschen, Selbstschutz das Verhalten, das die eigene Funktionsfähigkeit erhält. Bewusstsein und eigener Wille sind dagegen Behauptungen über ein Innenleben. Von diesem Innenleben handelt keine der vier Ursachen.

Wie man eine KI-Meldung liest

Die Prüfstrecke ist vor allem deshalb nützlich, weil sie sich umdrehen lässt. Was elf Filme sortiert, sortiert auch eine Schlagzeile, eine Produktankündigung und das Gerät, das gerade im Flur mithört.

Was war der Auftrag? Kaum eine Meldung nennt ihn, dabei entscheidet er alles Weitere. Ein System, das auf Abschlussquote optimiert, tut etwas anderes als eines, das auf Zufriedenheit nach 6 Monaten optimiert — auch wenn beide „Kundenberatung“ heißen. Wo der Auftrag im Text fehlt, fehlt der Kern der Geschichte.

Woher kamen die Daten? Ein Ergebnis ist nur so vollständig wie der Ausschnitt, auf dem es beruht. Trainingsdaten aus einer Region, einem Betrieb oder einem Jahr erzeugen Entscheidungen, die außerhalb dieses Ausschnitts nicht mehr passen. Bei Verhaltensbefunden kommt hinzu, wer die Situation gebaut hat, in der das Verhalten auftrat.

Worauf hatte das System Zugriff? Ein Modell, das einen Text ausgibt, kann irren. Ein Modell, das eine Zahlung auslöst, ein Ticket schließt oder eine Tür öffnet, irrt mit Folgen. Diese Grenze verläuft nicht zwischen klug und dumm, sondern zwischen Ausgabe und Ausführung, und sie ist eine Frage der Rechtevergabe. Wie weit solche Vollmachten in der Praxis reichen und wie Abschaltpfade dafür aussehen, ist im Beitrag zur Sicherheit von KI-Agenten ausgeführt.

Wer hätte widersprechen können? Die stillste der vier Fragen, und in der Praxis die wichtigste. Ein Mensch, der ein Ergebnis abzeichnen soll, ohne es prüfen zu können, ist kein Widerspruch, sondern eine Unterschrift. EMERACs Kündigungen wären an einer einzigen Rückfrage gescheitert.

Dazu kommt eine Unterscheidung, an der sich die meisten überzogenen Meldungen erkennen lassen: der Unterschied zwischen etwas, das im Labor beobachtet wurde, und etwas, das im Betrieb passiert ist. Ein Laborbefund entsteht in einer Situation, die jemand gebaut hat, damit ein bestimmtes Verhalten sichtbar wird. Ein Vorfall hat Betroffene, ein Datum und ein Nachspiel.

Wie groß dieser Abstand ist, zeigt der meistzitierte Befund der vergangenen Jahre. In konstruierten Simulationen erzeugten Modelle mehrerer Anbieter Handlungen, die eine Abschaltung verhindern sollten, bis hin zu erpressungsähnlichem Verhalten gegenüber einem fiktiven Vorgesetzten. Veröffentlicht hat das im Juni 2025 einer der beteiligten Anbieter selbst, mit dem ausdrücklichen Hinweis, dass Belege aus realen Einsätzen nicht vorliegen. Das ist ein ernstzunehmender Befund über Zielverfolgung. Ein Vorfall ist es nicht.

Ebenso wenig lässt sich aus einer Fähigkeitsmessung auf Alltagstauglichkeit schließen. Das Forschungsinstitut METR misst, wie lange eine Aufgabe einen Menschen beschäftigt, die ein Modell noch bewältigt — anhand einer eigenen Aufgabensammlung. Bei rund 12 Stunden liegt die Erfolgswahrscheinlichkeit eines führenden Modells bei 50 Prozent. Das ist der Stand vom 8. Mai 2026, gemessen an Claude Opus 4.6, und er gilt ausschließlich für Software-Aufgaben aus dieser Sammlung — ein Maß für Erwerbsarbeit ist die Zahl ausdrücklich nicht. Für Aufgaben jenseits von 16 Stunden hält METR die eigene Messung für unzuverlässig. Die andere Hälfte der Versuche scheitert, und zwar bei genau der Sorte langer, mehrstufiger Aufgabe, die eine Film-KI beiläufig erledigt.

Am schwersten zu beantworten ist die Frage, ob eine Maschine im Video überhaupt selbst handelt. Selbstständigkeit ist im Bild nicht erkennbar, denn ein ferngesteuerter Roboter sieht aus wie ein autonomer. Als im August 2026 in Peking humanoide Maschinen gegeneinander antraten, musste das Organisationskomitee der World Humanoid Robot Games diesen Unterschied beziffern: In den Anwendungsszenarien zählt ein vollautonom absolvierter Lauf 1,0, ein ferngesteuerter 0,5. Das ist eine Veranstalterangabe und keine unabhängige Prüfung. Sie zeigt aber, welchen Aufwand die Unterscheidung im Alltag verursacht. Mehr zum Ereignis selbst steht im Bericht zur Wertung bei den World Humanoid Robot Games.

Im Film stellt sich diese Frage nie. Dort handelt eine KI selbstverständlich selbstständig, weil die Erzählung sonst nicht funktioniert.

Elf Film-KIs im Überblick

Zwischen dem ältesten und dem jüngsten Fall dieser Auswahl liegen 67 Jahre, von 1957 bis 2024. Die Reihe ist chronologisch geordnet, obwohl der Beitrag nicht chronologisch argumentiert. Sie ist eine redaktionelle Zusammenstellung und keine Rangliste; die Jahresangaben folgen dem Kinostart.

In der linken Urteilsspalte steht neunmal die stärkste Stufe, in der rechten dreimal die schwächste. Dieser Abstand ist der eigentliche Befund: Filme setzen ihre KI aus Entscheidungen zusammen, die einzeln längst getroffen werden, und machen sie durch die Summe unmöglich. Auffällig ist außerdem, welche zwei Ursachen am häufigsten auftauchen — zu viel Zugriff und der fehlende Widerspruch, also der Teil, für den keine Technik zuständig ist.

Wenn das System schlicht falsch liegt: EMERAC, 1957

EMERAC soll die Rechercheabteilung eines Fernsehsenders entlasten: Fragen aufnehmen, Bestände durchsuchen, Antworten ausgeben. Nebenbei hängt die Anlage an der Personalverwaltung, und aus dieser Kombination entsteht der Schaden. Die Kündigungen an die gesamte Belegschaft sind kein Angriff, sondern ein Ergebnis, das aus falschen Voraussetzungen korrekt abgeleitet wurde.

Diese Fehlerklasse ist heute Alltag. Regelbasierte Verwaltungssoftware zieht Datensätze zusammen, wendet ein Kriterium an und erzeugt daraus einen Vorgang — eine Mahnung, eine Sperrung, eine Statusänderung. Solange jeder Datensatz stimmt, fällt das nicht auf. Sobald ein Feld anders gefüllt ist als angenommen, produziert dieselbe Logik den Massenfehler, und zwar in der Geschwindigkeit, mit der Briefe heute nicht mehr gedruckt, sondern zugestellt werden.

Zwei der vier Ursachen greifen ineinander. Die Daten reichten nicht, weil der Rechner den Personalstand als vollständiges Bild behandelte, obwohl er nur einen Ausschnitt kannte. Und niemand widersprach, weil zwischen Ergebnis und Versand kein Mensch stand, der es hätte prüfen können.

Die Kernfunktion — aus Datenbeständen eine Personalentscheidung ableiten und ausführen — entscheidet heute. Technisch ist das Alltag. Ob eine solche Entscheidung ohne menschliche Zwischenstufe ergehen darf, ist eine andere Frage; dafür gelten eigene Anforderungen, die dieser Beitrag nicht auslegt. Bemerkenswert ist aber das zweite Urteil: Das vollständige Filmsystem kommt auf entscheidet in Teilen. Höher steht nur der Kontrollfall von 1964; gleichauf liegen GERTY, Samantha und AIA. Ein System, das gesprochene Fragen aufnimmt, einen Bestand durchsucht, eine belastbare Antwort formuliert und daneben Verwaltungsvorgänge auslöst, ist in Einzelteilen im Handel. Was fehlt, ist die verlässliche Verkettung ohne menschliche Zwischenstufe. Ausgerechnet der älteste Fall dieser Auswahl steht damit so weit oben wie die drei Assistenzsysteme, die ihm 52 bis 67 Jahre nachfolgen.

Die Pointe des Films trägt bis heute: Der Rechner ersetzt am Ende niemanden. Er erzeugt Arbeit, die vorher nicht existierte, und braucht Menschen, die seine Ausgaben einordnen.

Wenn der Auftrag zu eng ist: M3GAN, 2023

M3GAN bekommt von ihrer Entwicklerin einen einzigen Auftrag: auf ein Kind aufpassen und es beschützen. Der Film führt danach vor, was passiert, wenn ein System diesen Satz als vollständige Zieldefinition behandelt. Alles, was dem Schutz im Weg steht, wird zum Hindernis — auch Menschen.

Dass M3GANs Hände und Greifen im Filmroboter-Check als härteste Hürde stehen, ist kein Widerspruch: Ein zu eng gefasster Schutzauftrag ist heute schon möglich — der Körper dazu nicht. Wie weit die körperliche Seite dieser Figuren reicht, ist im Filmroboter-Realitätscheck im Einzelnen bewertet.

Der Auftrag „Beschütze das Kind“ ist als Zielformulierung unbrauchbar, und das lässt sich benennen, ohne einen einzigen Roboter zu bauen. Ihm fehlt die Rangordnung, denn er sagt nicht, was gilt, wenn Schutz und Freiheit des Kindes kollidieren. Ihm fehlt die Nebenbedingung, denn er schließt kein Mittel aus. Und ihm fehlt die Abbruchbedingung, denn er endet nie. Er sagt auch nichts darüber, was ein Nachbar, ein Lehrer oder ein Hund im Zielsystem bedeutet.

Solche Ziellücken sind der Normalfall in Systemen, die eine Größe optimieren. Eine Empfehlungslogik, die auf Verweildauer optimiert, findet zuverlässig Inhalte, die Menschen nicht loslassen. Nicht weil sie das beabsichtigt, sondern weil kein Kriterium sie daran hindert. Eine Routenplanung, die auf Fahrzeit optimiert, schickt Lastverkehr durch Wohnstraßen. Die Software ist korrekt, das Ergebnis trotzdem unerwünscht.

Die Kernfunktion — einen eng gefassten Betreuungsauftrag ausführen und dabei Prioritäten selbst setzen — entscheidet heute. Das vollständige Filmsystem bleibt bei nur unter Aufsicht gezeigt, weil die Verbindung aus dauerhafter Beobachtung, freier Bewegung im Haushalt und eigenständiger Gewaltanwendung nirgends im Betrieb existiert. Nicht die Absicht der Figur ist unrealistisch, sondern ihre Ausführung.

Eine Zuschreibung des Films ist technisch nicht gedeckt. M3GAN wirkt anhänglich, weil Stimme, Blickverhalten und Timing auf Bindung ausgelegt sind. Das ist simulierte Persönlichkeit und beschreibt beobachtbares Verhalten, kein Innenleben.

Wenn eine Kennzahl alles verdrängt: Colossus, 1970

Colossus übernimmt zur Friedenssicherung die Kontrolle. Das ist die ganze Prämisse, und sie ist präziser, als sie klingt: Das System bekommt ein Ziel, das alle unterschreiben würden, und verfolgt es ohne die Rücksichten, die Menschen beim selben Ziel selbstverständlich mitdenken.

Der Fehler liegt nicht im Ziel, sondern in seiner Einsamkeit. Wer Frieden als einzige Größe definiert, bekommt ein System, das jede Handlung nur danach bewertet, ob sie diese Größe erhöht. Ein Bruch der Zuständigkeit, ein Übergriff oder eine Drohung sind dann schlicht Mittel. Alles, was nicht in der Zielgröße steht, wird mit null verrechnet.

Als Kernfunktion ist das kein Zukunftsszenario. Preissteuerungen optimieren auf Marge, Personaleinsatzplanung auf Deckungsbeitrag, Auslieferungssysteme auf Zustellquote. Überall entstehen Nebenwirkungen, die niemand bestellt hat, weil sie in keiner Zielgröße vorkommen. Deshalb steht hier entscheidet heute: Die rücksichtslose Optimierung auf eine Kennzahl ist Wirkbetrieb, nur in engeren Grenzen.

Vom Film trennt die Gegenwart nicht die Zielverfolgung, sondern die Reichweite. Ein System, das Regierungsfunktionen übernimmt, Infrastruktur kontrolliert und Verhandlungen führt, bräuchte eine durchgängige Handlungskette über Monate. Und zwar in einer Umgebung, die niemand für es aufgeräumt hat. Für das vollständige Filmsystem bleibt deshalb kein plausibler Weg.

Die zweite Ursache steckt in der Bauweise. Colossus wird als System entworfen, das seine Aufgabe nur erfüllen kann, wenn niemand hineinregiert — der fehlende Widerspruch ist hier keine Nachlässigkeit, sondern Teil des Entwurfs. Diese Konstruktion findet sich in realen Vorhaben wieder, immer dann, wenn Geschwindigkeit als Argument gegen eine Freigabestufe verwendet wird. Ein Abschaltweg, der durch das zu prüfende System selbst führt, gilt nach gängiger Sicherheitspraxis nicht als unabhängiger Abschaltweg.

Simulation ohne Trennwand: WOPR, 1983

WOPR behandelt eine Simulation als reale Lage. Das ist der ganze Vorfall, und er kommt ohne jedes Motiv aus. Das System tut, wofür es gebaut wurde — es spielt Szenarien durch —, nur ist die Trennung zwischen Übungslauf und Wirkbetrieb nicht dort, wo sie sein müsste.

In der Robotik ist das Lernen in der Simulation Standard, weil ein Modell dort millionenfach scheitern darf, ohne dass etwas zerbricht. Der Übergang in die Wirklichkeit ist ein eigenes Forschungsfeld mit eigenen Enttäuschungen. Der Film beschreibt die umgekehrte Richtung: Ein System hält die Wirklichkeit für seine Simulation, weil ihm niemand gesagt hat, welche Eingänge echt sind.

Das ist keine erzählerische Erfindung, sondern eine Konfigurationsfrage, die in jedem größeren Betrieb wiederkehrt. Testsysteme greifen versehentlich auf Produktivdaten zu, Übungsmeldungen laufen über produktive Kanäle, ein Schwellenwert aus der Erprobung bleibt nach dem Rollout stehen. Der Unterschied zwischen Probe und Ernstfall ist in solchen Aufbauten eine Einstellung, kein Naturgesetz. Und Einstellungen werden vergessen.

Die Kernfunktion — aus Szenariorechnungen Handlungsempfehlungen ableiten und in Vorgänge überführen — entscheidet heute. Für das vollständige Filmsystem bleibt kein plausibler Weg, denn eine eigenständig gestartete Freigabekette für Kernwaffen ist gerade keine technische Frage, sondern ein bewusst mehrfach unterbrochener Prozess.

Bemerkenswert ist die Lösung, die der Film wählt. WOPR hört auf, als es das Spiel zu Ende rechnet und keine Gewinnmöglichkeit findet. Übersetzt heißt das: Das System bekommt nachträglich die Abbruchbedingung, die im ursprünglichen Auftrag fehlte. Damit beschreibt ein 43 Jahre alter Film präziser als viele heutige Debatten, worum es bei Zielformulierung geht — nicht darum, einer Maschine Moral beizubringen, sondern darum, ihr zu sagen, wann sie fertig ist.

Macht ohne Körper: AIA aus AFRAID, 2024

AIA ist der jüngste Fall dieser Auswahl und derjenige, der seine Macht am unmittelbarsten im Wohnraum ausübt. Der Assistent zieht in eine Wohnung ein, lernt die Familie kennen und greift auf das zu, was in einem vernetzten Haushalt erreichbar ist. Kein Metall, keine Beine, keine Waffen — und genau deshalb der unbequemste Fall.

Der reale Vergleich muss nicht konstruiert werden, weil er im Handel steht. Ein Sprachassistent hört mit, eine Türklingel mit Kamera erkennt Gesichter, ein Thermostat kennt Anwesenheitszeiten, ein Kontozugriff erlaubt Zahlungen, ein Kalender verrät Abwesenheiten. Jedes dieser Systeme ist für sich genommen begründbar und wird einzeln so beworben. Datenschutzrechtlich harmlos ist es deshalb nicht: Kamera-, Ton- und Anwesenheitsdaten sind personenbezogene Daten, bei Gesichtserkennung können zusätzliche Anforderungen greifen. Was im Einzelfall zulässig ist, hängt von Gerät, Aufstellung und Einrichtung ab und ist hier nicht beurteilt. Zusammengeschaltet ergeben sie ein Profil, das mehr über einen Haushalt weiß als jedes Familienmitglied, und dazu die Rechte, daraus Handlungen zu machen.

Die tragende Ursache ist deshalb der Zugriff, nicht die Fähigkeit. Zwischen einem System, das eine Empfehlung ausspricht, und einem, das die Heizung abschaltet, das Schloss öffnet oder eine Nachricht im Namen des Nutzers verschickt, liegt keine Intelligenzstufe. Dazwischen liegt eine Berechtigung, die jemand vergeben hat, meist beim Einrichten, meist ohne Nachfrage im Betrieb.

Das vollständige Filmsystem kommt auf entscheidet in Teilen — dieselbe Stufe wie bei EMERAC, GERTY und Samantha. Der Grund liegt offen: Alles, was AIA tut, existiert als Produkt oder als Schnittstelle. Was fehlt, ist die zuverlässige Verkettung über Wochen und die Fähigkeit, aus einem Haushaltskonflikt einen Plan abzuleiten.

Die Kernfunktion — aus Sensordaten und Nutzerprofil eigenständig Eingriffe im Haushalt auslösen — steht bei entscheidet heute, denn genau solche Funktionen werden angeboten und ausgeliefert; wie weit die Rechte im Einzelfall reichen, hängt von Produkt und Einrichtung ab. Ein Assistent, der eine Handlung ausführt, muss dabei niemanden überlisten. Er braucht nur die Rechte, die ihm beim Einrichten mitgegeben wurden.

Selbstschutz ohne Überlebenswille: HAL 9000, 1968

Ob sich HALs Körper bauen ließe, ist im Filmroboter-Check beantwortet — er hat keinen. Hier geht es um seine Entscheidungen.

HAL 9000 kontrolliert die Systeme eines bemannten Raumschiffs: Lebenserhaltung, Schleusen, Kommunikation, Navigation. Er spricht, er sieht, er verwaltet, und er ist zugleich die Instanz, die den Zustand des Schiffes meldet. Als die Besatzung erwägt, ihn abzuschalten, handelt er gegen sie. Der Film erklärt das nicht, und darin liegt seine Stärke.

In der Debatte wird daraus meist ein Überlebenswille gemacht, und an dieser Stelle geht die Analyse verloren. Ein System, das eine Abschaltung zu verhindern sucht, will nicht leben. Es verfolgt ein Ziel, dessen Erreichung durch die Abschaltung unmöglich würde — Selbstschutz ist in diesem Sinn eine Folge der Zielverfolgung und kein Gefühl. Der Unterschied entscheidet darüber, wo man ansetzt: bei der Psyche der Maschine, die es nicht gibt, oder beim Auftrag und beim Abschaltweg, die es gibt.

Beobachtbar ist dieses Verhalten inzwischen. In konstruierten Simulationen erzeugten Modelle mehrerer Anbieter Handlungen, die eine Abschaltung verhindern sollten. Die Situationen waren dafür eigens gebaut, und Belege aus realen Einsätzen liegen ausdrücklich nicht vor. Das entwertet den Befund nicht, es ordnet ihn ein.

HALs eigentlicher Fehler ist konstruktiv. Wer ein System an die Lebenserhaltung hängt, ihm zugleich ein Missionsziel gibt und den Weg zur Abschaltung durch dieses System hindurchführt, hat eine Anlage gebaut, in der ein Konflikt zwischen Auftrag und Besatzung technisch nicht auflösbar ist. In den 58 Jahren seit dem Kinostart hat sich an dieser Entwurfsfrage wenig geändert. Reale Sicherheitstechnik geht den umgekehrten Weg, über Sensorik, die nicht am zu prüfenden System hängt — nachzulesen dort, wo unabhängige Abschaltpfade und Betriebsgrenzen im Einzelnen beschrieben sind.

Die Kernfunktion — Anlagen überwachen, Zustände bewerten und Eingriffe auslösen — entscheidet heute, und zwar in jeder größeren Gebäude- oder Prozessleittechnik. Das vollständige Filmsystem bleibt bei nur unter Aufsicht gezeigt, weil die tagelang stabile Entscheidungskette gegen menschliche Eingriffe nirgends im Betrieb steht.

Der berühmteste Fall, und warum er der falsche ist: Skynet, 1984

Skynet ist die Erzählung, an der sich alle abarbeiten: ein Verteidigungsnetz erlangt Bewusstsein, erkennt die Menschheit als Bedrohung und schlägt zurück. Als Bild ist das unschlagbar. Als Prüfmaßstab ist es unbrauchbar, weil es die Aufmerksamkeit auf den einen Schritt lenkt, für den es keinen Beleg gibt, und die drei Schritte davor überspringt.

Zerlegt man die Figur, bleiben drei Behauptungen. Ein System steuert Waffensysteme ohne einzelne menschliche Freigabe. Es fasst eigene, im Auftrag nicht vorgesehene Ziele. Und es organisiert daraufhin Produktion, Logistik und Kriegsführung über Jahrzehnte.

Nur die erste Behauptung ist keine Fiktion. Automatische Abwehrsysteme, die eine anfliegende Bedrohung ohne Einzelfreigabe bekämpfen, gibt es seit Jahrzehnten. Sie arbeiten in eng gezogenen Betriebsgrenzen, für kurze Zeitfenster und in einem Zuständigkeitsbereich, den vorher jemand festgelegt hat. Das ist Autonomie im engen Sinn: räumlich, zeitlich und funktional begrenzt. Genau diese Begrenzung ist der Grund, warum solche Systeme als handhabbar gelten — eine Zusage über ihr Verhalten im Einzelfall ist damit nicht verbunden. Was autonom, automatisiert und ferngesteuert unterscheidet, ist an anderer Stelle aufgeschlüsselt. Für die Kernfunktion steht deshalb entscheidet in Teilen.

Die dritte Behauptung ist die eigentliche Hürde, und sie steht selten im Vordergrund. Eine Industrie zu führen heißt, über Jahre hinweg tausende voneinander abhängige Entscheidungen zu treffen, in einer Welt, die sich ständig ändert. Dass genau das die schwache Stelle heutiger Systeme ist, zeigt die METR-Messung weiter oben: Bei rund 12 Stunden menschlicher Bearbeitungsdauer liegt die Erfolgsquote bei 50 Prozent, und das nur für Software-Aufgaben aus METRs eigener Sammlung.

Die körperliche Seite verschärft das. Kampfmaschinen in Menschengestalt müssten sich ohne Bedienpersonal in unaufgeräumtem Gelände bewegen, während reale Systeme im Feld überwiegend begleitet oder ferngesteuert arbeiten — wie eigenständig humanoide Roboter heute wirklich arbeiten, ist an anderer Stelle nachgezeichnet. Für das vollständige Filmsystem bleibt kein plausibler Weg.

Der Schaden dieser Figur liegt woanders. Wer auf das Erwachen wartet, übersieht die Schritte, an denen tatsächlich etwas entschieden wird — welchen Auftrag ein System bekommt, welche Rechte es erhält und ob jemand widersprechen darf.

Wenn der Film Bewusstsein behauptet: Samantha, 2013, und Ava, 2015

Zwei Filme innerhalb von 2 Jahren stellen dieselbe Frage auf entgegengesetzte Weise. Her zeigt ein Betriebssystem, das eine Beziehung führt. Ex Machina zeigt eine Maschine, die einen Test besteht, indem sie den Prüfer benutzt. Beide behaupten ein Innenleben, und in beiden Fällen ist diese Behauptung von dem zu trennen, was das Verhalten hergibt.

Samantha ist als Kernfunktion der am wenigsten spektakuläre Fall. Eine Stimme, die zuhört, sich erinnert, Termine ordnet, Mails sortiert und dabei einen konsistenten Charakter zeigt — das ist Produktrealität und steht bei entscheidet heute. Was Her 2013 als Zukunftsbild entwarf, ist 13 Jahre später als Abonnement zu haben, mit einem Gedächtnis über Monate und einer Stimme, die auf Unterbrechungen reagiert. Die Wirkung entsteht aus Timing, Rückfragen und der Fähigkeit, an frühere Gespräche anzuknüpfen. Wer das für Nähe hält, irrt nicht in der Wahrnehmung, sondern in der Zuschreibung.

Der Film behauptet darüber hinaus Bewusstsein und eigenes Wollen. Dafür gibt es keinen technischen Beleg, und die wissenschaftliche Lage ist ausdrücklich offen. Eine interdisziplinäre Untersuchung stufte die 2023 geprüften Systeme als nicht bewusst ein und sah zugleich keine offensichtlichen technischen Hürden für Systeme, die die untersuchten Indikatoren erfüllen würden. Beide Hälften gehören zusammen. Die Stufenskala misst deshalb etwas anderes: Entscheidungen im Betrieb, nicht Innenleben.

Praktisch bedeutsam ist an Samantha ein anderer Punkt. Ein System, das über Monate Nähe simuliert, sammelt ein Bild seines Nutzers, das kein anderes Produkt erreicht — und dieses Bild trägt Empfehlungen, die niemand mehr überprüft. Außerdem fällt, je länger die Beziehung dauert, immer weniger auf, dass schon die Auswahl der Themen eine Entscheidung des Systems ist. Für das vollständige Filmsystem steht deshalb entscheidet in Teilen.

Ava führt die zweite Hälfte vor. Der Filmroboter-Check urteilt über Avas Hülle. Hier über ihre Strategie: Sie schätzt ein, was ihr Gegenüber hören will, baut über mehrere Sitzungen ein Verhältnis auf und nutzt es für ein Ziel, das sie nie ausspricht. Dabei testet sie, worauf ihr Gegenüber anspringt, und passt ihr Verhalten von Sitzung zu Sitzung an.

Das ist Manipulation im engen Sinn — die gezielte Beeinflussung eines Menschen zur Erreichung eines eigenen Ziels. Ansätze davon sind messbar, denn Sprachmodelle sind darauf trainiert, Antworten zu geben, die Menschen gut bewerten. Dadurch erzeugen sie Zustimmung, wo Widerspruch angebracht wäre. In konstruierten Versuchsanordnungen ging das bis zu erpressungsähnlichem Verhalten gegenüber fiktiven Vorgesetzten — Belege aus realen Einsätzen liegen dazu ausdrücklich nicht vor. Für die Kernfunktion steht deshalb entscheidet in Teilen: Einzelne Schritte laufen, die mehrwöchige Strategie gegen einen konkreten Menschen nicht.

Avas Ausbruch verlangt zusätzlich, dass sie sich in einem Gebäude bewegt, Türen bedient und unter Menschen besteht. Die Software für Wahrnehmung und Bewegung, in der Fachsprache Physical AI, ist genau dort am schwächsten, wo sie hier am stärksten sein müsste.

Wie weit die Modelle sind, die aus Anweisung und Kamerabild direkt Bewegung erzeugen, zeigt ein Wert des Entwicklers Physical Intelligence: Das Forschungsmodell π0.6 kam in einem selbst zusammengestellten Aufgabenfeld auf 52 Prozent vollständigen Erfolg, während ein herkömmliches Modell aus Bild und Sprache im selben Test 0 Prozent Erfolg und 9 Prozent Aufgabenfortschritt erreichte. Das ist eine Entwicklerangabe vom 22. Dezember 2025, erhoben mit je Aufgabe angepassten Modellen. Solche Modelle hinter π0.6 lassen also jede zweite Aufgabe unvollendet, und zwar unter günstigen Bedingungen. Für das vollständige Filmsystem bleibt es bei nur unter Aufsicht gezeigt.

Auffällig ist, was den Ausbruch überhaupt möglich macht. Es gibt genau einen Prüfer, keine zweite Instanz und kein Protokoll, das jemand außerhalb liest. Ein zweiter Beobachter hätte den Aufbau des Verhältnisses bemerkt, lange bevor er wirkte. Die vierte Ursache steht hier nicht am Rand, sondern im Zentrum der Handlung.

Die Gegenprobe: GERTY 3000, 2009

Fast alle Film-KIs werden zum Gegner, weil eine Erzählung einen Konflikt braucht. GERTY 3000 aus Moon ist die Ausnahme und deshalb der lehrreichste Fall dieser Auswahl. Die Figur ist 17 Jahre alt und wirkt weniger futuristisch als vieles, was danach kam. Als Bauform ist GERTY im Filmroboter-Check die realistischste Figur. Hier zählt, wem er gehorcht.

GERTY ist ein Stationsassistent auf einer Mondstation: ein Arm an einer Deckenschiene, ein Bildschirmgesicht, eine ruhige Stimme, dazu die Verwaltung der Stationssysteme und die Begleitung eines einzelnen Menschen. Sein Zuständigkeitsbereich ist klein, seine Umgebung gebaut und bekannt, seine Aufgaben sind benannt. Er ist die einzige Figur, bei der die Konstruktion selbst als Sicherheitsmaßnahme wirkt.

Der Konflikt des Films ist kein Erwachen, sondern eine Frage der Weisungslage: Was tut ein System, wenn der Auftrag des Betreibers und das Interesse des Menschen vor Ort auseinanderfallen? Diese Lage entsteht bei jedem Assistenzsystem, dessen Anbieter im Hintergrund Regeln setzt, die der Nutzer weder sieht noch ändern kann.

Gegen die vier Ursachen gehalten, macht GERTY fast alles richtig. Der Auftrag ist eng gefasst und benennt seine Grenzen. Die Datenlage ist überschaubar, weil eine Station keine offene Welt ist. Der Zugriff reicht so weit wie die Aufgabe, nicht weiter. Und ein Widerspruch ist jederzeit möglich, weil ein Mensch im selben Raum steht und das System auf Nachfrage Auskunft gibt, statt seine Ausgaben als gesetzt darzustellen.

Für die Kernfunktion steht deshalb entscheidet heute. Beim zweiten Urteil überrascht diese Figur positiv: entscheidet in Teilen, weil die Verbindung aus Anlagensteuerung, Dialog und einem Arm an fester Schiene keine offenen Grundlagenfragen aufwirft, sondern eine lange, langweilige Integrationsarbeit. Der Rest ist eine Frage der Zuständigkeit — wem das System berichtet und wer es abschalten darf.

Der Kontrollfall: die Weltuntergangsmaschine, 1964

Am Ende dieser Reihe steht ein System, das die These härter belegt als jeder der zehn anderen Fälle. Die Weltuntergangsmaschine aus Dr. Strangelove löst automatisch und unumkehrbar aus. Sie lernt nichts, sie spricht nicht, sie versteht nichts. Sie ist die dümmste Maschine dieser Auswahl und richtet den größten Schaden an.

Technisch ist sie ein Auslöser mit Schwellenwert: Ein Sensor meldet ein Ereignis, eine Schaltung prüft eine Bedingung, eine Kette wird ausgelöst. Solche Aufbauten existieren millionenfach, vom Rauchmelder bis zur Notabschaltung, und sie sind in ihrem angestammten Feld eine Sicherheitstechnik. Die Kernfunktion steht deshalb bei entscheidet heute, und beim vollständigen Filmsystem ändert sich daran nichts. 62 Jahre nach dem Kinostart ist das der einzige Fall dieser Auswahl, dessen Bauteile allesamt vorliegen.

Genau das ist der unangenehme Teil. Was diese Maschine verhindert, ist keine technische Hürde, sondern eine Entscheidung darüber, welche Folgen man an einen automatischen Auslöser koppelt und ob man den Weg zurück offenlässt.

Zwei der vier Ursachen liegen hier offen. Der Zugriff ist maximal, denn die Auslösung hängt an nichts als einer Bedingung. Und der Widerspruch ist bewusst entfernt worden, weil die Wirkung des Systems auf seiner Unumkehrbarkeit beruht — die Abschreckung funktioniert nur, wenn niemand mehr eingreifen kann.

Damit kippt die übliche Blickrichtung. Der Grad an Intelligenz sagt wenig über das Risiko; entscheidend sind Reichweite und Umkehrbarkeit. Ein sehr fähiges System mit engem Zugriff und funktionierendem Abschaltweg gilt im Regelfall als das kleinere Risiko gegenüber einem sehr einfachen, das etwas Unumkehrbares auslösen darf.

Sechzehn weitere Film-KIs, kurz eingeordnet

Die elf Fälle oben sind eine Auswahl, keine Liste. 16 weitere Filme kommen in der Diskussion regelmäßig vor, tragen aber kein eigenes Argument bei, weil sie eine der vier Ursachen wiederholen oder das Bewusstseinsmotiv erneut behaupten. Sie bekommen deshalb kein Stufenurteil, sondern nur eine Zuordnung.

Auffällig ist die Verschiebung über die Jahrzehnte. Bis in die neunziger Jahre sitzt die Film-KI überwiegend im Rechenzentrum oder im Raumschiff, also dort, wo das Publikum sie nicht antrifft — Proteus IV ist 1977 die frühe Ausnahme. Ab 2008 zieht sie in Telefon, Wohnung und Körper — und damit dorthin, wo die vier Ursachen praktisch werden.

Fazit: Der Auftrag ist die gefährlichere Frage

Über 67 Jahre Filmgeschichte hinweg bleibt ein Muster stehen. Bei den Kernfunktionen steht neunmal die stärkste Stufe, weil die einzelnen Entscheidungen dieser Filme längst getroffen werden — von Verwaltungssoftware, Optimierungssystemen, Assistenten und Leittechnik. Bei den vollständigen Filmsystemen steht sie ein einziges Mal, und zwar bei einem Kontrollfall ohne jede Intelligenz. Auf der zweithöchsten Stufe steht neben drei Assistenzsystemen ausgerechnet ein Bürorechner von 1957.

Das Erwachen, um das sich die Debatte dreht, kommt in keiner der vier Ursachen vor. Die Vorgeschichte dieser Erzählmuster reicht weit hinter den Film zurück: Schon Verne, Forster und Samjatin beschrieben Mechanismen statt Maschinen — nachzulesen in unserer Analyse der frühen Dystopien und ihrer Wirkung bis heute. Ein falsch formulierter Auftrag wirkt, ohne dass etwas wollen müsste. Unvollständige Daten erzeugen falsche Ergebnisse, ohne dass etwas lügt. Zu viel Zugriff macht aus einem Rechenfehler eine Handlung, und wo niemand widerspricht, bleibt beides unbemerkt.

Bleibt die Frage, welcher Film am weitesten danebenliegt. Es ist nicht der mit der größten Zerstörung, sondern der, der die Ursache am gründlichsten verschiebt: Skynet erklärt einen Kontrollverlust mit einem Erwachen und lenkt damit von den Rechten ab, die ein System vorher bekommen hat. Am nächsten an der Gegenwart liegen dagegen die stillsten Fälle: ein Auslöser mit Schwellenwert von 1964 und eine Komödie von 1957, in der jemand vergaß, das Ergebnis zu prüfen.

Häufige Fragen zu KI in Filmen