Was die Open Secure AI Alliance ist

Am 27. Juli 2026 hat NVIDIA die Open Secure AI Alliance gegründet, kurz OSAI. Es ist ein Zusammenschluss von Unternehmen und Organisationen mit einem klaren Fokus: die Sicherheit offener, sogenannter open-weight KI-Modelle. Der Gedanke dahinter ist simpel. Offene Modelle verbreiten sich schnell, ihre Sicherheit hängt aber an vielen Beteiligten.

Die bindende Gegenseite zur freiwilligen Allianz liefert der EU AI Act — was ab dem 2. August 2026 rechtlich verbindlich gilt.

OSAI will diese Beteiligten an einen Tisch holen. Die Allianz ist aktiv und startet als freiwilliges Bündnis. Sie ist kein Produkt und kein Gerät, das sich kaufen lässt. Sie ist ein Rahmen, in dem Firmen gemeinsame Sicherheits-Praktiken abstimmen wollen. Eine Ankündigung dieser Art ist noch keine Garantie für konkrete Ergebnisse.

Wer dahintersteht: NVIDIA und die Gründungsmitglieder

NVIDIA führt die Allianz an und hat sie öffentlich vorgestellt. Zum Start berichteten Fachmedien von 37 Gründungsmitgliedern. NVIDIAs eigene Ankündigung nennt keine Zahl, sondern listet die Partner namentlich auf. Darunter sind bekannte Namen aus Software und Sicherheit. Genannt werden unter anderem Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Red Hat und die Linux Foundation.

Diese Liste ist eine Auswahl, keine Vollzähligkeits-Garantie. Auffällig ist die Mischung: viel Infrastruktur, viel Cybersecurity, viel Open-Source-Nähe. Es sind vor allem die Firmen, die KI betreiben, absichern und ausliefern. Die Häuser, die die größten Sprachmodelle selbst bauen, tauchen unter den Mitgliedern nicht auf.

Die Mitglieder-Gruppen: Cloud, Security, Open Source

Wer die Namen sortiert, erkennt ein Muster. OSAI vereint keine Modell-Labore, sondern die Schichten darunter und daneben. Grob lassen sich drei Gruppen bilden: Cloud und Infrastruktur, Cybersecurity sowie Open-Source-Ökosystem. Diese Zuordnung ist eine redaktionelle Einordnung, keine offizielle OSAI-Struktur.

Im Cloud-Bereich stehen Firmen wie Microsoft, Cisco und Cloudflare für Betrieb und Netz. Im Security-Bereich liefern CrowdStrike und weitere die Bedrohungs-Erkennung. Und im Open-Source-Bereich verankern Hugging Face, IBM, Red Hat und die Linux Foundation die Nähe zu offenen Modellen. Die folgende Tabelle ordnet die genannten Beispiele in die drei Gruppen.

Gruppe	Beispiel-Mitglieder	Beitrag zur Sicherheit
Cloud & Infrastruktur	Microsoft, Cisco, Cloudflare	Betrieb, Netz, Zugriffskontrolle
Cybersecurity	CrowdStrike, IBM	Bedrohungs-Erkennung, Härtung
Open-Source-Ökosystem	Hugging Face, Red Hat, Linux Foundation	Modell-Verteilung, offene Standards

Die drei Gruppen erklären, warum OSAI so aussieht, wie es aussieht. Die Allianz will die Kette rund um ein Modell absichern, nicht das Modell selbst bauen. Genau das unterscheidet sie von einem reinen Labor-Bündnis. Sicherheit entsteht hier auf der Betriebs- und Verteilungs-Ebene.

Wer fehlt: OpenAI, Anthropic, Google und Meta

Bei OSAI fehlen vier Modell-Labs, die man erwartet hätte. OpenAI, Anthropic, Google und Meta sind nicht dabei. Beobachter nennen sie „The Four That Aren’t There“. Das ist die eigentliche Nachricht dieser Gründung.

Warum diese vier Labs fehlen, ist offiziell nicht begründet. Naheliegend wäre der Konflikt zwischen open-weight und proprietären Modellen. Bestätigt ist dieses Motiv aber nicht. Wir halten das ausdrücklich als Vermutung fest, nicht als Faktum. Was gesichert ist, ist allein die Nicht-Mitgliedschaft.

Interessant ist die Rolle von Meta in dieser Lücke. Ausgerechnet Meta gilt mit seinen Llama-Modellen als treibende Kraft offener Gewichte. Dass gerade dieser Anbieter fehlt, macht die reine open-weight-Erklärung wackliger. Auch deshalb bleibt das Motiv eine offene Frage, keine Tatsache.

Der Unterschied zu CoSAI von 2024

OSAI ist nicht das erste Sicherheitsbündnis dieser Art. Bereits am 18. Juli 2024 startete CoSAI unter dem Dach der Standardisierungs-Organisation OASIS. Seit rund zwei Jahren existiert damit schon ein vergleichbarer Verbund. Und genau dieser Kontrast macht die neue Allianz interessant, denn CoSAI enthält die Labs, die bei OSAI fehlen.

Bei CoSAI sind OpenAI, Anthropic, Google, Microsoft und NVIDIA vertreten. Dieselben Frontier-Labs, die dem NVIDIA-Pakt fernbleiben, sitzen im OASIS-Bündnis. Man kann OSAI also als jüngeres, offener ausgerichtetes Gegenstück lesen. Die folgende Tabelle stellt beide Allianzen nebeneinander.

Merkmal	OSAI	CoSAI
Gründung	27. Juli 2026	18. Juli 2024
Initiator / Träger	NVIDIA	OASIS (Standard-Gremium)
Fokus	Sicherheit offener, open-weight KI-Modelle	herstellerübergreifende KI-Sicherheit
Umfang	Bündnis mehrerer Unternehmen	Gründer-Kreis mehrerer Konzerne
Frontier-Labs	fehlen (OpenAI, Anthropic, Google, Meta)	enthalten (OpenAI, Anthropic, Google)
Charakter	freiwillige Allianz	freiwillige Allianz

Was „open-weight-Sicherheit“ bedeutet

Der Begriff open-weight steht im Zentrum von OSAI. Gemeint sind Modelle, deren Gewichte offen verfügbar sind. Jeder kann sie herunterladen, anpassen und selbst betreiben. Das bringt Offenheit und Nachvollziehbarkeit, aber auch eine größere Angriffsfläche.

Bei einem proprietären Modell kontrolliert ein Anbieter den Zugang. Bei offenen Gewichten liegt die Verantwortung bei vielen Betreibern. Genau hier setzt die Allianz an. Sie will gemeinsame Prüf- und Absicherungsschritte definieren, damit offene Modelle nicht zum unkontrollierten Risiko werden.

Angriffsfläche, Supply-Chain und Model-Signing

Ein offenes Modell durchläuft viele Hände, bevor es läuft. Es wird trainiert, hochgeladen, kopiert, feinjustiert und weiterverteilt. Jede dieser Stationen ist eine mögliche Schwachstelle. Sicherheitsleute sprechen von der Supply-Chain eines Modells.

Ein manipuliertes Gewicht kann eine Hintertür enthalten, ohne dass man es sofort sieht. Deshalb rücken Prüf-Mechanismen in den Vordergrund. Model-Signing heißt: ein Modell bekommt eine kryptografische Signatur. Damit lässt sich prüfen, ob die Datei echt und unverändert ist.

Dazu kommen Herkunfts-Nachweise und Prüfsummen für jede Modell-Version. Solche Verfahren sind aus der klassischen Software-Sicherheit bekannt. OSAI will sie auf offene KI-Modelle übertragen. Das ist der praktische Kern von open-weight-Sicherheit, jenseits der großen Worte.

Die eigene Aussage: keine Containment-Grenze

NVIDIA bringt in die Allianz sein Forschungsprojekt NOOA ein. NVIDIA beschreibt NOOA als offene Forschungsvorschau: Typisierte Abläufe, deterministische Prüfungen und nachvollziehbare Traces erleichtern es, Agentenläufe zu testen und zu untersuchen. Eine Sicherheits- oder Containment-Grenze ist das nicht. Wichtig ist eine Einschränkung, die aus dem Framework selbst stammt. Diese Checks sind laut Eigenaussage „keine Containment-Grenze“.

Der Satz ist ehrlicher, als er klingt. Ein Guardrail filtert, es sperrt aber nicht wirklich ein. Echte Eingrenzung entsteht erst durch technische Isolation, etwa eine Sandbox auf Betriebssystem-Ebene. Ein Modell wird also nicht durch gute Regeln zuverlässig, sondern durch harte Grenzen um seinen Wirkungskreis. Kein Guardrail schließt jede Lücke.

NOOA im Detail: Checks statt Sandbox

Es lohnt sich, den Unterschied genauer anzusehen. NOOA arbeitet mit Prüf-Regeln, die den Datenstrom eines Agenten kontrollieren. Dazu gehören Deny-Lists für verbotene Aktionen und Muster-Analysen von Ein- und Ausgaben. Bei Code-Agenten kommen Prüfungen der Programmstruktur hinzu, etwa auf gefährliche Aufrufe.

Solche Checks sind nützlich, aber sie laufen im selben Vertrauensraum wie das Modell. Ein cleverer Angriff kann sie umgehen oder aushebeln. Eine echte OS-Sandbox dagegen kappt den Zugriff auf System, Netz und Dateien von außen. Sie fragt nicht, ob eine Aktion erlaubt ist, sondern macht sie technisch unmöglich.

Genau das meint die Trennung von Regel und Grenze. Ein Filter ist eine Empfehlung mit Muskeln, eine Isolation ist eine Wand. Für sicherheitskritische Systeme zählt am Ende die Wand. NOOA ersetzt sie nicht, es ergänzt sie.

Warum das jetzt kommt: der Agenten-Boom

Der Zeitpunkt ist kein Zufall. 2026 gehen KI-Systeme vom reinen Antworten zum eigenständigen Handeln über. Solche Agenten rufen Werkzeuge auf, schreiben Code und lösen Aktionen aus. Damit steigt das Risiko, wenn ein Modell falsch entscheidet.

OSAI ist die Industrie-Antwort auf diesen Sprung. Ein Agent, der selbst Programme startet, braucht andere Leitplanken als ein Chat-Fenster. Fehler skalieren, sobald ein System ohne Rückfrage handelt. Wie diese Ebenen zusammenwirken, ordnen wir im Grundlagen-Text zu Physical AI ein.

Der Staat zieht mit: NIST ab Februar 2026

Die Industrie bewegt sich nicht allein. Am 17. Februar 2026 startete das US-Institut NIST eine eigene Initiative für Agenten-Standards. Damit bekommt die Debatte eine staatliche Ebene neben den Firmen-Allianzen. Beide Bewegungen zielen auf dasselbe Problem: handelnde KI sicher machen.

Diese Allianz ist nur ein Baustein. Wie Industrie, Staat und Gesetz 2026 zusammenspielen, ordnet unsere Landkarte der KI-Agenten-Sicherheit 2026 ein.

Der Unterschied liegt im Charakter. Eine Allianz wie OSAI ist freiwillig und schnell. Eine Standard-Behörde wie NIST arbeitet langsamer, dafür verbindlicher. Wenn beide binnen Monaten auf ähnliche Prüf-Verfahren zulaufen, entsteht mit der Zeit ein gemeinsamer Rahmen. Genau darauf sollte man in den nächsten Monaten achten.

Was es für Roboter und Physical AI heißt

Ein Roboter ist im Kern ein KI-Agent mit Körper. Sein Verhalten steuert dasselbe Modell, das auch als reine Software laufen könnte. Deshalb betrifft eine Debatte über Agenten-Sicherheit direkt die Robotik. Der Unterschied ist nur die Folge eines Fehlers.

Ein Software-Agent verschickt bei einem Fehler eine falsche Mail. Ein Roboter mit demselben Fehler bewegt sich in der echten Welt. Genau deshalb ist die Frage nach Isolation und Abschaltpfaden bei verkörperter KI so zentral. Wie sich der Robotik-Markt zwischen China und den USA dabei entwickelt, zeigt unsere Analyse zum Humanoiden-Rennen.

Was deutsche Anbieter jetzt beobachten

Für Deutschland ist OSAI vor allem ein Signal. Die Allianz bindet hiesige Anbieter rechtlich zu nichts. Sie zeigt aber, wohin sich die internationale Sicherheits-Debatte bewegt. Roboter- und KI-Firmen sollten die entstehenden Praktiken im Blick behalten.

Konkret geht es um Verfahren wie Model-Signing und Herkunfts-Nachweise. Wer offene Modelle in Produkte einbaut, dürfte solche Prüfungen künftig belegen müssen. Bei personenbezogenen Daten kann zudem eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO nötig werden. Das gilt besonders für Startups, die auf Hugging-Face-Modelle setzen.

Rechtlich bindend bleibt in Europa etwas anderes. Der EU AI Act (Verordnung 2024/1689) greift seit dem 2. August 2026 mit den Transparenzpflichten aus Artikel 50. Dazu kommen die Maschinenverordnung 2023/1230 ab 2027 und der Cyber Resilience Act 2024/2847. Die neue EU-Regel für KI in Maschinen erklären wir im Beitrag zum AI Omnibus.

Einordnung: Allianz, noch kein Standard

OSAI ist ein starkes Signal, aber noch kein fertiges Werk. Eine Allianz ist kein Standard und schon gar kein Gesetz. Die beteiligten Unternehmen und Organisationen erklären eine gemeinsame Absicht, mehr zunächst nicht. Ob daraus verbindliche Normen werden, entscheidet sich erst in den nächsten Monaten.

Für Sie zählt die nüchterne Lesart. OSAI verbessert im besten Fall die Sicherheit offener Modelle. Es ersetzt weder rechtliche Pflichten noch technische Isolation. Und die vier fehlenden Labs bleiben die Frage, die über der Gründung schwebt. Beobachten lohnt sich, ein Freibrief für „sichere KI“ ist die Allianz nicht.

Häufige Fragen zur Open Secure AI Alliance