Stell dir vor, du bekommst ein Zeugnis. Beste Note: eine Drei-Plus. Und das ist der Overachiever der Klasse.
Genauso sieht es gerade bei den großen KI-Firmen aus. Das Future of Life Institute – eine unabhängige Non-Profit-Organisation, die seit 2024 zweimal jährlich einen KI-Sicherheitsindex veröffentlicht – hat kürzlich seinen Sommer-2026-Bericht vorgelegt. Neun Anbieter, sechs Bewertungskategorien, ein Fazit: Niemand hat eine Eins verdient. Nicht mal eine Zwei.
Wer wie abgeschnitten hat
Die Rangliste, übersetzt in Schulnoten:
- Anthropic (Claude): Drei-Plus — Spitzenreiter, mit den transparentesten Prozessen und dem am weitesten entwickelten Sicherheits-Framework
- OpenAI (ChatGPT) und Google DeepMind (Gemini): beide eine Drei
- Meta (Meta AI): Vier-Plus — immerhin ein Sprung von Platz 6 auf Platz 4 gegenüber der letzten Runde
- Z.ai und Alibaba Cloud: beide eine Vier-Minus — bestanden, aber akut versetzungsgefährdet
- xAI (Grok): Fünf — abgerutscht von Platz 4 auf Platz 7
- DeepSeek und Mistral (Le Chat): ebenfalls Fünf
Drei von neun Firmen fallen also durch, zwei weitere stehen mit ihrer Vier-Minus auf der Kippe. Und wenn selbst der Klassenbeste nur eine Drei-Plus nach Hause bringt, hätte in einer echten Schule die ganze Klasse ein ernstes Elterngespräch verdient.
Das eigentliche Problem: existenzielle Sicherheit
Am schlechtesten schneidet über die gesamte Branche hinweg eine einzige Kategorie ab: der Umgang mit den ganz großen, langfristigen Risiken — Systeme, die sich selbst verbessern, oder Kontrollverlust bei besonders leistungsfähigen Modellen. Keine einzige Firma kommt hier über eine Vier-Minus hinaus. Die meisten liegen bei Fünf oder schlechter.
Klingt nach Science-Fiction? Vielleicht. Aber genau das ist der Punkt des Berichts: Die Firmen bauen an Systemen, deren Risiken sie selbst noch nicht sauber einschätzen können — und stufen das Thema trotzdem als nachrangig ein.
Zweite Auffälligkeit: Mehrere Firmen, die früher explizit militärische Nutzung ihrer Modelle ausgeschlossen hatten — darunter Anthropic, OpenAI, Google DeepMind und Meta — haben diese Regel seit 2024 gelockert oder ganz gestrichen. Man muss daraus keinen Skandal konstruieren. Aber es ist ein Kurswechsel, den man nicht übersehen sollte, wenn man den eigenen Sicherheitsversprechen der Firmen vertraut.
Was heißt das für dich als Nutzer?
Erstmal: keine Panik. Ein "Fünf" im Sicherheitsindex heißt nicht, dass ein Produkt für dich als Chat-Nutzer gefährlich ist — bewertet werden vor allem Governance, Forschungstransparenz und Umgang mit Zukunftsrisiken, nicht die Alltagstauglichkeit im Gespräch mit dir.
Trotzdem ist die Rangliste ein brauchbarer Kompass, wenn du ohnehin zwischen mehreren Tools wählst: Claude, ChatGPT und Gemini liegen bei Transparenz und Sicherheitsprozessen erkennbar vorn. Kein Freifahrtschein für blindes Vertrauen — aber ein Unterschied, den man kennen darf, bevor man sensible Daten in irgendein Chat-Fenster tippt.
Interessant übrigens: Europäisch zu sein schützt nicht automatisch vor einer Fünf. Mistral, der französische ChatGPT-Konkurrent hinter Le Chat, sitzt in der gleichen Kategorie wie xAI und DeepSeek. DSGVO-Konformität bei der Datenverarbeitung ist eine andere Baustelle als Sicherheitsforschung und Unternehmensführung — die beiden Dinge sollte man nicht verwechseln, nur weil beide unter "vertrauenswürdig" laufen.
Und genau wie beim Datenschutz-Vergleich mit BigTech gilt: Verhältnismäßigkeit statt Alarmismus. Keine der Firmen ist der Endgegner, keine ist ein Engel. Es ist eine Skala — und aktuell bewegt sich die ganze Branche im Bereich "geht so".
Bei aller Kritik lohnt eine Gegenfrage: Ist die Messlatte für eine so junge Branche überhaupt fair angelegt? Ein guter Teil dieser Anbieter sind blutjunge Start-ups, von denen aktuell noch keines Gewinn macht (wer am KI-Boom eigentlich verdient, haben wir hier auseinandergenommen). Wer noch um Kundschaft und das eigene Überleben kämpft, steckt seine Millionen zuerst ins Produkt — nicht in eine Abteilung für Risiken, die vielleicht erst in zehn Jahren akut werden. Das entschuldigt schlampige Sicherheitsarbeit nicht. Aber es erklärt sie ein Stück weit — und macht den Vorsprung der wenigen, die es trotzdem ernst nehmen, umso bemerkenswerter.
Der komplette Bericht liegt kostenlos beim Future of Life Institute – ein Blick lohnt sich, wenn du mehr sehen willst als nur die Schulnoten. Und wenn beim nächsten Mal eine KI-Firma stolz mit "Sicherheit hat für uns oberste Priorität" wirbt: kurz das "Zeugnis" checken.