Stell dir vor, du bist Automobilhersteller. Du baust das schnellste Auto der Welt — und rufst dann öffentlich dazu auf, Tempolimits einzuführen. Klingt absurd? Willkommen bei Anthropic.
Anfang Juni 2026 veröffentlichten Mitgründer Jack Clark und Marina Favaro, Leiterin des Anthropic-Forschungsinstituts, einen Blogpost mit dem Titel "When AI builds itself". Die Botschaft: Die Welt braucht die Möglichkeit, die KI-Entwicklung zu verlangsamen oder vorübergehend zu stoppen.
Was Anthropic so beunruhigt
Der Kern der Sorge heißt "rekursive Selbstverbesserung" — ein Zustand, in dem eine KI ihre eigene Nachfolgerin entwirft und entwickelt. Noch ist das nicht passiert. Anthropic sagt auch, es sei "nicht unvermeidlich". Aber es könnte kommen, "bevor die meisten Institutionen darauf vorbereitet sind".
Und sie haben Daten. Unangenehme.
Laut eigenem Blog-Post stammen mehr als 80% des Codes, der in Anthropics Codebase einfließt, von Claude — Stand Mai 2026. Vor dem Start von Claude Code Anfang 2025 waren es kaum messbare Anteile. Und im April 2026 lösten Claude-Agenten ein offenes KI-Sicherheits-Forschungsprojekt zu 97% in einer Woche. Menschliche Forscher kamen im gleichen Zeitraum auf 23%.
Kurz gesagt: Claude ist bereits dabei, sich selbst weiterzuentwickeln. Nicht vollständig autonom — aber die Richtung ist deutlich.
Das Modell: Atomwaffen-Kontrolle für KI
Anthropic fordert keinen sofortigen Stopp. Der Vorschlag ist differenzierter: ein multilaterales, verifizierbares Framework. Wenn bestimmte Schwellenwerte erreicht werden, sollen sich die großen KI-Labore koordiniert auf einen temporären Stopp einigen können — ähnlich wie bei nuklearen Rüstungskontrollverträgen.
Der Haken: Atomanlagen kann man von Satelliten aus sehen. KI-Training in einem Rechenzentrum eher nicht.
Warum das trotzdem nicht passieren wird
Das China-Argument. Dario Amodei — Anthropics eigener CEO — hatte im Januar beim Weltwirtschaftsforum in Davos selbst gesagt, dass eine Verlangsamung kaum möglich sei. Durchsetzbare Abkommen mit China? Praktisch nicht vorhanden. Das KI-Rennen läuft. Und wer bremst, verliert.
Washington ist nicht begeistert. Offizielle im Weißen Haus haben den Vorschlag bereits als Strategie bezeichnet, Konkurrenten unter dem Deckmantel von Sicherheitsbedenken zu verlangsamen. Die Stimmung: Amerika muss führen, nicht zögern.
OpenAI antwortet kühl. Demokratische Regierungen, nicht private Unternehmen, sollten über das Tempo der KI-Entwicklung entscheiden — so die offizielle Position des direkten Konkurrenten. Klingt vernünftig. Und entzieht dem Vorschlag elegant den Wind aus den Segeln.
Und dann ist da noch die Ironie. Anthropic macht selbst munter weiter. Claude schreibt seinen eigenen Code. Agenten lösen Forschungsprojekte. Die Firma bremst nicht — sie warnt nur.
Was bleibt
Der Vorschlag ist trotzdem nicht wertlos. Erstmals bringt ein führendes KI-Labor mit eigenen Daten öffentlich zur Sprache, dass die Entwicklung in eine Richtung geht, die schwer kontrollierbar sein könnte. Das ist mehr als die übliche Pressemitteilung.
Ob ein globales Abkommen je zustande kommt? Unwahrscheinlich. Ob die Debatte wichtig ist? Absolut.
Und falls du dich fragst, wer diesen Artikel geschrieben hat — zu einem nicht unerheblichen Teil: Claude. Das gleiche Modell, über das wir hier schreiben.