Es ist ein ungewöhnlicher Schritt: Anthropic, der Entwickler des bekannten Chatbots "Claude", fordert die KI-Branche auf, das Entwicklungstempo zu drosseln.
In einem Papier mit dem Titel "When AI builds itself" plädiert das Unternehmen dafür, die Entwicklung der leistungsstärksten KI-Modelle vorübergehend zu verlangsamen oder sogar zu pausieren.
Die Begründung klingt wie Stoff aus einem Science-Fiction-Film. Die KI-Modelle nähern sich nach Darstellung des Unternehmens einem Punkt, an dem sie sich selbst verbessern können, ohne dass der Mensch noch eingreift.
Wenn KI beginnt, sich selbst zu bauen
Hinter der Warnung steht ein Begriff, der in der Forschung "rekursive Selbstverbesserung" diskutiert wird. Gemeint ist damit ein Szenario, in dem ein KI-System fähig wird, seinen eigenen Nachfolger zu entwerfen und zu entwickeln, ohne menschliche Hilfe.
Genau hier sieht Anthropic die Gefahr. Ist diese Schwelle überschritten, steigt das Risiko, dass die Menschheit die Kontrolle über die Technologie verliert. Dieser Punkt könnte schneller erreicht sein, als sich die Politik und Gesellschaft darauf vorbereiten können.
Anthropic untermauert die Warnung mit Daten aus den eigenen Systemen. Im Mai 2026 hat die KI "Claude" mehr als 80 Prozent des Programmcodes von Anthropic selbst geschrieben. Vor dem Start von "Claude Code" hat dieser Anteil noch im niedrigen einstelligen Bereich gelegen.
Eine Pause funktioniert nur, wenn alle mitmachen
Einen Alleingang schließt Anthropic allerdings aus. Würde ein einzelnes Unternehmen die Entwicklung stoppen, würden die Konkurrenten einfach vorbeiziehen. Der derzeitige Entwicklungsvorsprung wäre dahin.
Eine echte KI-Pause setzt also voraus, dass alle großen KI-Firmen gleichzeitig auf die Bremse treten. Vor allem die großen KI-Nationen USA und China müssten mitziehen, und zwar nach Regeln, die für alle Beteiligten überprüfbar sind.
Niemand kann es wirklich kontrollieren
Aber genau diese Kontrolle ist die große Schwäche der Idee. KI-Training lässt sich viel leichter verbergen als etwa Rüstungsfabriken oder Anlagen zur Urananreicherung.
Die nötige Rechenleistung, die Daten und die Forschung sind weltweit verstreut und schwer zu überwachen. Ohne einen globalen Mechanismus stehen Unternehmen und Regierungen vor schwierigen Entscheidungen, getrieben von wirtschaftlichem und geopolitischem Druck.
Kritiker wittern ein Geschäftsmanöver
Aus dem Weißen Haus und aus Teilen der Branche kommt der Vorwurf, Anthropic überzeichne die Worst-Case-Szenarien. So wolle das Unternehmen unter dem Deckmantel der Sicherheit die eigene Konkurrenz ausbremsen.
Auffällig ist auch das Timing. Nur wenige Tage zuvor hat Anthropic die Unterlagen für den eigenen Börsengang bei der SEC eingereicht. Die Bewertung des Unternehmens rangiert nahe an der Marke von einer Billion Dollar.
Ein bekanntes Muster
Der Ruf nach einer KI-Entwicklungspause ist nicht neu. Schon vor Jahren hat sich Tech-Milliardär Elon Musk für eine sechsmonatige Pause ausgesprochen, um kurz darauf bekanntzugeben, dass er eine eigene KI-Firma gegründet hat.
Auch deshalb dürfte die Skepsis groß bleiben. Bislang ist in der Branche jedenfalls keine Bereitschaft zu erkennen, das Tempo zu drosseln.
