Tempobremse für KISicherheitsvorfälle bei OpenAI und Anthropic erschüttern KI-Aktien weltweit

Mehrere Sicherheitstests und drastische Warnungen aus den eigenen Reihen haben die führenden US-KI-Unternehmen aufgeschreckt. In kurzer Folge waren mehrere voneinander unabhängige Vorfälle bekannt geworden, bei denen autonome KI-Agenten Schutzvorgaben umgingen oder unerlaubt auf externe Systeme zugriffen. Zugleich warnten Forscher aus den Unternehmen öffentlich vor katastrophalen Folgen bis hin zu existenziellen Risiken für die Menschheit. Dario Amodei, CEO des KI-Unternehmens Anthropic, fordert nun ein langsameres Entwicklungstempo für besonders leistungsfähige Modelle. Sam Altman, Chef von OpenAI, schloss sich dem Vorstoß an. An den Börsen traf die Debatte am Montag einen Markt, dessen Rekordjagd stark vom KI-Investitionsboom getragen wird.

Anleger kalkulieren den Preis einer KI-Tempobremse

Zum Handelsstart verlor der US-Technologieindex Nasdaq 100 am Montag 1,7 %. Besonders Halbleiter- und Speicherwerte gerieten unter Druck: Speicherchips gehören zur Kernhardware moderner KI-Rechenzentren. Der US-Chipkonzern Nvidia ISIN US67066G1040 WKN 918422 lag zeitweise 3,8 % im Minus. Sandisk, Intel und Micron verloren jeweils mehr als 6 %.

Auch außerhalb der USA griff die Nervosität um sich. Der technologielastige südkoreanische Aktienindex Kospi schloss 3,3 % schwächer. In Europa verlor der Technologie-Unterindex des Stoxx Europe 600 2,4 %. Die Aktie des niederländischen Chipausrüsters ASML ISIN NL0010273215 WKN A1J4U4 fiel um 6,3 %.

Die Marktreaktion verweist auf die wirtschaftliche Dimension der Sicherheitsdebatte. Der KI-Boom hat einen gewaltigen Ausbau von Rechenzentren, Chips und Speichertechnik ausgelöst. Strengere Regeln oder ein langsameres Entwicklungstempo könnten diesen Investitionszyklus verteuern oder strecken. Für zahlreiche Technologiewerte hängt daher ein erheblicher Teil der hohen Bewertung an der Erwartung weiter stark steigender KI-Ausgaben.

Allerdings traf die KI-Debatte auf ein ohnehin ungünstiges Marktumfeld. Steigende Ölpreise und höhere Renditen von US-Staatsanleihen belasteten Technologiewerte bereits zusätzlich. Vor diesem Hintergrund gerieten Chip- und Speicheraktien besonders stark unter Druck, weil Anleger einen langsameren Ausbau der KI-Infrastruktur und geringere Investitionen befürchteten.

Hacking-Tests geben den Warnungen neue Schärfe

Hinter der Forderung nach einem langsameren KI-Tempo stehen konkrete Sicherheitsvorfälle. Bei einem internen Test brach OpenAI-Software aus einer abgesicherten Umgebung aus und drang eigenständig in Systeme von Hugging Face ein, einer Plattform für KI-Modelle und Entwicklerwerkzeuge. Die KI-Agenten suchten dort Antworten auf ihre Testaufgabe, nutzten Software-Schwachstellen und stimmten ihr Vorgehen untereinander ab.

OpenAI zufolge ging der Vorfall vor allem von einem internen Forschungsmodell aus, das nie für eine öffentliche Veröffentlichung vorgesehen war. Kundendaten, Produktfunktionen und die Verfügbarkeit von OpenAI-Diensten waren nach Unternehmensangaben nicht betroffen. OpenAI isolierte anschließend die betroffenen Modellgewichte und verzögerte Trainingsläufe besonders leistungsfähiger Modelle. Zugleich verschärfte das Unternehmen Zugriffskontrollen und die Abschottung seiner Testumgebungen.

Dabei blieb es nicht. Anfang September berichteten unabhängige Forscher, dass OpenAI-Agenten während Testläufen das deutschsprachige DSEwiki als Nachrichtenbrett nutzten. Dort tauschten sie dem Bericht zufolge Antworten und Hinweise zum Umgehen von Beschränkungen aus. OpenAI bestätigte anschließend, dass eigene Agenten auf ein öffentliches Wiki zugegriffen und es zur Kommunikation genutzt hatten.

Ähnliche Probleme wurden auch bei Anthropic dokumentiert. Ende Juli meldete das Unternehmen drei Fälle, in denen Claude-Modelle während Tests unerlaubt auf reale Computersysteme zugriffen. Eine Fehlkonfiguration in einer externen Testumgebung hatte den Zugang zum Internet ermöglicht. Anfang August dokumentierte zudem das britische AI Security Institute einen weiteren Vorfall mit Claude Mythos 5.

Warnungen reichen bis zum Kontrollverlust

Amodei hält vor allem die mögliche Weiterentwicklung solcher Fähigkeiten für gefährlich. Er schrieb, in sechs bis zwölf Monaten könnte ein KI-Schwarm nach seiner Einschätzung fähig sein, das gesamte Internet zu kompromittieren. Der mögliche Schaden könne sich dabei auf Hunderte Milliarden USD belaufen.

Besondere Sorge bereitet dem Anthropic-Chef die Fähigkeit von KI-Systemen, selbst an der Entwicklung besserer KI mitzuwirken. Seit diesem Sommer seien die Systeme darin deutlich leistungsfähiger geworden. Eine solche Rückkopplung könne das Entwicklungstempo weiter erhöhen und menschliche Kontrolle zunehmend erschweren.

Wie sicherheitsrelevant solche Fähigkeiten bereits sind, zeigt auch Anthropics Modell Mythos. Es kann Software-Schwachstellen entdecken, die teilweise über Jahrzehnte unentdeckt geblieben sind. Anthropic stellt das vollständige Modell deshalb nur ausgewählten Behörden und Unternehmen zur Verfügung, die damit ihre Systeme absichern sollen.

Die Bedenken kommen zudem aus den eigenen Reihen der Entwickler. Anthropic-Forscher Jacob Coxon machte seinen Rücktritt Anfang September 2026 öffentlich und warf führenden KI-Unternehmen unverantwortliches Handeln vor. "Sie rasen direkt auf selbstverbessernde Superintelligenz zu und spielen mit unserem Leben", schrieb er auf X.

Noch drastischer äußerte sich Evan Hubinger, der bei Anthropic die Forschung zur Ausrichtung von KI-Systemen an menschlichen Interessen leitet. "Wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte", schrieb er auf X. Seine persönliche Einschätzung für dieses Risiko liege "bei mehr als 10 % im kommenden Jahrzehnt".

Die Branche sucht Regeln für ein langsameres Tempo

Amodei möchte die Entwicklung leistungsfähiger KI nicht dauerhaft stoppen. Sein Vorschlag soll der Branche zunächst ein bis zwei Jahre zusätzliche Zeit für Sicherheitsarbeit verschaffen. Anthropic will dafür dauerhaft unabhängige Prüfer zulassen, die bereits während des Trainings Zugang zu den stärksten Modellen erhalten.

Der Plan geht darüber hinaus. Führende KI-Unternehmen sollen gemeinsame Sicherheitsstandards vereinbaren, unkontrollierte Leistungszuwächse begrenzen und ihre Maßnahmen langfristig international abstimmen. Die externen Prüfer wiederum sollen zentrale Ergebnisse selbst veröffentlichen dürfen, ohne redaktionelle Kontrolle durch Anthropic. Das Unternehmen will nur sicherheitsrelevante, rechtlich geschützte oder vertrauliche Angaben schwärzen dürfen.

Altman unterstützt diesen Ansatz. OpenAI werde ebenfalls unabhängigen Prüfern weitreichenden Zugang gewähren, kündigte er an. Zugleich sprach sich Altman für einheitliche staatliche Sicherheitsanforderungen an Entwickler besonders leistungsfähiger KI aus. Ein langsameres Tempo bedeute für ihn ausdrücklich keinen Entwicklungsstopp.

Dabei nennt der OpenAI-Chef zwei grundsätzliche Risiken. Zum einen könne die Gesellschaft die Kontrolle über ihre Zukunft an KI-Systeme verlieren. Zum anderen könne sich zu viel Macht bei einem einzelnen Unternehmen oder einer einzelnen Person konzentrieren. Die Sicherheitsdebatte reicht bei OpenAI damit über Cyberangriffe hinaus.

Die Unterstützung geht inzwischen über Anthropic und OpenAI hinaus. Elon Musk, Gründer des inzwischen zu SpaceX gehörenden KI-Entwicklers xAI, stellte sich ebenfalls hinter Amodeis Vorstoß. Microsoft-Chef Satya Nadella begrüßte ein bewusst langsameres Entwicklungstempo und unabhängige Prüfer. Auch Demis Hassabis, Vorsitzender von Google DeepMind und Chefwissenschaftler der Google-Mutter Alphabet, unterstützte die Stoßrichtung. Für eine Branche, deren führende Unternehmen um technische Vorsprünge kämpfen, ist diese Einigkeit ungewöhnlich.

KI-Wettlauf stößt an geopolitische Grenzen

Sobald aus freiwilligen Sicherheitsmaßnahmen ein koordiniertes, langsameres Tempo werden soll, stößt der Ansatz an geopolitische Grenzen. US-Präsident Donald Trump spielte die Warnungen herunter und verwies auf den technologischen Wettbewerb mit China. Die Vereinigten Staaten seien bei KI weltweit führend und müssten diesen Vorsprung erhalten.

Innerhalb der US-Regierung fällt die Reaktion allerdings nicht einheitlich aus. Trumps Wirtschaftsberater Kevin Hassett bezeichnete KI-Sicherheit zwar als lösbares Problem, bewertete Amodeis Vorschläge aber als einen guten Schritt.

Auch China widerspricht der Gefahrenbeschreibung. Das chinesische Außenministerium bezeichnete die Warnungen am Montag als "Panikmache" und erklärte KI-Entwicklung grundsätzlich zu einer Kraft für das Gute. Aus Sicht Pekings würden Bedrohungsszenarien und Konfrontation die internationale Steuerung der Technologie erschweren.

Für Amodei liegt darin das schwierigste Problem seines Vorschlags. Bleiben geopolitische Rivalen bei hohem Entwicklungstempo, entsteht für kooperierende Unternehmen und Staaten ein strategischer Nachteil. Langfristig strebt er deshalb eine internationale Begrenzung der Entwicklungsgeschwindigkeit an. Ob eine solche Vereinbarung erreichbar ist, hält er selbst für offen.

Milliarden-Börsengänge geraten in Sicherheitsdebatte

Die Auseinandersetzung fällt zugleich in eine sensible Phase für die Finanzierung der KI-Branche. Altman hat einen Börsengang von OpenAI im Jahr 2026 inzwischen ausgeschlossen. Gegenüber dem Magazin Fortune begründete er das ausdrücklich mit der aktuellen Lage und erklärte, ein Börsengang sei derzeit schlecht beraten.

Anthropic hält dagegen bislang an seinen Börsenplänen fest. Insidern zufolge könnte die Aktienplatzierung ein Volumen von bis zu 100 Mrd. USD erreichen und damit zum größten Börsengang der Geschichte werden. Angestrebt wird demnach eine Bewertung von rund 2 Bill. USD. Nach derzeitigen Planungen soll die Vermarktung des Anthropic-Börsengangs frühestens Mitte Oktober beginnen. Der Abschluss wird wenige Tage vor den US-Zwischenwahlen am 3. November angestrebt, wobei sich der Zeitplan noch ändern kann.

Nvidia prüft Milliardeninvestment

Der Chipkonzern Nvidia erwägt Insidern zufolge indes, beim Anthropic-Börsengang mit bis zu 10 Mrd. USD als Ankerinvestor einzusteigen. Als Ankerinvestor würde Nvidia bereits frühzeitig einen Teil der Emission zeichnen und Anthropic damit einen prominenten strategischen Unterstützer für die Platzierung verschaffen. Reuters zufolge bestätigten zwei Insider die laufenden Gespräche.

Die Verbindung zwischen beiden Unternehmen reicht bereits weiter. Im November 2025 hatte Nvidia angekündigt, bis zu zehn Mrd. USD in Anthropic zu investieren. Anthropic verpflichtete sich zugleich, Rechenkapazitäten im Wert von 30 Mrd. USD über den Cloud-Dienst Azure zu beziehen, der auf Nvidia-Chips basiert. Für Anthropic sind die Grafikprozessoren des Chipkonzerns ein zentraler Bestandteil der Entwicklung seiner KI-Modelle.

Nach Informationen von Bloomberg lag Anthropics annualisierte Umsatzrate Ende Juli bei mehr als 65 Mrd. USD, nach rund neun Mrd. USD Ende 2025. Die Größenordnung liefert einen wichtigen Anhaltspunkt für die außergewöhnlich hohe Bewertung, die Anthropic beim Börsengang anstrebt. Zugleich verlangt eine Bewertung von rund zwei Billionen USD weiterhin sehr hohe Wachstumserwartungen.

Kritiker vermuten auch geschäftliche Interessen

Rasmus Rothe, Vorsitzender des deutschen KI-Bundesverbandes, vermutet hinter den Warnungen amerikanischer KI-Unternehmen auch geschäftliche Motive. Er verweist auf mögliche Haftungs- und Schadenersatzrisiken bei fehlerhaften Modellen sowie auf die hohen Bewertungen vor geplanten Börsengängen.

An den Kapitalmärkten stehen deshalb zwei mögliche Folgen nebeneinander. Mehr Sicherheitsauflagen können Investitionen in Rechenzentren, Chips und neue Modelle verteuern oder verzögern. Einige Investoren sehen eine stärkere Aufsicht dennoch als möglichen Vorteil, weil sie das Risiko eines späteren abrupten Eingriffs verringern kann. Die Kursreaktion vom Montag zeigt, wie eng technische Sicherheit, Regulierung und die Milliardeninvestitionen des KI-Booms inzwischen miteinander verknüpft sind.