Tausende Bugs: Anthropic KI-Modell Mythos findet mehr als 10.000 Sicherheitslücken in Software
Anthropics KI-Modell Mythos findet Sicherheitslücken schneller als jeder menschliche Experte. Nach Tausenden gefundenen Softwarefehlern hat die US-Regierung den ausländischen Zugriff auf zwei KI-Modelle vorübergehend gesperrt.
Lesezeit 3 min
Der Sicherheitsforscher Nicholas Carlini, der im März 2026 öffentlich vor den Risiken des Anthropic-Modells Mythos gewarnt hatte, ist inzwischen Teil eines Teams, das die US-Regierung von der Freigabe einer entschärften Modellversion überzeugen soll. Das berichtete das Wall Street Journal.
Carlini hatte vor rund 700 Sicherheitsforschern demonstriert, wie sich mit Mythos kritische Schwachstellen in der Publishing-Software Ghost und im Betriebssystem Linux auffinden und ausnutzen lassen. Insgesamt hat das Modell nach Unternehmensangaben mehr als 10.000 Softwarefehler identifiziert, allein 479 davon im Linux-Kernel. Zwei Tage nach seinem Vortrag empfahl Carlini intern, Mythos vorerst nicht zu veröffentlichen.
Weißes Haus sperrt Zugriff nach Warnung von Amazon-Chef
Anthropic veröffentlichte vergangene Woche dennoch eine aktualisierte Version namens Mythos 5 sowie eine mit zusätzlichen Sicherheitsmaßnahmen versehene Variante namens Fable 5. Kurz darauf informierte Amazon-Chef Andy Jassy Regierungsvertreter darüber, dass seine Sicherheitsforscher Wege gefunden hätten, die Schutzmechanismen von Fable zu umgehen. Unabhängige Sicherheitsforscher stellten in der Folge fest, dass eine vollständige Umgehung der Sperren und die Erstellung tatsächlich einsatzfähigen Angriffscodes nicht gelungen war.
Die US-Regierung gab Anthropic nach Angaben von mit dem Vorgang vertrauten Personen ein 90-minütiges Zeitfenster, die Modelle zurückzuziehen, ohne Details zur konkreten Sicherheitslücke zu nennen. US-Präsident Donald Trump beauftragte daraufhin Handelsminister Howard Lutnick mit der Umsetzung eines Zugriffsverbots für ausländische Nutzer, das auch im Ausland geborene Mitarbeiter von Anthropic in den USA betrifft. Anthropic schaltete den Zugang für alle Nutzer ab, um die Vorgabe zu erfüllen.
Konfliktgeladene Vorgeschichte
Der Vorfall reiht sich in einen länger andauernden Konflikt zwischen Anthropic und der US-Regierung ein. Anthropic-Chef Dario Amodei und US-Kriegsminister Pete Hegseth waren bereits zuvor wegen Beschränkungen bei der militärischen Nutzung von Anthropic-Produkten aneinandergeraten, was mehrere Klagen auslöste. Hinzu kommen frühere Differenzen über den Export von KI-Chips nach China und über Anthropics Verbindungen zu gemeinnützigen Organisationen.
Im Juni 2026 unterzeichnete Trump eine Anordnung, nach der KI-Unternehmen der Regierung Zugriff auf neue Modelle 30 Tage vor deren öffentlicher Freigabe gewähren sollen. Sicherheitsbehörden erhalten dadurch eine größere Rolle bei der Bewertung neuer Modelle.
Carlini bezeichnete Mythos in seiner internen Warnung vom März als das erste Modell, das Schwachstellen in großem Maßstab finden und ausnutzen könne. Nach seiner Einschätzung könnten konkurrierende Modelle innerhalb weniger Monate ein vergleichbares Niveau erreichen.