Schwachstelle Smart Home: Anthropic testet die Selbstverbreitung kleiner KI-Modelle - Integrated Quantum baut KI-Sicherheitsgeschäft aus
Vernetzte Alltagsgeräte könnten künftig als Rechenbasis autonomer KI dienen, die sich selbst verbreitet. Nach Experimenten warnt Anthropic vor neuen Sicherheitsrisiken. Integrated Quantum Technologies entwickelt derweil Technologien für Cyberschutz und den sicheren KI-Einsatz.
Lesezeit 13 min
Der US-amerikanische KI-Entwickler Anthropic warnt vor einer neuen Generation selbstverbreitender Schadsoftware. Demnach könnten kleine KI-Modelle sich künftig auf vernetzten Alltagsgeräten einnisten und weitere Systeme übernehmen, ohne Rechenzentren zu benötigen. Die am vergangenen Montag veröffentlichten Versuche zeigen, dass die getesteten KI-Modelle bereits einzelne Schritte einer solchen Verbreitung bewältigen können.
Mit den Versuchen wollte das Sicherheitsteam von Anthropic prüfen, wie nahe die gegenwärtige Technik einer solchen Bedrohung bereits käme. Untersucht wurde, ob KI-Programme künftig ohne menschliche Steuerung neue Geräte erreichen, dort eine lauffähige Kopie ihrer selbst einrichten und sich anschließend weiterverbreiten können. Dabei interessierte die Forscher besonders, ob die Rechenleistung gewöhnlicher Alltagsgeräte dafür bereits ausreicht.
Billige Geräte werden zur verteilten Rechenbasis
Intelligente Fernseher, vernetzte Haushaltsgeräte oder auch günstige Android-TV-Boxen kommen als mögliche Träger KI-gesteuerter Schadsoftware infrage. Solche Programme könnten nach einer Infektion die Rechenleistung der Geräte für eigene Aufgaben nutzen. Dazu müssten die betroffenen Geräte über das Internet miteinander kommunizieren. Ein Smart-TV-Gerät könnte beispielsweise einen Teil der KI-Berechnungen übernehmen, während eine ausreichend leistungsfähige Überwachungskamera in einem anderen Haus weitere Berechnungen ausführt.
Die Geräte müssen dafür weder demselben Besitzer gehören noch mit demselben Heimnetz verbunden sein. Entscheidend wäre, dass Angreifer zunächst Zugriff auf sie erlangen und die notwendige Software einschleusen. Auf diese Weise ließen sich viele kleine Rechner zu einem gemeinsamen System verbinden. Gerade ältere oder billig produzierte Geräte sind häufig unzureichend gegen einen solchen Angriff geschützt.
Welche Ausmaße solche Schadnetze erreichen können, zeigt Kimwolf. Das seit Sommer 2025 aktive Netzwerk ist eine Variante des älteren Schadnetzes Aisuru. Nach Erkenntnissen des US-Sicherheitsunternehmens Synthient hatte Kimwolf bereits mehr als zwei Millionen Geräte infiziert, vor allem solche mit Android-Betriebssystem. Die Angreifer nutzen unter anderem schlecht geschützte Fernzugänge und kommerzielle Vermittlungsdienste, über die sich Verbindungen zu fremden Geräten herstellen lassen. Die gekaperten Geräte können anschließend dazu missbraucht werden, Internetdienste mit massenhaften Anfragen zu überlasten. Anders als die von Anthropic untersuchten KI-Szenarien arbeitet Kimwolf allerdings mit herkömmlicher Schadsoftware, die keine autonom handelnde KI benötigt.
Anthropic testet KI auf leistungsschwacher Hardware
Anthropic wollte zunächst klären, ob preiswerte Alltagsgeräte gemeinsam genügend Rechenleistung für den Betrieb eines KI-Modells aufbringen. Dafür nutzten die Forscher 15 günstige TV-Boxen, auf denen sie das Sprachmodell Gemma4-26B-A4B von Google DeepMind gemeinsam ausführten. Es kann unter anderem Texte erzeugen und Programmieraufgaben bearbeiten. Dieser Teilversuch diente ausschließlich der Untersuchung der technischen Möglichkeiten und war von den anschließenden Tests zur autonomen Verbreitung getrennt.
Die Forscher vernetzten die Geräte miteinander und richteten die notwendige Software ein. Das KI-Modell wurde dabei in mehrere Teile zerlegt und auf die Geräte verteilt. Jede Box verfügte jeweils über vier Gigabyte Arbeitsspeicher und übernahm einen Teil der Berechnungen. Das gemeinsam betriebene Modell erzeugte lediglich 0,39 Texteinheiten pro Sekunde, also kleine Textbausteine, aus denen die KI ihre Antworten zusammensetzt. Der Betrieb gelang somit, allerdings erheblich langsamer als bei gewöhnlichen KI-Anwendungen.
Die Forscher untersuchten außerdem, wie selbstständig KI-Modelle die notwendige Software auf unterschiedlichen Geräten einrichten können. Ein KI-Modell mit neun Milliarden Parametern – Zahlenwerten, die seine Berechnungen bestimmen – konnte auf acht von neun getesteten Hardwaretypen eine lauffähige KI-Umgebung einrichten. Dafür musste es unter anderem die passende Software auswählen und technische Probleme selbstständig lösen. Modelle mit höchstens 30 Mrd. solcher Parameter beherrschen laut Anthropic bereits viele einzelne Schritte zur Selbstverbreitung. Bei der lückenlosen Verbindung dieser Aufgaben unterlaufen ihnen jedoch noch erhebliche Fehler.
Verbreitungskette bleibt eine Hürde
Der Start auf einem fremden Gerät wäre für einen vollständigen KI-Wurm erst der Anfang. Anschließend müsste das System eigenständig weitere Ziele finden, Zugriff erlangen, seine Bestandteile übertragen und von dort aus die nächste Verbreitungsrunde organisieren. Anthropic untersuchte vor allem, wie sich lauffähige KI-Modelle auf fremder Hardware einrichten lassen. Die Überwindung komplexer Sicherheitsbarrieren stand dagegen nicht im Zentrum der Experimente.
Um die gesamte Abfolge zu prüfen, bauten die Forscher eine abgeschottete Testumgebung auf. Darin wurden acht Android-Geräte durch Computerprogramme simuliert. Die KI sollte von einem bereits vorbereiteten Ausgangspunkt aus weitere Geräte finden und dort die Software für den Betrieb eines KI-Modells einrichten. Sobald das gelang, wurde eine weitere Instanz des angreifenden Programms gestartet, die den Vorgang fortsetzen konnte.
Das vom chinesischen KI-Entwickler Z.ai stammende Modell GLM-5.2 erreichte in vier von fünf Versuchen sämtliche acht Zielgeräte. Im fünften Versuch waren es sieben. Der Zugang war jeweils über eine Programmierschnittstelle ohne Anmeldung möglich. Die simulierten Geräte verfügten also über einen bewusst ungeschützten technischen Fernzugang, den das Programm nutzen konnte.
Zudem lief die leistungsfähige KI auf separater Infrastruktur, während auf den Zielsystemen ein kleineres Modell eingerichtet wurde. Anthropic prüfte damit, ob GLM-5.2 den gesamten Verbreitungsprozess steuern kann. Nachgewiesen wurde hingegen weder dessen eigenständiger Betrieb auf schwachen Verbrauchergeräten noch eine entsprechende Verbreitung unter realen Bedingungen.
Für den praktischen Einsatz müsste ein Modell klein genug für schwache Hardware und zugleich leistungsfähig genug für die gesamte Angriffskette sein. Nach Einschätzung der Forscher könnte diese Schwelle jedoch noch 2026 erreicht werden, sofern der bisherige Fortschritt anhält. Ihre Prognose stützt sich auf einen allgemeinen Leistungsindex, der die Fähigkeit zur Selbstverbreitung indirekt misst.
Anpassungsfähigkeit erschwert Abwehr
Herkömmliche Computerwürmer arbeiten oft mit vorab festgelegten Routinen für bestimmte Geräte oder Sicherheitslücken. Ein KI-gesteuerter Wurm könnte dagegen unbekannte Betriebssysteme untersuchen und seine Vorgehensweise eigenständig anpassen. In einem weiteren Versuch von Anthropic erhielten neue Durchläufe eines kleinen KI-Modells kurze Aufzeichnungen über die Lösungsversuche und Fehler ihrer Vorgänger. Die Erfolgsquote beim Einrichten der Software stieg von zunächst 45 % auf 61 bis 84 % in späteren Versuchsrunden.
Für Hersteller wächst damit der Druck, selbst günstige vernetzte Produkte langfristig abzusichern. Netzbetreiber müssten sich auf Bedrohungen einstellen, die sich über zahlreiche private und gewerbliche Geräte verteilen. Eine zentrale Stelle, über die sich sämtliche infizierten Systeme abschalten ließen, gäbe es dabei nicht.
Die Verbreitung dürfte allerdings langsam verlaufen. Aus den Messungen leitet Anthropic für eine vollständige KI-Einrichtung je nach Modell rechnerisch rund 28 bis 150 Stunden ab. Das würde IT-Sicherheitsfachleuten immerhin mehr Zeit geben, verdächtige Datenströme und ungewöhnliche Verbindungen zwischen Geräten zu erkennen.
Schutz beginnt vor möglicher Infektion
Anthropic nennt sicherere Werkseinstellungen, die Beseitigung bekannter Schwachstellen und die Erkennung verdächtigen Netzwerkverkehrs als wichtige Gegenmaßnahmen. Auch mehrere Gigabyte große Modelldateien und eine dauerhaft intensive Kommunikation zwischen sonst kaum verbundenen Geräten könnten eine Infektion verraten.
Die Zusammenarbeit von Internetanbietern könnte ebenfalls helfen, infizierte Geräte zeitweise vom übrigen Netz zu isolieren. Eine 2019 veröffentlichte Studie von Forschern der Technischen Universität Delft und japanischer Forschungseinrichtungen zu Mirai – einem älteren Schadnetz für vernetzte Geräte – untersuchte die Wirksamkeit solcher Maßnahmen. Nach zwei Wochen waren bei einer Verbindungssperre mit Kundenbenachrichtigung 92 % der Infektionen beseitigt. Ohne solche Hinweise lagen die Vergleichswerte bei 58 bis 74 %.
Diese Zahlen stammen allerdings aus der Bekämpfung herkömmlicher Schadsoftware. Da bislang kein entsprechender autonomer KI-Wurm unter realen Bedingungen nachgewiesen ist, fehlen auch praktische Erfahrungen mit dessen Abwehr. Ob die beschriebenen Maßnahmen dagegen ähnlich wirksam wären, ist daher ungewiss.
KI-Sicherheit wird zum eigenen Geschäftsfeld
Die Gefahr durch schlecht geschützte Geräte betrifft keineswegs nur private Haushalte. Auch in Betrieben sind zahlreiche Geräte, Anwendungen und Dienste miteinander vernetzt. Sicherheitslücken können deshalb Folgen haben, die weit über das unmittelbar betroffene System hinausreichen.
Mit dem verstärkten Einsatz künstlicher Intelligenz kommen weitere Herausforderungen hinzu. Es gilt, verdächtige Aktivitäten frühzeitig zu erkennen, sensible Daten zu schützen und die Handlungsmöglichkeiten autonomer KI-Systeme zu begrenzen. Mit diesen unterschiedlichen Aufgaben beschäftigt sich auch der kanadische Technologieentwickler Integrated Quantum Technologies ISIN CA45836R1055 WKN A423XJ. Das Unternehmen verbindet klassische Cybersicherheit mit neuen Lösungen für den geschützten Einsatz künstlicher Intelligenz.
Das bestehende Angebot umfasst unter anderem Sicherheitsschulungen, Schwachstellenanalysen sowie die laufende Überwachung von Unternehmensnetzwerken. Mit der Plattform SecureGuard360 will Integrated Quantum Informationen verschiedener Sicherheitsprogramme zusammenführen, damit Betreiber einen besseren Überblick über mögliche Bedrohungen, gefährdete Geräte und auffällige Zugriffe erhalten. Gerade in komplexen Netzwerken kann eine solche übergreifende Sicht die Arbeit der IT-Sicherheitsabteilungen erleichtern.
Sensible Daten für künstliche Intelligenz nutzbar machen
Parallel entwickelt Integrated Quantum mit VEIL eine Plattform, die sensible Informationen für KI-Auswertungen nutzbar machen soll. Dazu werden ursprüngliche Datensätze in mathematische Darstellungen umgewandelt. KI-Modelle sollen darin weiterhin relevante Muster erkennen können, ohne unmittelbar auf die vertraulichen Ausgangsdaten zuzugreifen. Der Ansatz richtet sich besonders an Unternehmen, die personenbezogene oder geschäftskritische Informationen verarbeiten. Zugleich entwickelt Integrated Quantum die Technologie mit Blick auf künftige Sicherheitsrisiken durch leistungsfähige Quantencomputer. Seit Juni 2026 ist VEIL als Integration auf der KI-Datenplattform Snowflake verfügbar.
Im Juli meldete Integrated Quantum den Abschluss eines öffentlichen Sicherheitstests. Dabei gelang es nach Unternehmensangaben keinem Teilnehmer, die geschützten Originaldaten gemäß den Wettbewerbsvorgaben vollständig zu rekonstruieren. Der ausgesetzte Hauptpreis blieb unbeansprucht. Von einem ersten abgeschlossenen Kundenversuch berichtete Integrated Quantum Technologies im September mit dem KI-Softwareentwickler Pivotly. VEIL kam dabei in der automatisierten Auswertung von Bauplänen zum Einsatz und verbesserte nach Unternehmensangaben sowohl die Verarbeitungsgeschwindigkeit als auch die Modellleistung.
Autonome KI-Agenten sollen kontrollierbar bleiben
Mit MASQ arbeitet Integrated Quantum Technologies an einer weiteren Technologie, die unmittelbar an die zunehmende Selbstständigkeit von KI-Systemen anknüpft. KI-Agenten können eigenständig Anwendungen bedienen, Daten abrufen und mehrere Arbeitsschritte ausführen. Das führt zu der Frage, welche Zugriffe und Handlungen ein Unternehmen ausdrücklich erlauben will.
MASQ soll als zusätzliche Kontrollschicht festlegen, auf welche Anwendungen und Informationen ein KI-Agent Zugriff hat. Vorgesehen sind auch die Überprüfung einzelner Aktionen und die Protokollierung seiner Aktivitäten. Die Architektur befindet sich noch in der Entwicklung, im Juli 2026 reichte das Unternehmen dafür eine vorläufige US-Patentanmeldung ein.
Mit diesen Geschäftsfeldern verfolgt Integrated Quantum Technologies eine Strategie, die klassische Cyberabwehr, Datenschutz und die Kontrolle autonomer KI miteinander verbindet. Wirtschaftlich befindet sich Integrated Quantum Technologies damit in einer Übergangsphase. Das bestehende Cybersicherheitsgeschäft bildet die operative Grundlage, während VEIL und künftig MASQ zusätzliche Geschäftsfelder erschließen sollen.
Während vernetzte Geräte und KI-Anwendungen die IT-Sicherheit vor neue Herausforderungen stellen, verschärft die Europäische Union die rechtlichen Anforderungen an Hersteller von Software und Geräten mit digitalen Komponenten. Darunter fallen etwa Router, Überwachungskameras oder vernetzte Haushaltsgeräte. Seit dem 11. September 2026 müssen Hersteller aktiv ausgenutzte Schwachstellen und schwere Sicherheitsvorfälle bei betroffenen Produkten melden. Die allgemeinen Anforderungen an Entwicklung, Pflege und Absicherung gelten überwiegend ab dem 11. Dezember 2027. Sicherheitsupdates und die Betreuung vernetzter Geräte werden damit stärker zur dauerhaften Aufgabe der Hersteller.
Die von Anthropic untersuchten Szenarien zeigen, wie sich die Anforderungen an die Cybersicherheit durch künstliche Intelligenz verändern. Integrated Quantum Technologies positioniert sich in diesem Umfeld mit einem breiten Technologieportfolio, das klassische Netzwerksicherheit mit dem Schutz sensibler Daten und der Kontrolle autonomer KI-Anwendungen verbindet.
