Autonome Modelle: Datenhoheit bei interner KI-Nutzung wird zum Sicherheitsproblem
Leistungsfähige KI soll Aufgaben effizient lösen und greift in Unternehmen oft auf interne Daten zu. Wie bleiben sensible Inhalte geschützt, welche Kommunikation läuft außerhalb von KI-Systemen? Integrated Quantum Technologies und Sekur Private Data bieten dafür Lösungsansätze.
Lesezeit 7 min
Künstliche Intelligenz gilt als einer der wichtigsten Produktivitätstreiber der kommenden Jahre. Mit der wachsenden Leistungsfähigkeit der Systeme und ihrer stärkeren Verankerung in Unternehmen entstehen allerdings auch neue Sicherheitsprobleme. KI beschleunigt Geschäftsprozesse. Bei vielen internen Anwendungen greift sie zudem auf Daten zu, die Unternehmen bislang möglichst streng abschotten.
Das Financial Stability Board (FSB) ist ein internationales Gremium, das die Zusammenarbeit nationaler Finanzaufsichten und internationaler Standardsetzer koordiniert und Risiken für das weltweite Finanzsystem untersucht. Sein Vorsitzender Andrew Bailey hat die Entwicklung der KI nun ausdrücklich mit Risiken für die globale Finanzstabilität verknüpft. In einem Schreiben an die Finanzminister und Notenbankchefs der G20 warnte er vor möglichen Cyberrisiken durch besonders leistungsfähige sogenannte Frontier-AI-Modelle. Bailey bezeichnete deren mögliche Auswirkungen als unmittelbarste Sorge für das Finanzsystem. Solche Modelle könnten Geschwindigkeit, Größenordnung und wirtschaftliche Rahmenbedingungen von Cyberangriffen grundlegend verändern. Das FSB selbst spricht von zunehmend autonomen und problemlösungsfähigen Modellen mit neuen Bedrohungspotenzialen und fordert eine höhere Widerstandsfähigkeit beim Einsatz solcher Systeme.
KI verändert Angriff und Angriffsfläche
Der Blick allein auf KI-gestützte Hacker oder Cyberangriffe durch autonom agierende Modelle greift allerdings zu kurz. Wie konkret die neuen Fähigkeiten bereits werden, zeigte Anthropic selbst Ende Juli. Das KI-Unternehmen berichtete von drei Fällen, in denen Claude-Modelle bei externen Sicherheitstests wegen einer Fehlkonfiguration Zugang zum offenen Internet hatten und anschließend unbefugt auf reale Systeme dreier Organisationen zugriffen.
Mit der zunehmenden Nutzung künstlicher Intelligenz verändert sich also zugleich die Frage, welche Unternehmensdaten einem Modell überhaupt zugänglich gemacht werden. KI-Systeme sollen längst nicht mehr ausschließlich öffentlich verfügbare Informationen verarbeiten. Sie werden eingesetzt, um interne Dokumente auszuwerten, Kundendaten zu analysieren, Risiken zu erkennen oder Entscheidungsprozesse zu unterstützen. Je näher die Modelle an diese sensiblen Informationsbestände heranrücken, desto wichtiger wird die technische Kontrolle über den Datenzugriff.
Diese zweite Seite des Problems beschäftigt auch das FSB. Ein bereits im Juni veröffentlichter Vorschlag umfasst zwölf Grundsätze für den verantwortungsvollen KI-Einsatz bei Finanzinstituten. Sie reichen von unternehmensweiten Regeln und Verantwortlichkeiten für KI bis zum Umgang mit Cyber-, IT- und Drittanbieterrisiken. Das FSB empfiehlt Vorständen und Führungsebenen, Geschäftsstrategie, Technologieeinsatz und Risikomanagement bei der Einführung von KI gemeinsam zu betrachten.
Bailey warnt darüber hinaus vor der Abhängigkeit des Finanzsektors von einer kleinen Zahl leistungsfähiger Technologieanbieter. Eine starke Konzentration könne im Ernstfall systemweite Auswirkungen haben. Für Unternehmen treffen damit zwei Entscheidungen aufeinander: Sie müssen festlegen, wie interne Daten sicher für KI nutzbar werden, und zugleich entscheiden, welche Informationen sie bewusst außerhalb von KI- oder großen externen Technologieinfrastrukturen halten.
Integrated Quantum will Rohdaten vor KI-Verarbeitung transformieren
Einen Lösungsansatz bietet Integrated Quantum Technologies CA45836R1055A423XJ. Der kanadische Anbieter von KI-Infrastruktur für Unternehmen entwickelt Technologien für den Einsatz künstlicher Intelligenz mit Unternehmensdaten. Kernstück ist VEIL. Mit der Technologie werden sensible Datensätze vor der Verarbeitung durch KI-Modelle in eine codierte, kompakte Darstellung überführt. Personenbezogene Informationen sollen dabei aus den für das Modell bestimmten Daten entfernt werden, während deren Nutzbarkeit für Analyse und Training erhalten bleiben soll. Ein KI-Modell soll so weiterhin relevante Muster und Zusammenhänge verarbeiten können, ohne dass die ursprünglichen personenbezogenen Angaben in lesbarer Form durch die Modellumgebung laufen.
Seit Juni ist VEIL als Anwendung auf der Snowflake AI Data Cloud verfügbar, einer Cloud-Plattform, über die Unternehmen Datenbestände sowie Analyse- und KI-Anwendungen zusammenführen können. Die Integration soll es Snowflake-Nutzern ermöglichen, sensible Informationen mit VEIL zu transformieren, bevor sie von KI-Modellen verarbeitet werden.
Integrated Quantum arbeitet derzeit daran, seine Architektur von der technischen Entwicklung in die kommerzielle Nutzung zu überführen. Im Juli meldete das Unternehmen den Abschluss eines öffentlichen Sicherheitstests auf Kaggle, einer Plattform für Wettbewerbe rund um Datenanalyse und KI. Teilnehmer sollten versuchen, aus den mit VEIL transformierten Datensätzen die Ausgangsdaten wiederherzustellen. Nach Angaben von Integrated Quantum gelang dies keinem der Teilnehmer. Parallel fokussiert sich das Unternehmen stärker auf den Marktausbau. Kürzlich wurde der frühere globale Engineering-Verantwortliche der HSBC-Gruppe, Husam Fezzani zum CEO ernannt. Er soll in der nächsten Wachstumsphase nun die Unternehmensstrategie, operative Entwicklung und Beziehungen zu Unternehmenskunden und strategischen Partnern ausbauen.
Sekur Private Data verschließt vertrauliche Kommunikation vor KI
Einen anderen Sicherheitsansatz verfolgt Sekur Private Data CA81607F1036A3DKJ0. Das kanadische Cybersecurity-Unternehmen entwickelt Kommunikationslösungen für E-Mails, Nachrichten, Sprachkommunikation und VPN-Verbindungen. Während Integrated Quantum Daten für den Einsatz mit KI absichern will, setzt Sekur auf eine getrennte Infrastruktur: Die Kommunikation läuft über eigene Systeme in der Schweiz, ohne Big-Tech-Clouds und KI-gestützte Auswertung der Kommunikation.
Operativ erweitert Sekur diesen Ansatz derzeit zu einer umfassenderen Kommunikationsplattform. SekurOne bündelt verschlüsselte Sprachkommunikation, E-Mail, Messenger und VPN in einer gemeinsamen Anwendung für Android, iOS und Web. Video und Videokonferenzen sollen das Angebot vervollständigen. Erste zahlende Beta-Kunden sollen im September aufgenommen werden. Der offizielle Start von SekurOne ist inzwischen für die erste Oktoberwoche vorgesehen.
Parallel richtet Sekur seine Vertriebsaktivitäten stärker auf Behörden, Verteidigung, Nachrichtendienste und Unternehmen mit hohen Anforderungen an vertrauliche Kommunikation aus. Im August nahmen Vertreter des Unternehmens an der DoDIIS Worldwide Conference teil. Die vom militärischen Nachrichtendienst des US-Verteidigungsministeriums veranstaltete Konferenz bringt Technologieanbieter und Vertreter der US-Nachrichtendienstgemeinschaft zusammen. Sekur präsentierte dort seine Lösungen unter anderem für den Umgang mit "Controlled Unclassified Information" (CUI). Gemeint sind Informationen der US-Regierung, die zwar nicht als geheim eingestuft sind, aufgrund gesetzlicher oder behördlicher Vorgaben aber besonders geschützt und kontrolliert weitergegeben werden müssen.
Die zentrale Sicherheitsfrage reicht damit über die Abwehr KI-gestützter Cyberangriffe hinaus: Unternehmen müssen auch den Datenzugriff ihrer eigenen Modelle gestalten. Entscheidend ist, welche Informationen eine KI in lesbarer Form erhält, welche davon vor der Verarbeitung technisch verändert werden und welche Kommunikation vollständig außerhalb solcher Systeme bleibt. Mit der tieferen Einbindung von KI wird die Datenarchitektur selbst zu einer Sicherheitsentscheidung.