Kaspersky: Cyber-Immunity-Ansatz soll KI-Agenten in Unternehmen absichern

Kaspersky hat einen Leitfaden zur Absicherung autonomer KI-Agenten im Unternehmenseinsatz veröffentlicht. Der Bericht „AI agent security through the lens of Cyber Immunity“ betrachtet Risiken durch zunehmende Autonomie, weitreichende Berechtigungen und mögliche Fehlfunktionen agentenbasierter Systeme. Als zentrale Maßnahmen nennt Kaspersky unter anderem klar definierte Sicherheitsannahmen, minimale Vertrauensbereiche, die Isolation von Komponenten und einen Default-Deny-Ansatz für externe Interaktionen. Dabei sollen auch Szenarien berücksichtigt werden, in denen einzelne Komponenten fehlerhaft oder kompromittiert sind. Der Leitfaden richtet sich insbesondere an CISOs, CIOs und CTOs, die KI-Agenten in bestehende IT-Infrastrukturen integrieren.

Vier Prinzipien für die Architektur von KI-Agenten

Kaspersky überträgt den eigenen Cyber-Immunity-Ansatz auf agentenbasierte KI-Systeme. Dabei sollen Architekturen so gestaltet werden, dass Sicherheitsfunktionen auch dann erhalten bleiben und mögliche Schäden begrenzt werden können, wenn einzelne Komponenten ausfallen oder kompromittiert werden.

Der Leitfaden formuliert vier zentrale Prinzipien:

1. Sicherheitsannahmen bereits beim Design definieren: Large Language Models und Daten aus externen Quellen sollen grundsätzlich als nicht vertrauenswürdig behandelt werden. Für irreversible Aktionen soll eine ausdrückliche menschliche Bestätigung erforderlich sein.
2. Trusted Computing Base minimieren: Die Zahl der Komponenten, denen für die Sicherheit des Gesamtsystems vertraut werden muss, soll möglichst klein bleiben.
3. Komponenten isolieren: Sandboxes und virtuelle Maschinen können dazu eingesetzt werden, Ausführungsumgebungen und unterschiedliche Vertrauenskontexte voneinander zu trennen. Dies gilt laut Kaspersky auch für einzelne Agenten in Multi-Agenten-Systemen.
4. Externe Interaktionen nach Default-Deny kontrollieren: Tool-Aufrufe und deren Argumente sollen durch Richtlinien eingeschränkt werden. Zusätzlich sollen Netzwerkverbindungen kontrolliert und Änderungen an der eigenen Lieferkette verhindert werden.

Berechtigungen und Lieferkette im Blick behalten

Neben den Architekturprinzipien empfiehlt Kaspersky eine Bestandsaufnahme der eingesetzten KI-Agenten. Unternehmen sollen außerdem Richtlinien für Isolation und Containerisierung definieren und die agentenbasierte Lieferkette überwachen.

Ein Schwerpunkt liegt dabei auf der Begrenzung von Berechtigungen. Agenten, die auf externe APIs, Unternehmensdaten oder andere Ressourcen zugreifen können, benötigen entsprechend kontrollierte Schnittstellen. Gerade bei autonomen Systemen soll verhindert werden, dass ein einzelner kompromittierter oder fehlerhaft arbeitender Bestandteil unmittelbar weitreichende Auswirkungen auf die IT-Umgebung hat.

KI-Sicherheit mit mehreren Schutzebenen

Kaspersky empfiehlt ergänzend eine mehrschichtige Sicherheitsarchitektur. Genannt werden unter anderem AI-Firewall-Technologien, Sandboxes, Endpoint Detection and Response (EDR) und Security Information and Event Management (SIEM).

Der Ansatz soll damit nicht auf die Absicherung des KI-Modells selbst beschränkt bleiben. Vielmehr werden auch Ausführungsumgebung, Berechtigungen, externe Schnittstellen und die Kommunikation mit anderen Systemkomponenten als Bestandteile der Sicherheitsarchitektur betrachtet.

Weitere KI-Technologien von Kaspersky

Im Zusammenhang mit der Vorstellung des Leitfadens präsentierte Kaspersky auf der AI Everything Global außerdem verschiedene Technologien für industrielle KI-Anwendungen. Dazu gehört Kaspersky MLAD zur Anomalieerkennung in Industrieanlagen. Die Kaspersky Neuromorphic Platform basiert auf Spiking Neural Networks und soll unter anderem für die Absicherung cyberphysischer Systeme eingesetzt werden.

Mit „Trusted Intelligent Agents for Retrieval and Analysis“ nennt Kaspersky zudem einen Ansatz, bei dem ein Large Language Model um domänenspezifisches Wissen ergänzt wird. Ziel ist laut Anbieter, die Genauigkeit und Zuverlässigkeit von Antworten in industriellen Anwendungsszenarien zu erhöhen.