Zugriffskontrollen für agentische KI: Sicherheit in autonomen Systemen

Autor: Jeremy London, Director of Engineering, AI and Threat Analytics, Keeper Security/dcg

KI-Agenten haben sich inzwischen weit über ihre ursprüngliche Rolle als digitale Assistenten für die Buchung von Besprechungen oder die Beantwortung einfacher Kundenanfragen hinaus entwickelt. Heute verarbeiten sie sensible Daten, initialisieren Arbeitsabläufe und tauschen sich in Echtzeit mit externen Systemen aus. Diese wachsenden Fähigkeiten bieten erhebliche Effizienzsteigerungen, bringen aber auch neue Risiken mit sich.

Gartner prognostiziert, dass KI-Agenten in den nächsten zwei Jahren bis zu 50 Prozent der Geschäftsentscheidungen ergänzen oder automatisieren werden, von denen viele den Zugriff auf privilegierte Systeme und sensible Daten beinhalten. Dies stellt eine grundlegende Veränderung in der Arbeitsweise von Unternehmen dar und ist ein klares Signal dafür, dass Autonomie die Zukunft ist. Die Chancen liegen auf der Hand, doch die Risiken sind möglicherweise weniger offensichtlich. Ein KI-Agent, der vertrauliche Daten weitergibt oder unbefugten Zugriff gewährt, kann echte Schäden anrichten. Die entscheidende Frage ist daher nicht nur, was diese Systeme leisten, sondern auch, wie sie sicher verwaltet werden können.

Wenn KI-Autonomie auf Zugriffsrisiken trifft

Agentische KI unterliegt nicht denselben Limitationen wie menschliche Anwender. Eine Person kann über rollenbasierte Zugriffsrechte verfügen, die an bestimmte Systeme gebunden sind. Ein KI-Agent hingegen kann mehrere Umgebungen mit hoher Geschwindigkeit durchlaufen und dabei Datenbanken, Schnittstellen (APIs), Cloud-Dienste und Plattformen von Drittanbietern in einem einzigen Vorgang miteinander verbinden.

Herkömmliche, perimeterbasierte Sicherheitsmodelle können unter solchen Umständen versagen. Im Gegensatz zu menschlichen Anwendern, die in der Regel über verwaltete Endpunkte und festgelegte Sitzungsgrenzen auf Systeme zugreifen, können sich KI-Agenten innerhalb von Millisekunden gleichzeitig bei Dutzenden von APIs, Datenbanken und Cloud-Diensten authentifizieren. Das Problem: Firewalls und Netzwerkgrenzen können derartig autonome Einheiten, die über mehrere Domänen hinweg operieren, nicht eindämmen. Deshalb sollten Unternehmen eine identitätsorientierte Sicherheit einführen, die auf einer Zero-Trust-Architektur basiert. Jede Aktion eines KI-Agenten sollte authentifiziert, autorisiert sowie überprüfbar sein.

Schwachstellen in der Praxis

Zu den offensichtlichsten Risiken agentenbasierter KI zählen die Manipulation von Eingabeaufforderungen und unbeabsichtigte Autorisierungen. Angreifer haben bereits gezeigt, dass sie durch sorgfältig gestaltete Eingaben KI-Modelle dazu bringen können, Daten preiszugeben oder Aktionen außerhalb ihres vorgesehenen Anwendungsbereichs auszuführen. In einigen Fällen ähnelt dies einer herkömmlichen Attacke, bei der ein Angreifer Eingaben manipuliert, um das Systemverhalten zu verändern. Im Unterschied dazu konzipiert die KI ihre Modelle so, dass sie sich anpassen und Anweisungen flexibel befolgen. Das macht es den Angreifern umso leichter, Systeme von außerhalb zu böswilligen Aktionen zu verleiten.

Es existieren Fälle, in denen KI-Agenten, denen ein Administratorzugriff auf Entwicklungsumgebungen gewährt wurde, durch sorgfältig gestaltete Eingabeaufforderungen manipuliert wurden, um Datenbankabfragen außerhalb ihres vorgesehenen Anwendungsbereichs auszuführen. Ein weiteres Szenario betrifft den unbeabsichtigten Datenzugriff. Ein KI-Agent könnte mit einer internen Wissensdatenbank verbunden sein, um Mitarbeiter zu unterstützen. Wenn die Grenzen nicht richtig definiert sind, könnte derselbe Agent bei einer Abfrage auch vertrauliche Personal- oder Finanzdaten offenlegen.

Auch die Ausweitung von Berechtigungen ist ein besonderes Problem. Beispielsweise kann ein KI-Agent, der mit der Einarbeitung neuer Mitarbeiter beauftragt ist, zunächst Zugriff auf grundlegende Workflow-Tools erhalten. Mit der Zeit kann er dann die Berechtigung anfordern, Benutzeranmeldedaten zu generieren, Passwörter zurückzusetzen oder Rollen zuzuweisen. Jede Zugriffserweiterung muss streng überwacht werden, anderenfalls nehmen die Berechtigungen zu und schaffen neue Angriffsvektoren.

Wie sieht eine sinnvolle Kontrolle aus?

Um agentenbasierte KI zu sichern, muss man über traditionelle Perimeter-Abwehrmaßnahmen hinausgehen und bei jeder Interaktion eine identitätsorientierte Zero-Trust-Sicherheit einbetten. Die folgenden Grundsätze können helfen, praktische Grenzen zu setzen:

• Sicherheit mit Zero-Trust-Architektur verankern
  Jede KI-Aktion muss ausdrücklich authentifiziert, autorisiert und überprüfbar sein. Der Zugriff sollte nur für die jeweilige Aufgabe gewährt werden, ohne dass implizites Vertrauen zwischen den Systemen übertragen wird.
• Berechtigungen definieren und durchsetzen
  Das Prinzip der geringsten Privilegien sollte rigoros und präzise angewendet werden. KI-Agenten sollten immer nur den minimalen Zugriff haben, der zur Ausführung eines Workflows erforderlich ist. Der dynamische Zugriff sollte zeitlich begrenzt, genehmigt und protokolliert sein. Ohne diese Schutzmaßnahmen steigt die Wahrscheinlichkeit einer unbefugten Ausweitung von Privilegien.
• Anomalien kontinuierlich überwachen und erkennen
  Herkömmliche Analysen des Benutzerverhaltens sind für autonome Systeme, die Daten in großem Umfang verarbeiten, unwirksam. Unternehmen müssen KI-spezifische Verhaltensanalysen einsetzen, die anomale Muster wie unerwartete Anfragen zur Erweiterung von Berechtigungen, ungewöhnliche systemübergreifende Datenkorrelationen oder Abweichungen von festgelegten Agenten-Workflows erkennen – Fähigkeiten, die eine Echtzeitanalyse sowohl der Aktionen des Agenten als auch der Kontextdaten, die diese Entscheidungen beeinflusst haben, erfordern.
• Jede Sitzung prüfen
  Überprüfbarkeit ist unverzichtbar. Protokolle müssen nicht nur die von KI-Agenten ausgeführten Aktionen erfassen, sondern auch den vollständigen Kontext: Eingabeaufforderungen, aufgerufene Datensätze, abgerufene Kontexte, Zwischenargumente und externe API-Antworten, die jede Aktion beeinflusst haben. Sitzungsaufzeichnungen und detaillierte Prüfpfade sind für die Einhaltung von Vorschriften und die Rechenschaftspflicht von entscheidender Bedeutung.
• Jeden Integrationspunkt sichern
  Jeder API-Endpunkt, jede SaaS-Integration und jeder Drittanbieter-Dienst stellt nicht nur eine potenzielle Schwachstelle dar, sondern auch einen Risikomultiplikator, wenn KI-Agenten diese Verbindungen autonom miteinander verknüpfen können. Unternehmen müssen jeden Integrationspunkt bewerten und sichern, strenge API-Sicherheitskontrollen anwenden und das zusammengesetzte Risiko verfolgen, das entsteht, wenn Agenten mehrere Systeme umfassen.
• Automatisierung und menschliche Aufsicht in Einklang bringen
  Bei Aufgaben, die Compliance- oder Geschäftsrisiken beinhalten, sollten Unternehmen ein abgestuftes Autonomiemodell anwenden. KI kann bei Aufgaben mit geringem Risiko unabhängig agieren, aber bei risikoreichen Aktionen wie der Erstellung von Anmeldedaten oder der Zuweisung von privilegierten Zugriffsrechten sollte eine menschliche Aufsicht und Genehmigung obligatorisch sein.

Gleichgewicht zwischen Innovation und Sicherheit finden

Das transformative Potenzial von KI-Agenten ist unbestreitbar. Automatisierung kann Menschen entlasten, sodass sie sich auf höherwertige Aufgaben konzentrieren können, birgt jedoch auch erhebliche neue Risiken.

Die Herausforderung für Unternehmen besteht darin, Innovationen zu nutzen, ohne die Kontrolle aus der Hand zu geben. Das bedeutet, dass Sicherheit in jede KI-Implementierung integriert werden muss. Zugriffskontrolle, identitätsorientierte Sicherheit und aussagekräftige Prüfpfade sind keine bürokratischen Hürden. Sie sind die Grundlage für eine sichere und nachhaltige Nutzung von KI.

Folgen Sie Keeper auf Facebook Instagram LinkedIn X YouTube TikTok