{"id":30230,"date":"2025-11-14T06:59:00","date_gmt":"2025-11-14T05:59:00","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=30230"},"modified":"2025-11-07T10:51:41","modified_gmt":"2025-11-07T09:51:41","slug":"zugriffskontrollen-fuer-agentische-ki-sicherheit-in-autonomen-systemen","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=30230","title":{"rendered":"Zugriffskontrollen f\u00fcr agentische KI: Sicherheit in autonomen Systemen"},"content":{"rendered":"\n


Autor: Jeremy London, Director of Engineering, AI and Threat Analytics, Keeper Security<\/em>\/dcg<\/p>\n\n\n\n

KI-Agenten haben sich inzwischen weit \u00fcber ihre urspr\u00fcngliche Rolle als digitale Assistenten f\u00fcr die Buchung von Besprechungen oder die Beantwortung einfacher Kundenanfragen hinaus entwickelt. Heute verarbeiten sie sensible Daten, initialisieren Arbeitsabl\u00e4ufe und tauschen sich in Echtzeit mit externen Systemen aus. Diese wachsenden F\u00e4higkeiten bieten erhebliche Effizienzsteigerungen, bringen aber auch neue Risiken mit sich.<\/p>\n\n\n\n

\"\"
Jeremy London, Director of Engineering, AI and Threat Analytics, Keeper Security – Quelle: Keeper<\/figcaption><\/figure>\n\n\n\n

Gartner prognostiziert, dass KI-Agenten in den n\u00e4chsten zwei Jahren bis zu 50 Prozent der Gesch\u00e4ftsentscheidungen erg\u00e4nzen oder automatisieren werden, von denen viele den Zugriff auf privilegierte Systeme und sensible Daten beinhalten. Dies stellt eine grundlegende Ver\u00e4nderung in der Arbeitsweise von Unternehmen dar und ist ein klares Signal daf\u00fcr, dass Autonomie die Zukunft ist. Die Chancen liegen auf der Hand, doch die Risiken sind m\u00f6glicherweise weniger offensichtlich. Ein KI-Agent, der vertrauliche Daten weitergibt oder unbefugten Zugriff gew\u00e4hrt, kann echte Sch\u00e4den anrichten. Die entscheidende Frage ist daher nicht nur, was diese Systeme leisten, sondern auch, wie sie sicher verwaltet werden k\u00f6nnen.<\/p>\n\n\n\n

Wenn KI-Autonomie auf Zugriffsrisiken trifft<\/strong><\/p>\n\n\n\n

Agentische KI unterliegt nicht denselben Limitationen wie menschliche Anwender. Eine Person kann \u00fcber rollenbasierte Zugriffsrechte verf\u00fcgen, die an bestimmte Systeme gebunden sind. Ein KI-Agent hingegen kann mehrere Umgebungen mit hoher Geschwindigkeit durchlaufen und dabei Datenbanken, Schnittstellen (APIs), Cloud-Dienste und Plattformen von Drittanbietern in einem einzigen Vorgang miteinander verbinden.<\/p>\n\n\n\n

Herk\u00f6mmliche, perimeterbasierte Sicherheitsmodelle k\u00f6nnen unter solchen Umst\u00e4nden versagen. Im Gegensatz zu menschlichen Anwendern, die in der Regel \u00fcber verwaltete Endpunkte und festgelegte Sitzungsgrenzen auf Systeme zugreifen, k\u00f6nnen sich KI-Agenten innerhalb von Millisekunden gleichzeitig bei Dutzenden von APIs, Datenbanken und Cloud-Diensten authentifizieren. Das Problem: Firewalls und Netzwerkgrenzen k\u00f6nnen derartig autonome Einheiten, die \u00fcber mehrere Dom\u00e4nen hinweg operieren, nicht eind\u00e4mmen. Deshalb sollten Unternehmen eine identit\u00e4tsorientierte Sicherheit einf\u00fchren, die auf einer Zero-Trust-Architektur basiert. Jede Aktion eines KI-Agenten sollte authentifiziert, autorisiert sowie \u00fcberpr\u00fcfbar sein.<\/p>\n\n\n\n

Schwachstellen in der Praxis<\/strong><\/p>\n\n\n\n

Zu den offensichtlichsten Risiken agentenbasierter KI z\u00e4hlen die Manipulation von Eingabeaufforderungen und unbeabsichtigte Autorisierungen. Angreifer haben bereits gezeigt, dass sie durch sorgf\u00e4ltig gestaltete Eingaben KI-Modelle dazu bringen k\u00f6nnen, Daten preiszugeben oder Aktionen au\u00dferhalb ihres vorgesehenen Anwendungsbereichs auszuf\u00fchren. In einigen F\u00e4llen \u00e4hnelt dies einer herk\u00f6mmlichen Attacke, bei der ein Angreifer Eingaben manipuliert, um das Systemverhalten zu ver\u00e4ndern. Im Unterschied dazu konzipiert die KI ihre Modelle so, dass sie sich anpassen und Anweisungen flexibel befolgen. Das macht es den Angreifern umso leichter, Systeme von au\u00dferhalb zu b\u00f6swilligen Aktionen zu verleiten.<\/p>\n\n\n\n

Es existieren F\u00e4lle, in denen KI-Agenten, denen ein Administratorzugriff auf Entwicklungsumgebungen gew\u00e4hrt wurde, durch sorgf\u00e4ltig gestaltete Eingabeaufforderungen manipuliert wurden, um Datenbankabfragen au\u00dferhalb ihres vorgesehenen Anwendungsbereichs auszuf\u00fchren. Ein weiteres Szenario betrifft den unbeabsichtigten Datenzugriff. Ein KI-Agent k\u00f6nnte mit einer internen Wissensdatenbank verbunden sein, um Mitarbeiter zu unterst\u00fctzen. Wenn die Grenzen nicht richtig definiert sind, k\u00f6nnte derselbe Agent bei einer Abfrage auch vertrauliche Personal- oder Finanzdaten offenlegen.<\/p>\n\n\n\n

Auch die Ausweitung von Berechtigungen ist ein besonderes Problem. Beispielsweise kann ein KI-Agent, der mit der Einarbeitung neuer Mitarbeiter beauftragt ist, zun\u00e4chst Zugriff auf grundlegende Workflow-Tools erhalten. Mit der Zeit kann er dann die Berechtigung anfordern, Benutzeranmeldedaten zu generieren, Passw\u00f6rter zur\u00fcckzusetzen oder Rollen zuzuweisen. Jede Zugriffserweiterung muss streng \u00fcberwacht werden, anderenfalls nehmen die Berechtigungen zu und schaffen neue Angriffsvektoren.<\/p>\n\n\n\n

Wie sieht eine sinnvolle Kontrolle aus?<\/strong><\/p>\n\n\n\n

Um agentenbasierte KI zu sichern, muss man \u00fcber traditionelle Perimeter-Abwehrma\u00dfnahmen hinausgehen und bei jeder Interaktion eine identit\u00e4tsorientierte Zero-Trust-Sicherheit einbetten. Die folgenden Grunds\u00e4tze k\u00f6nnen helfen, praktische Grenzen zu setzen:<\/p>\n\n\n\n