Praveen Das von ManageEngine: „Governance für KI-Agenten muss über klassische Kontrollen hinausgehen“
Sysbus im Interview mit Praveen Das, Technical Head bei ManageEngine.
Sysbus: Autonome Agenten werden ein immer größerer Teil des IT-Alltags. Reicht es für deutsche Unternehmen aus, sich auf die Einhaltung von KI-Governance-Richtlinien und gesetzlichen Vorgaben zu beschränken, um Datenschutz, klare Verantwortlichkeiten und eine wirksame Kontrolle über operative Entscheidungen und Handlungen von KI sicherstellen?
Praveen Das: KI gibt inzwischen nicht mehr nur Empfehlungen oder erstellt Inhalte, sondern trifft eigenständig Entscheidungen in Unternehmenssystemen. Deshalb muss Governance über die bisherigen, auf Menschen ausgerichteten Kontrollmechanismen hinausgehen. Die Aktionen jedes Agenten müssen nachvollziehbar dokumentiert, Berechtigungen klar definiert und der Zugriff auf genau die Daten beschränkt sein, die für die Aufgabe benötigt werden – und sie müssen vor allem von einem Menschen freigegeben werden. Das gilt besonders, wenn die möglichen Folgen erheblich sind, wie im IT-Management. Unternehmen benötigen Incident-Response-Pläne für Fehler, die durch KI verursacht werden, und eindeutige Eskalationswege für den Fall, dass ein Agent eine Fehlentscheidung trifft. Wirksame KI-Governance zielt daher nicht darauf ab, Innovation einzuschränken. Sie stellt sicher, dass autonome Systeme innerhalb transparenter Grenzen agieren.
