Agentic AI: Vertrauen ist ab sofort die härteste Währung
Ein Kommentar von David Colwell, Vice President of Artificial Intelligence and Machine Learning bei Tricentis, zur ersten großen Cyberattacke mit KI.
Der jüngste Cyberangriff, bei dem KI-Technologie von Anthropic zum Einsatz kam, sollte als eindringliches Warnsignal für jeden verstanden werden, der Agentic AI implementiert. Dieselbe künstliche Intelligenz, die uns bei der Identifizierung potenzieller Kunden oder dem Verfassen personalisierter E-Mails unterstützt, lässt sich ebenso mühelos für Social-Engineering-Angriffe missbrauchen, um an private Informationen zu gelangen. Dieselben Werkzeuge, die wir zur Erstellung von Unternehmensprofilen und zum Crawling des Webs nutzen, können als Motor für hochgradig gezielte Phishing-Kampagnen dienen.
Das ist die Kehrseite der Autonomie. KI-Agenten verstehen keine Absicht, sie führen lediglich Befehle aus.
Wir können diese technologische Entwicklung nicht rückgängig machen, aber wir können uns vor möglichen negativen Folgen schützen. Unternehmen müssen beginnen, KI-Anfragen wie automatisierte Web-Crawler zu behandeln: als nicht vertrauenswürdige Entitäten, die aktiv nach Sicherheitslücken suchen.
Vor allem aber benötigen wir Transparenz. Ein KI-System, dessen Aktivitäten nicht nachvollziehbar sind, kann nicht abgesichert werden. Vertrauen gründet auf Nachvollziehbarkeit, Verifizierung und einer durchdachten Governance.
Im Zeitalter von Agentic AI ist Vertrauen die härteste Währung, die einzige, auf die es im Geschäftsleben ankommt.
Über David Colwell
David Colwell ist Vice President of Artificial Intelligence and Machine Learning bei Tricentis, einem Anbieter von Software für Testautomatisierung. Zuvor war er in den Bereichen Innovation, Solutions Architecture und Quality Assurance tätig.
