{"id":30344,"date":"2025-11-29T14:01:23","date_gmt":"2025-11-29T13:01:23","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=30344"},"modified":"2025-11-21T14:09:43","modified_gmt":"2025-11-21T13:09:43","slug":"agentic-ai-vertrauen-ist-ab-sofort-die-haerteste-waehrung","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=30344","title":{"rendered":"Agentic AI: Vertrauen ist ab sofort die h\u00e4rteste W\u00e4hrung"},"content":{"rendered":"\n

Ein Kommentar von David Colwell, Vice President of Artificial Intelligence and Machine Learning bei Tricentis, zur ersten gro\u00dfen Cyberattacke mit KI.<\/em><\/p>\n\n\n\n

\"\"
David Colwell, VP AI & Machine Learning bei Tricentis – Quelle: Tricentis<\/figcaption><\/figure>\n\n\n\n

Der j\u00fcngste Cyberangriff, bei dem KI-Technologie von Anthropic zum Einsatz kam, sollte als eindringliches Warnsignal f\u00fcr jeden verstanden werden, der Agentic AI implementiert. Dieselbe k\u00fcnstliche Intelligenz, die uns bei der Identifizierung potenzieller Kunden oder dem Verfassen personalisierter E-Mails unterst\u00fctzt, l\u00e4sst sich ebenso m\u00fchelos f\u00fcr Social-Engineering-Angriffe missbrauchen, um an private Informationen zu gelangen. Dieselben Werkzeuge, die wir zur Erstellung von Unternehmensprofilen und zum Crawling des Webs nutzen, k\u00f6nnen als Motor f\u00fcr hochgradig gezielte Phishing-Kampagnen dienen.<\/p>\n\n\n\n

Das ist die Kehrseite der Autonomie. KI-Agenten verstehen keine Absicht, sie f\u00fchren lediglich Befehle aus.<\/p>\n\n\n\n

Wir k\u00f6nnen diese technologische Entwicklung nicht r\u00fcckg\u00e4ngig machen, aber wir k\u00f6nnen uns vor m\u00f6glichen negativen Folgen sch\u00fctzen. Unternehmen m\u00fcssen beginnen, KI-Anfragen wie automatisierte Web-Crawler zu behandeln: als nicht vertrauensw\u00fcrdige Entit\u00e4ten, die aktiv nach Sicherheitsl\u00fccken suchen.<\/p>\n\n\n\n

Vor allem aber ben\u00f6tigen wir Transparenz. Ein KI-System, dessen Aktivit\u00e4ten nicht nachvollziehbar sind, kann nicht abgesichert werden. Vertrauen gr\u00fcndet auf Nachvollziehbarkeit, Verifizierung und einer durchdachten Governance.<\/p>\n\n\n\n

Im Zeitalter von Agentic AI ist Vertrauen die h\u00e4rteste W\u00e4hrung, die einzige, auf die es im Gesch\u00e4ftsleben ankommt.<\/p>\n\n\n\n

\u00dcber David Colwell<\/strong><\/p>\n\n\n\n

David Colwell ist Vice President of Artificial Intelligence and Machine Learning bei Tricentis, einem Anbieter von Software f\u00fcr Testautomatisierung. Zuvor war er in den Bereichen Innovation, Solutions Architecture und Quality Assurance t\u00e4tig.<\/p>\n","protected":false},"excerpt":{"rendered":"

David Colwell, Vice President of AI und ML bei Tricentis, kommentiert die erste gro\u00dfe Cyberattacke unter Einsatz von KI und warnt vor den Risiken agentischer KI. Dieselben Technologien, die f\u00fcr Marketing oder Kundengewinnung genutzt werden, k\u00f6nnen auch f\u00fcr gezielte Social-Engineering- und Phishing-Angriffe missbraucht werden. KI-Agenten f\u00fchren Befehle ohne Verst\u00e4ndnis von Absichten aus, was ihre Autonomie zugleich n\u00fctzlich und gef\u00e4hrlich macht. Unternehmen sollten KI-Anfragen als potenziell unzuverl\u00e4ssige Entit\u00e4ten behandeln und ihre Aktivit\u00e4ten transparent und nachvollziehbar gestalten. Vertrauen, Nachvollziehbarkeit und Governance werden im Zeitalter von agentischer KI zur entscheidenden W\u00e4hrung f\u00fcr den Gesch\u00e4ftserfolg.<\/p>\n","protected":false},"author":81,"featured_media":30347,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[10751,10036,8931],"tags":[21955,1088,1994,23663],"class_list":["post-30344","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-advertorials","category-kuenstliche-intelligenz","category-trends","tag-agenticai","tag-cybersecurity","tag-governance","tag-trustinai"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/30344","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/users\/81"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=30344"}],"version-history":[{"count":1,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/30344\/revisions"}],"predecessor-version":[{"id":30348,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/30344\/revisions\/30348"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/media\/30347"}],"wp:attachment":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=30344"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=30344"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=30344"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}