David Colwell, Vice President of AI und ML bei Tricentis, kommentiert die erste große Cyberattacke unter Einsatz von KI und warnt vor den Risiken agentischer KI. Dieselben Technologien, die für Marketing oder Kundengewinnung genutzt werden, können auch für gezielte Social-Engineering- und Phishing-Angriffe missbraucht werden. KI-Agenten führen Befehle ohne Verständnis von Absichten aus, was ihre Autonomie zugleich nützlich und gefährlich macht. Unternehmen sollten KI-Anfragen als potenziell unzuverlässige Entitäten behandeln und ihre Aktivitäten transparent und nachvollziehbar gestalten. Vertrauen, Nachvollziehbarkeit und Governance werden im Zeitalter von agentischer KI zur entscheidenden Währung für den Geschäftserfolg.
