Interview mit ManageEngine
In unserer Interview-Serie zum Thema KI kommt Subhalakshmi Ganapathy, Chief IT Security Evangelist bei ManageEngine, zu Wort.
sysbus: „In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?“
Subhalakshmi Ganapathy: „Zu Beginn lag der Fokus von KI-Nutzung für die Cybersicherheit auf der Bedrohungserkennung und der grundlegenden Automatisierung von Prozessen. Aber ihr wahres Potenzial liegt in der Optimierung von SOC-Prozessen (Security Operations Center). KI kann aktiv Fehlalarme reduzieren und zeitnahe, kontextbezogene Empfehlungen für agile Reaktionen auf Vorfälle liefern. Dies ermöglicht es den SOC-Analysten, den Zeitaufwand für Analysen zu reduzieren und so ihre Effizienz zu steigern. Auf diese Weise trägt KI aktiv dazu bei, den Fachkräftemangel in der IT-Sicherheit zu reduzieren und sorgt für schnellere und präzisere Reaktionen auf komplexe Bedrohungen sowie für eine grundlegend verbesserte Abwehr von Angriffen.“
sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe KI?“
Subhalakshmi Ganapathy: „Die Zeit der breit gestreuten Angriffe ist vorbei. Mit KI beginnt eine Ära von Angriffen mit chirurgischer Präzision, bei denen jede Phishing-E-Mail und jeder unberechtigte Zugriff sorgfältig auf maximale Wirkung ausgelegt ist. Die aktuellen KI-gestützten Social-Engineering-Angriffe zeichnen sich durch beispiellose Zielgenauigkeit aus. Bedrohungsakteure nutzen KI, um öffentlich zugängliche Informationen zu analysieren und auf diese Weise stark personalisierte Phishing-Kampagnen zu entwickeln, die selbst von geschultem Fachpersonal nur schwer zu erkennen sind. Diese Präzision zieht sich durch den gesamten Lebenszyklus eines Angriffs, vom Sammeln der notwendigen Informationen bis hin zum eigentlichen Angriff.
Noch besorgniserregender ist nur die Skalierbarkeit, die KI bietet. Ihre Kapazitäten zur autonomen Entscheidungsfindung in Kombination mit agentenbasierten Ansätzen ermöglicht es Angreifern, koordinierte Angriffe auf Tausende von Zielen gleichzeitig zu orchestrieren und ihre Taktiken in Echtzeit anzupassen, um Erkennungsmaßnahmen zu umgehen.
Wenn sich Organisationen für ihre Cybersicherheit übermäßig auf KI verlassen, entsteht ein Sicherheitsparadoxon. Sensible Daten, die in LLM-Plattformen (Large Language Models) eingegeben werden, werden für die Organisationen unbeabsichtigt zu neuer Angriffsfläche, die anfällig für Prompt Injection und andere KI-gestützte Exploits ist. Eine Abhängigkeit von KI für die Abwehr führt also zu neuen Risikovektoren, für die aktuelle Sicherheitskonzepte nicht ausgelegt sind.
Der effektivste Ansatz für die IT-Sicherheit umfasst deshalb zwar KI, berücksichtigt dabei jedoch auch ihre inhärenten Schwachstellen. Organisationen müssen Sicherheitsstrategien und -protokolle entwickeln, die KI und wie sie von Angreifern genutzt wird, mitdenken.“
Direkter Link: IT- und Netzwerk-Management Software | ManageEngine
