Interview mit Controlware
In unserer Interview-Serie zum Thema KI kommt Mario Emig, Head of Information Security Business Development, Controlware GmbH, zu Wort.
sysbus: „In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?“
Mario Emig: „KI kann die IT-Sicherheit in mehreren Bereichen erheblich verbessern. Die meisten IT-Security-Hersteller setzen KI ein, um Ihre Produkte zu verbessern. KI hilft unter anderem bei der automatisierten Erkennung und Abwehr von Bedrohungen, indem ungewöhnliche Muster im Netzwerkverkehr oder Benutzerverhalten identifiziert werden.
Durch maschinelles Lernen können sich Sicherheitslösungen kontinuierlich weiterentwickeln, wodurch sich neue Angriffsformen schneller erkennen lassen. Darüber hinaus optimiert KI Incident-Response-Prozesse, indem Alarme priorisiert und ggf. auch automatisch geeignete Gegenmaßnahmen eingeleitet werden. KI-gestützte Sicherheitssysteme unterstützen bei der Priorisierung von Bedrohungen − Alarme werden effizienter gefiltert und nur relevante Sicherheitsvorfälle an Analysten weitergeleitet.
Zudem setzen Anbieter KI als „Copilot“ in Sicherheitsprodukten wie Firewalls ein, um Regelwerke zu optimieren, fehlerhafte Konfigurationen zu identifizieren und automatisch Verbesserungsvorschläge zu liefern – auch ohne tiefes Expertenwissen.“
sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe KI?“
Mario Emig: „KI-gestützte Angriffe stellen eine wachsende Gefahr dar, da KI-unterstützte Kampagnen oft schneller durchzuführen und schwerer zu erkennen sind. So nutzen Angreifer KI für hochgradig personalisierte Phishing-Angriffe, bei denen gefälschte E-Mails oder Deepfake-Stimmen überzeugender denn je sind. Zudem lassen sich Angriffe automatisiert und in großem Maßstab durchführen.
Auch die Manipulation von KI-gestützten Systemen selbst ist eine Bedrohung, etwa durch „Adversarial Attacks“, die KI-Algorithmen täuschen und falsche Entscheidungen provozieren. Nicht zuletzt ermöglicht KI die Analyse und das Exploiten von Schwachstellen in IT-Systemen in Echtzeit, was das Angriffsrisiko weiter erhöht.
Eine weitere Bedrohung ist die Manipulation von KI durch gezieltes „Prompting“, bei dem Angreifer Sprachmodelle oder andere KI-Systeme dazu bringen, vertrauliche Informationen preiszugeben oder fehlerhafte Anweisungen auszuführen.
Sicherheitsanbieter entwickeln zunehmend technische Lösungen, um solche Manipulationen zu verhindern. Dazu gehören Methoden wie die Härtung von KI-Modellen durch speziell trainierte Abwehrmechanismen oder auch die Blockierung von verdächtigen Anfragen. Weitere Schutzmaßnahmen beinhalten die Implementierung von Zero-Trust-Prinzipien, bei denen KI-Modelle nur autorisierten Anfragen folgen.“
Direkter Link: Controlware – Ihr IT-Partner! – Controlware
