KI in der IT-Sicherheit: Früherkennung, Täuschungsschutz und neue Risiken – Interview mit Commvault
Uli Simon, Director Sales Engineering bei Commvault, hebt im Gespräch mit Sysbus hervor, wie Künstliche Intelligenz Unternehmen dabei unterstützt, Sicherheitsbedrohungen frühzeitig zu erkennen und präventiv zu handeln. Durch Analyse von Netzwerkverkehr, Zugriffsmustern und Dateiänderungen kann KI verdächtige Aktivitäten identifizieren, bevor ein Schaden entsteht. Ergänzt wird dies durch sogenannte Threat-Deception-Technologien, bei denen KI-gestützte Köder Hacker in kontrollierte Fallen locken. Gleichzeitig warnt Simon vor den Gefahren, die durch den Missbrauch von KI selbst entstehen, etwa in Form von Data Poisoning – der gezielten Manipulation von Trainingsdaten. Diese schwer zu erkennenden Angriffe können gravierende Fehlentscheidungen auf unternehmerischer oder gesellschaftlicher Ebene nach sich ziehen, weshalb eine kontinuierliche Datenvalidierung und -überwachung unerlässlich ist.
sysbus: „In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?“
Uli Simon, Director Sales Engineering bei Commvault: „Ein KI-gestütztes Datenmanagement ist in der Lage, Netzwerkverkehrsmuster, Systemprotokolle und Verhaltensanomalien zu analysieren, um Anzeichen für einen Cyberangriff auf ein Backup zu erkennen. Mithilfe fortschrittlicher Algorithmen und Machine Learning untersucht es Informationen auf Dateiebene und erkennt Anomalien, die auf potenzielle Cybergefahren oder Probleme mit der Datenintegrität hinweisen. Warnhinweise sind unter anderem eine plötzliche Zunahme des Speichervolumens, ungewöhnliche Zugriffsmuster oder veränderte Inhalte In der Folge können Administratoren frühzeitig potenzielle Risiken erkennen und proaktiv Gegenmaßnahmen einleiten.
Threat-Deception-Technologien legen intelligente Köder-Sensoren in der Nähe wertvoller Assets, die jedes beliebige Asset imitieren. So können Angreifer sie nicht von echten Ressourcen unterscheiden. Hacker agieren auf den vermeintlichen Produktivsystemen und geben Informationen über sich preis, wodurch die Abwehr später ein solches Vorgehen auf den tatsächlichen produktiven Systemen erkennen kann. Angesichts der großen Datenmengen, welche die Sensoren erfassen, hilft KI und ML zum Beispiel, den Missbrauch legitimer Tools wie einer PowerShell automatisch und trennscharf zu erkennen.“
Sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe KI?“
Uli Simon: „Leider nutzt auch die Gegenseite KI – etwa beim Data Poisoning. Hier manipulieren bösartige Akteure zum einem willentlich KI-Trainingsdaten, um die Leistungsfähigkeit der Modelle negativ zu beeinflussen und falsche Ergebnisse zu provozieren. Bei den kleinen, schwer zu identifizierenden Änderungen verschmelzen falsche und echte Daten und lassen sich nicht voneinander unterscheiden. Hacker können zum anderen auch Code unerkannt verändern, und so die Kontrolle über das Verhalten der Modelle erlangen. Solche ebenfalls kaum zu erkennende Manipulationen geschehen schon beim Sammeln der Daten, durch Injektion in den Data Repositories oder über infizierte Quellen. Dies kann in Unternehmen zu folgenschweren Fehlentscheidungen oder bei einer politischen Motivation zu schwerwiegenden gesellschaftlichen und politischen Verwerfungen führen. Die gut getarnten Angriffe lassen sich oft zu spät erst rückgängig machen. Verhindern lässt sich ein Data Poisoning nur durch robustes Validieren von Daten, das Erkennen von Anomalien und durch das kontinuierliche Überwachen der Datensätze, um bösartige Einträge zu identifizieren und zu entfernen.“
