Interview mit dem Fraunhofer SIT Darmstadt

In unserer Interview-Serie zum Thema KI kommt hier Prof. Dr. Martin Steinebach, ATHENE Principal Investigator vom Fraunhofer SIT in Darmstadt, zu Wort.

sysbus: „In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?“

Prof. Dr. Martin Steinebach: „Es gibt inzwischen zahllose Bereiche, in denen KI und maschinelles Lernen dabei hilft, die Sicherheit zu verbessern. Das ist insbesondere die IT-Sicherheit, wo beispielsweise Intrusion Detection Systeme auf Maschinelles Lernen zurückgreifen oder Schwachstellen der Softwaresicherheit erkannt werden. Aber auch die zivile Sicherheit wird durch KI gestärkt, indem etwa Betrug und Geldwäsche zuverlässiger erkannt werden. Ein besonderer Fokus liegt auch auf der Rolle bei der Erkennung von Desinformationen, sei es durch NLP bei einzelnen Nachrichten, der Erkennung von komplexen Netzwerken oder auch dem Aufdecken von Deepfakes.“

sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe KI?“

Prof. Dr. Martin Steinebach: „KI ermöglich es, ermüdungsfrei komplexe Angriffsszenarien auszuprobieren und zu adaptieren. Dadurch entstehen Werkzeuge, die das Auffinden von Schwachstellen einfacher machen, als dies mit regelbasierten Systemen der Fall war. Weiterhin erlaubt es generative KI, die Qualität von geschriebenen Texten, beispielsweise bei Phishing, deutlich zu steigern und auf individuelle Ziele abzustimmen. Deepfakes ermöglichen eine neue Qualität bei CEO Frauds und ähnlichen Betrugsszenarien, sie sind aber auch zur Untermalung von Desinformationen im Einsatz.“

Direkter Link: Fraunhofer SIT