Interview mit Taktsoft
In unserer Interview-Serie zum Thema KI kommt hier Ben Fuhrmannek, Berater für IT-Sicherheit bei der Taktsoft GmbH, zu Wort.
sysbus: „In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?“
Ben Fuhrmannek: „In der Softwareentwicklung ist die KI bereits in die Entwicklungsumgebung integriert. Der IT-Sicherheitsexperte wird durch Eingabe entsprechender Prompts bei der Quellcodeanalyse unterstützt, um bekannte Schwachstellen aufzudecken und mögliche Verbesserungen vorzuschlagen. Für Entwickler kann die KI auf Anfrage möglichst sicheren Quellcode generieren und bei Problemen automatisch entsprechende Regressionstests schreiben. Insgesamt eignet sich in beiden Fällen die KI sehr gut als zeitsparendes Werkzeug zur Verbesserung der Sicherheit.“
sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe KI?“
Ben Fuhrmannek: „Eines der größten Probleme beim Einsatz von KI in der Softwareentwicklung ist das fast blinde Vertrauen in die Antworten und den vorgeschlagenen Quellcode. Ohne eine detaillierte Analyse durch den geschulten Experten besteht die Gefahr, dass die KI kontraproduktiv Schwachstellen in Quellcode einbaut, ohne dass dies bemerkt wird. Um diesen Effekt zu verstärken, können Angreifer KI-Systeme gezielt durch Desinformation und Supply-Chain-Angriffe im Antwortverhalten beeinflussen. Als Resultat leidet die Softwarequalität unter versteckten Sicherheitsproblemen.“
Direkter Link: Taktsoft – Deine Software Produkt Manufaktur
