Erfolg in Zeiten von KI bedarf einer neuen Sicherheitskultur
Autor/Redakteur: Mike Rennie, Senior Information Security Officer von GoTo/gg
Künstliche Intelligenz (KI) verändert die globale Unternehmenslandschaft maßgeblich. Unter anderem wirkt sie sich auf praktisch jeden Aspekt eines Arbeitsplatzes aus. Obwohl KI für Unternehmen von großem Nutzen ist und das Versprechen birgt, einige der drängendsten Herausforderungen am Arbeitsplatz von heute zu bewältigen, müssen Führungskräfte lernen, wie sie es sicher umsetzen können.
Um von den Vorteilen zu profitieren, muss jeder KI-Einsatz mit einer starken Sicherheitskultur innerhalb des Unternehmens beginnen. So fortschrittlich KI auch sein mag, Firmen können es sich nicht leisten, bei ihrer Verteidigung die wichtigste Komponente zu übersehen: den Menschen. Viele traditionelle Modelle für Sicherheitstraining und -bewusstsein sind inzwischen veraltet. Daher gilt es, das Thema Sicherheit für die KI-zentrierte Welt neu zu konzipieren.
KI: Innovation mit neuen Risiken
Zu den üblichen Anwendungen von KI gehören die Entwicklung von Code, die Ausführung automatisierter Skripte und die Generierung von Antworten auf Kundenanfragen – alles Maßnahmen, die sich positiv auf Unternehmen auswirken. Und die KI-Technologie wird immer ausgefeilter. Doch mit den Fortschritten können auch neue Sicherheitsbedrohungen auftreten, da generative KI-Tools auch sensible Informationen aus Trainingsdaten speichern und ungewollt preisgeben können. Daher ist es wichtig, die Nutzung durch Ihr Unternehmen zu regeln und zu wissen, welche Art von Informationen in diese Tools eingegeben werden können, um Ihr Unternehmen sicher zu unterstützen.
Darüber hinaus nutzen einige Cyberkriminelle inzwischen KI, um heimtückische Angriffsstrategien zu entwickeln und KI-manipulierte Inhalte zu erstellen – wie etwa das Klonen von Stimmen. Hinzu kommt, dass Mitarbeiter die Technologie unbeabsichtigt missbrauchen und das Risiko von Wettbewerbsverzerrungen oder der Preisgabe von Insider-Wissen erhöhen können, wenn sie nicht entsprechend geschult sind.
Es beginnt bei der Sicherheitskultur
CISOs und Führungskräfte in allen Branchen müssen sich mit der Frage beschäftigen, wie sie die Vorteile von KI-Tools wie verbesserte Produktivität und Leistung nutzen, ohne gleichzeitig neue Risiken einzugehen. Viele Mitarbeiter sind bereits darin geschult, verdächtige Phishing-E-Mails zu erkennen. Aber KI verschafft Cyberkriminellen die Chance, noch unbemerkter und skrupelloser vorzugehen. Zudem neigt KI zum Ausspielen unzutreffender Informationen, die oft nur mit dem nötigen Wissen als falsch zu erkennen sind. Führungskräfte müssen daher ihre internen Sicherheitstrainingsneu bewerten und weiterentwickeln, um mit der wachsenden Bedrohungslandschaft Schritt zu halten.
Beim Aufbau eines Sicherheitssystems müssen CISOs und Cybersecurity-Verantwortliche zunächst ihre Arbeitsplatzkultur und die Denkweise der Mitarbeiter analysieren und verstehen. Dazu ist es notwendig zu wissen, wie Mitarbeiter handeln, wenn sie auf sich allein gestellt sind: Entscheiden sie im Falle eines Phishing-Versuchs richtig oder nicht? In Kombination mit der Auswertung alter Vorfälle erhalten Führungskräfte so einen Überblick über den Sicherheitsstatus ihres Unternehmens.
Anschließend ist es empfehlenswert, die Trainings-Grundlage zu überarbeiten, um Mitarbeiter über aktuelle Risiken wie KI-Halluzinationen, Schatten-KI und -IT sowie Klon- und Fälschungsbetrug zu informieren und aufzuklären. Das bedarf transparenter, direkter und klarer Kommunikation und genauer Anleitung. Denn Mitarbeiter müssen wissen, weshalb IT-Sicherheit oberste Priorität hat, welche Bedrohungen in der heutigen digitalen und KI-zentrierten Welt drohen und wie sie Vorschriften einhalten und gleichzeitig produktiv und effizient arbeiten.
Vorreiter für die Zukunft der Arbeit
Digitale Transformation geschieht nicht über Nacht. CISOs und Cybersecurity-Führungskräfte sind daher gut beraten, in ein strategisches Konzept zu investieren, das auf Kommunikation, Verhalten sowie formalen Richtlinien und Schulungen fußt und neue Technologien wie KI berücksichtigt. Erst dadurch ist gewährleistet, dass IT-Sicherheit zum festen Bestandteil des Umgangs mit Informationen und Daten sowie der Privatsphäre von Mitarbeitern und Kunden wird.