Sicherheitslücke Content-Management? Wie KI Risiken minimiert und neue Herausforderungen schafft – Interview mit Hyland
Im Interview mit Sysbus beschreibt Heinz Wietfeld, Director bei Hyland, wie Künstliche Intelligenz im Content Management eine zentrale Rolle spielt – nicht nur bei der Effizienzsteigerung, sondern auch beim Schutz sensibler Daten. KI-gestützte Systeme übernehmen Aufgaben wie Klassifizierung, Zugriffskontrolle, Anomalieerkennung und Einhaltung von Governance-Richtlinien. Gleichzeitig warnt Wietfeld vor den Gefahren durch KI-gestützte Angriffe, etwa durch Social Hacking, manipulierte Eingabeaufforderungen (Prompt Engineering) und unsichere KI-Modelle, die Unternehmen ohne moderne Sicherheitsarchitektur besonders verwundbar machen.
Sysbus: In welchen Bereichen kann KI helfen, die Sicherheit zu verbessern?
Heinz Wietfeld, Director bei Hyland: „Mit der stetig wachsenden Menge an strukturierten und unstrukturierten Daten wird es für Unternehmen schwieriger, Sicherheitsrisiken manuell zu kontrollieren. Künstliche Intelligenz kann im Content Management nicht nur Prozesse effizienter gestalten, sondern auch den Schutz sensibler Daten verbessern. KI-gestützte Content-Lösungen klassifizieren vertrauliche Informationen, steuern Zugriffsrechte und erkennen verdächtige Aktivitäten frühzeitig. Zudem validieren intelligente Agenten Inhalte gegen Sicherheitsrichtlinien und kennzeichnen potenziell fehlerhafte Dokumente – eine wichtige Grundlage für Datenschutz und Compliance. Darüber hinaus kann Data Governance direkt ins Content Management einfließen. Bereits beim Import von Daten in eine KI-Anwendung lassen sich Governance-Richtlinien anwenden, um personenbezogene Informationen zu anonymisieren. Auch der Datenzugriff per natürlicher Sprache kann gezielt gesteuert werden. Einheitliche Sicherheitsvorgaben werden dabei von Governance-Experten definiert und nahtlos durchgesetzt.“
Sysbus: „Welches sind die größten Gefahren durch Angriffe mithilfe von KI?“
Heinz Wietfeld: „Content-Management-Systeme sind besonders attraktiv für Angreifer, da sie hochsensible Daten enthalten. Cyberkriminelle nutzen zunehmend KI für gezielte Phishing-Attacken, Dokumentenmanipulation oder automatisierte Ransomware-Angriffe. Eine wachsende Bedrohung ist Social Hacking, bei dem Angreifer mit tiefem Wissen über Unternehmen und interne Richtlinien besonders glaubwürdig auftreten. Auch das sogenannte „Prompt Engineering“ wird zunehmend zu einer Gefahr – eine Technik, bei der manipulierte Eingabeaufforderungen verwendet werden, um unbefugten Zugriff auf Daten zu erlangen. In einigen Fällen stellen KI-Modelle selbst eine Bedrohung dar. Während große und populäre LLM-Anbieter als vertrauenswürdig gelten, gibt es immer mehr kleinere Modelle, die Sicherheitsrisiken für Unternehmen mit sich bringen, wenn sie mit unsicheren Daten trainiert wurden. Daher ist beim Einsatz von Modellen Vorsicht geboten, und es sollten geeignete Schutzmaßnahmen implementiert werden, um diese proaktiv durchzusetzen. Unternehmen ohne KI-gestützte Sicherheitslösungen und modernes Content Management sind einem erhöhten Risiko durch solche Angriffe ausgesetzt.“
Direkter Link: Content-Services & Enterprise-Management | Hyland
