Enterprise Search setzt generativer KI sinnvolle Grenzen

Autor/Redakteur: Franz Kögl, Vorstand bei IntraFind/gg

Unternehmen und Behörden, die ChatGPT (Generative Pretrained Transformer) und Co. mit organisationseigenen Daten nutzen möchten, stehen vor einem Dilemma: Generative KI birgt trotz beeindruckender Vorteile einige Sicherheitsrisiken. In eine Enterprise-Search-Lösung integriert, erhalten die intelligenten Helfer jedoch sinnvolle Grenzen und spielen dennoch ihre Stärken voll aus.

Generative KI einzusetzen, ist immer mit gewissen Risiken verbunden. So praktisch auf dieser Technologie basierende Helfer wie ChatGPT auch sind, sie sind keinesfalls perfekt. Beeindruckende Ergebnisse liefern sie dennoch und Texte, Bilder oder Videos, die sie eigenständig erstellen, wirken fast wie von Menschenhand. Unternehmen und Behörden wollen logischerweise von diesen Kapazitäten profitieren, ihr vorhandenes Wissen einbeziehen und ihre Produktivität verbessern. Bei aller Euphorie sollten sie aber die Risiken beachten und „GenAI“ im richtigen Kontext und Umfeld einsetzen.

Keine Macht den Halluzinationen!

Erfinden KI-Tools wie ChatGPT vermeintliche Fakten einfach, spricht man gemeinhin von „Halluzinationen“. Diese Fehlinformationen sind nicht ungefährlich, insbesondere wenn der künstlichen Intelligenz quasi blind vertraut wird. Warum KI-Systeme halluzinieren, liegt an der Art und Weise, wie sie Texte erzeugen: Generative KI arbeitet sich Wort für Wort voran und fügt an das jeweils letzte Wort in einem Satz eben jenes an, das nach den Regeln der Wahrscheinlichkeit sinnvollerweise darauf folgen müsste. Die Wahrheit bleibt dabei aktuell oft noch auf der Strecke. Da die KI-generierten Texte sich formal dennoch geradezu perfekt lesen, bleiben unbeabsichtigte Schwindeleien des digitalen Assistenten ohne genaue Prüfung der Ergebnisse durch den Anwender nicht selten unbemerkt.

Auch die Themen Datenschutz und -sicherheit bringen ganz eigene Risikofaktoren mit sich. Grundsätzlich gilt: Eine lupenreine Compliance und der Schutz der Daten vor dem Zugriff Unbefugter sind bei Sprachmodellen, die in einer Cloud betrieben werden, in den wenigsten Fällen durchsetzbar. Auch dieser potenzielle Kontrollverlust über sensible Geschäftsdaten ist beim Einsatz generativer KI-Tools zu bedenken.

Bewährte Strukturen für höchste Sicherheit

Trotzdem gibt es durchaus Möglichkeiten, generative KI zu nutzen, ohne sich angreifbar zu machen oder den Datenschutz zu vernachlässigen. Dafür müssen Unternehmen die Technologie allerdings „bändigen“ und in eine bereits vorhandene sowie bewährte Struktur einbetten – etwa in eine Enterprise-Search-Lösung. Ein solches System gibt quasi nativ die Rahmenbedingungen vor, in denen generative künstliche Intelligenzen agieren dürfen. Statt also völlig unabhängig von Regeln und Einschränkungen nach einer Antwort auf die gestellten Fragen zu suchen, können sie nicht über die festgelegten Grenzen der Unternehmenssuche hinaus gehen. Da Enterprise-Search-Lösungen im Bestfall nur mit relevanten und legalen Datenquellen verbunden sind, finden Nutzer auch nur Informationen, die wirklich faktisch korrekt sind. Halluzinieren wird dadurch auf ein Mindestmaß reduziert. Und um das Restrisiko weiter zu minimieren, liefern smarte Systeme auch die Quellenbezüge der erzeugten Antworten oder Zusammenfassungen nahtlos mit.

Gute Enterprise-Search-Lösungen verfügen außerdem über eine rollenbasierte Zugriffskontrolle. So können Unternehmen und vor allem Behörden ausschließen, dass Mitarbeiter Einblick in Datensätze bekommen, für die sie keine Freigabe haben, und Datenschutzverstöße verhindern. Da gerade Behörden oft sehr strenge Compliance-Anforderungen haben und mit hochsensiblen Informationen arbeiten, sind sie auf eine hohe Transparenz der generativen Modelle angewiesen. Open-Source-Technologien, die sie ohne Abhängigkeiten zu externen Dienstleistern und Stakeholdern auf eigenen Servern ausführen können, sind in diesem Fall die bessere Wahl als proprietäre Modelle.

Enterprise Search: sicherer Partner für zahlreiche Use Cases

Was Unternehmen und Behörden sich vom Einsatz einer Enterprise-Search-Lösung mit generativen KI-Kapazitäten in jedem Fall versprechen können, ist ein ganzes Portfolio produktivitätssteigernder und gleichzeitig sicherer Use Cases. Umfangreiche Berichte, Präsentationen oder digitalisierte Akten können vom KI-Assistent schnell und unkompliziert zusammengefasst werden – Quellenangaben inklusive. Natural Language Processing, also die Verarbeitung natürlicher Sprache, erlaubt generativer KI in Form eines Chatbots Suchanfragen zu beantworten und mehr noch: Nutzer können sogar gezielt Fragen zu den Inhalten der gefundenen Dateien stellen, ohne beispielsweise Akten oder Verträge selbst zu öffnen.

Diese weitreichenden Fähigkeiten generativer KI bieten im Zusammenhang mit einer Enterprise-Search-Lösung unter anderem folgende Vorteile:

• Verbesserte User Experience: Da Nutzer gezielter und unkomplizierter exakt die Informationen erhalten, die sie benötigen, steigert sich die Benutzererfahrung einer ohnehin schon komfortablen Enterprise-Search-Lösung.
• Leichtere und intuitivere Bedienung: Ein elaboriertes Frage-Antwort-System, das auf Natural Language Processing mit Unterstützung durch generative KI beruht, hebt das „Question Answering“ auf ein höheres Niveau – bei internen Suchvorgängen ebenso wie beim Kunden- oder Bürgerkontakt.
• Optimiertes Knowledge-Management: Der Zugang zum gesammelten Know-how eines Unternehmens oder einer Behörde wird erleichtert, was weitere Vorteile in zweiter Instanz mit sich bringt. So können neue Mitarbeiter um ein Vielfaches leichter eingearbeitet werden und die Übergabe beim Ausscheiden von Kollegen findet reibungslos statt.
• Erstklassige Customer Experience: Gerade Industrieunternehmen haben oft anspruchsvollen Kundenkontakt. Durch die Option, sich die oft unübersichtlichen technischen Dokumentationen mittels einfacher Fragen zusammenfassen zu lassen, können Service-Mitarbeiter Kunden schneller helfen – und damit deren Zufriedenheit steigern.
• Schnelleres Fallmanagement im Amt: Ein sogenannter Vermerkassistent kann von Behörden eingesetzt werden, um Sachbearbeiterinnen und Sachbearbeitern beim Erstellen von Aktenvermerken zu helfen. Generative KI fasst in diesem Zusammenhang den jeweiligen Sachverhalt zusammen und fügt die Information als Vermerk der Akte hinzu. Das zuständige Personal bleibt zwar weiterhin für die Beurteilung und abschließende Bewertung verantwortlich, erhält aber alle relevanten Details auf einen Blick.

Workflows sind Unternehmenssache

Die Beispiele zeigen die breiten Anwendungsgebiete, die generative KI in Verbindung mit der Unternehmenssuche bereitstellt. Welche Use Cases allerdings wirklich interessant für das jeweilige Unternehmen oder die einzelne Behörde sind, das wissen sie selbst am besten. In den meisten Fällen lohnt es sich, die weitreichenden Fähigkeiten einer Enterprise-Search-Lösung und generativer KI miteinander zu kombinieren, um mehr aus den eigenen Daten herauszuholen. Allein das verbesserte Wissensmanagement und die damit einhergehende Produktivitätssteigerung macht generative KI und Enterprise Search zum absoluten Dream Team für Organisationen.