Cloudera und Mistral integrieren KI-Modelle in Unternehmensdaten
Cloudera und das französische KI-Unternehmen Mistral wollen KI-Modelle künftig stärker direkt mit verwalteten Unternehmensdaten verbinden. Dazu soll Mistrals Portfolio aus Modellen und Werkzeugen in Clouderas hybride Daten- und KI-Plattform integriert werden. Unternehmen sollen damit KI-Anwendungen in Public- und Private-Clouds, On-Premises-, Edge-, souveränen und isolierten Umgebungen betreiben können. Die Partner stellen dabei insbesondere die Kontrolle über Daten, Infrastruktur und Bereitstellungsmodell in den Mittelpunkt. Welche Funktionen konkret verfügbar sind, soll durch weitere Integrationen im Verlauf der Zusammenarbeit ausgebaut werden.
KI innerhalb des eigenen Datenperimeters
Ein Schwerpunkt der Kooperation liegt auf Szenarien, in denen Unternehmen sensible oder proprietäre Daten nicht an externe KI-Dienste übertragen möchten. Mistrals Modelle sollen deshalb innerhalb der von Cloudera verwalteten Datenumgebungen eingesetzt werden können.
Nach Angaben von Cloudera umfasst die Integration verschiedene Anwendungsbereiche wie Reasoning, Chat, Codierung, Dokumentenanalyse und Sprachverarbeitung. Die Ausführung der Inferenz in eigenen Umgebungen soll Unternehmen dabei ermöglichen, die verwendete Infrastruktur und das jeweilige Bereitstellungsmodell selbst zu bestimmen.
Cloudera verweist in diesem Zusammenhang auf Datenbestände von insgesamt rund 30 Exabytes, die Kunden über die Plattform verwalten. Die Größenangabe beschreibt das von Cloudera adressierte Datenvolumen und ist nicht als Datenmenge der gemeinsamen KI-Anwendungen zu verstehen.
Anpassung von Modellen mit Unternehmenswissen
Ein weiterer Bestandteil der Zusammenarbeit ist die Integration von Mistral Forge. Damit sollen Unternehmen KI-Modelle in kontrollierten Umgebungen auf Basis eigener Daten und ihres spezifischen Fachwissens anpassen und trainieren können.
Der Ansatz zielt insbesondere auf Organisationen mit großen proprietären Datenbeständen. Anwendungen könnten beispielsweise auf internes Wissen, Dokumente oder andere unternehmenseigene Informationen abgestimmt werden, ohne dass diese Daten für das Training oder die Anpassung an einen externen KI-Dienst übertragen werden müssen.
Welche technischen Anforderungen sich daraus für Rechenleistung, Datenaufbereitung, Modellbetrieb und Governance ergeben, hängt vom jeweiligen Modell und Einsatzszenario ab.
Unterschiedliche Bereitstellungsmodelle
Die gemeinsame Lösung soll in öffentlichen und privaten Clouds ebenso wie in lokalen Rechenzentren und vollständig isolierten Umgebungen eingesetzt werden können. Damit adressiert die Kooperation auch Szenarien, in denen Netzwerkverbindungen zu externen KI-Diensten aus Sicherheits-, Compliance- oder betrieblichen Gründen eingeschränkt sind.
Zusätzlich planen die Unternehmen eine Zusammenarbeit bei Edge-KI. Ziel ist es laut Anbieter, Inferenz näher an den Ort der Datenerzeugung zu bringen. Das kann insbesondere für Anwendungen mit hohen Anforderungen an Latenz, Datenhoheit oder eingeschränkter Konnektivität relevant sein.
Erweiterung des Enterprise-AI-Ökosystems
Cloudera ordnet die Kooperation in sein Enterprise AI Ecosystem ein, das verschiedene Anbieter von KI-Modellen, Infrastruktur und Anwendungen umfasst. Durch Mistral kommt ein weiteres Modellangebot hinzu, das direkt im Umfeld der von Cloudera verwalteten Unternehmensdaten genutzt werden soll.
Für Unternehmen entsteht damit grundsätzlich eine zusätzliche Auswahlmöglichkeit bei Modellen und Bereitstellungsformen. Die Aussage, dass dadurch eine Abhängigkeit von einzelnen Technologie-Stacks oder öffentlichen API-Modellen vermieden werden kann, ist allerdings vom konkreten Architektur- und Beschaffungsmodell des jeweiligen Unternehmens abhängig.
Die gemeinsamen Lösungen sollen über Clouderas Vertrieb und Partnernetzwerk verfügbar werden. Weitere Integrationen und Funktionen sind nach Angaben der Unternehmen geplant.
