{"id":24715,"date":"2023-08-01T11:54:00","date_gmt":"2023-08-01T09:54:00","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=24715"},"modified":"2023-07-25T11:07:14","modified_gmt":"2023-07-25T09:07:14","slug":"dashboard-zur-chatgpt-nutzung-im-unternehmen-von-vectra-ai","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=24715","title":{"rendered":"Dashboard zur ChatGPT-Nutzung im Unternehmen von Vectra AI"},"content":{"rendered":"\n

Large Language Models (LLMs) bringen eine gro\u00dfe Zahl an M\u00f6glichkeiten mit sich. Sie erm\u00f6glichen beispielsweise das kosteng\u00fcnstige und schnelle Erstellen von Miniaturansichten<\/a> f\u00fcr Blogs, das \u00dcbersetzen von Texten in andere Sprachen und den Umgang mit Kritikern. St\u00e4ndig kommen neue Einsatzbereiche hinzu. Das bringt gleichzeitig das Problem mit sich, dass zur Zeit vollkommen unklar ist, welche Aufgaben die Technologie in Zukunft erf\u00fcllen wird, was wiederum zu greifbaren und ernsthaften Gesch\u00e4ftsrisiken f\u00fchrt.<\/p>\n\n\n\n

\"\"<\/a>
Screenshot: Vectra AI<\/figcaption><\/figure>\n\n\n\n\n\n\n\n

Bei LLM denke viele Menschen zuerst an\u00a0ChatGPT<\/a>\u00a0von OpenAI als das derzeit am einfachsten zug\u00e4ngliche und zu bedienende Tool. Mit ChatGPT kann jeder \u00fcber einen Webbrowser Fragen stellen, und es generiert schnelle Antworten. F\u00fcr den Durchschnittsnutzer ist das gro\u00dfartig, aber f\u00fcr jedes Unternehmen birgt diese Benutzerfreundlichkeit drei ernsthafte Probleme. Alle an ChatGPT gesendeten Daten werden von OpenAI zu Qualit\u00e4ts- und Nachverfolgungszwecken gespeichert, die Quelle jeder Antwort ist unbekannt und die Antwort kann komplett erfunden sein.<\/p>\n\n\n\n

OpenAI verfolgt die Eingaben der Nutzer, um sein Produkt zu verbessern und um einen eventuellen Missbrauch des Systems zu verhindern. Dies ist ein v\u00f6llig vern\u00fcnftiges Verhalten von OpenAI, aber es gibt keinen Grund zu glauben, dass OpenAI mit diesen Daten besonders sorgf\u00e4ltig umgeht. Dar\u00fcber hinaus kann OpenAI nicht wirklich kontrollieren, welche Daten an ChatGPT \u00fcbermittelt werden, so dass es Ende viele Informationen speichert, die eigentlich gar nicht gespeichert werden sollten. So kam zum Beispiel k\u00fcrzlich ans Tageslicht, dass Samsung-Mitarbeiter ChatGPT zur Fehlersuche in firmeneigener Software<\/a> und zur Zusammenfassung von Sitzungsprotokollen verwendet haben.<\/p>\n\n\n\n

Das zweite Problem ist, dass ChatGPT Anfragen beantwortet, ohne Quellen f\u00fcr seine Antworten zu nennen. ChatGPT macht Aussagen, die auf seinen Erkenntnissen beruhen, und leider m\u00fcssen Benutzer dies so hinnehmen, wie es ist. Diese Informationen k\u00f6nnten urheberrechtlich gesch\u00fctzt sein, und Benutzer w\u00fcrden es nicht wissen, bis sie ein Schreiben von Anw\u00e4lten erhalten, die eine Verletzung des Urheberrechts behaupten. Getty Images hat<\/a> den Ersteller eines Tools zur Erzeugung von LLM-Bildern wegen Urheberrechtsverletzung verklagt<\/a>, nachdem festgestellt wurde, dass das Tool Bilder mit einem Wasserzeichen von Getty Images erzeugt hat. Es ist nicht unvern\u00fcnftig zu argumentieren, dass alle Endnutzer, die diese Bilder verwenden, ebenfalls haftbar gemacht werden k\u00f6nnten. Die Codegenerierung ist ein weiterer Bereich, der Anlass zur Sorge gibt, auch wenn es bisher noch keine konkreten Beispiele gab, aber es scheint unvermeidlich.<\/p>\n\n\n\n

Das gr\u00f6\u00dfte Problem bei ChatGPT ist jedoch, dass diese LLMs \u201eHalluzinationen\u201c haben k\u00f6nnen, was im Branchenjargon als \u201eunverhohlene L\u00fcgen\u201c bezeichnet wird. Da ChatGPT keine Transparenz dar\u00fcber hat, wie es zu den Antworten kommt, m\u00fcssen die Nutzer in der Lage sein, die Antworten kritisch zu analysieren, um zu entscheiden, ob sie wahr sind, da ChatGPT und seinesgleichen immer mit absoluter Sicherheit antworten werden. Das kann Folgen haben, von\u00a0Googles peinlichem Start<\/a> bis hin zu einem Professor, der alle seine Studenten durchfallen lie\u00df, nachdem\u00a0ChatGPT f\u00e4lschlicherweise behauptet hatte<\/a>, studentische Arbeiten geschrieben zu haben \u2013 bis hin zum ungeheuerlichsten Beispiel, bei dem ein Anwalt ChatGPT benutzte, um seinen Schriftsatz vor Gericht zu verfassen, und ChatGPT sechs v\u00f6llig falsche Quellen erfand, um das Argument zu st\u00fctzen. Googles schlechtes Beispiel f\u00fchrte dazu, dass seine Marktbewertung um 100 Milliarden US-Dollar sank, der Universit\u00e4tsprofessor seine Glaubw\u00fcrdigkeit einb\u00fc\u00dfte und eine millionenschwere Klage vor Gericht m\u00f6glicherweise abgewiesen wurde. Dies sind \u00e4u\u00dferst schwerwiegende Folgen, die eigentlich zu vermeiden w\u00e4ren.<\/p>\n\n\n\n

Unternehmen reagieren auf diese Tatsachen mit Richtlinien, die die Verwendung von OpenAI ohne Genehmigung verbieten. Es ist jedoch schwierig, die Einhaltung dieser Richtlinien zu verfolgen, da der Datenverkehr \u00fcber einen verschl\u00fcsselten Browser l\u00e4uft, ohne dass eine Software erforderlich ist. <\/p>\n\n\n\n

Einblicke in die Compliance durch ChatGPT Usage Dashboard<\/strong><\/p>\n\n\n\n

Vectra AI<\/a> ist in der Lage, diese Aktivit\u00e4ten im Netzwerk zu erkennen, indem es Netzwerksensoren zur Erkennung nutzt. Vectra NDR<\/a> wurde entwickelt, um den gesamten Netzwerkverkehr im Unternehmen zu \u00fcberwachen, mit sorgf\u00e4ltig platzierten Sensoren, die den Verkehr in und aus dem Netzwerk \u00fcberwachen, aber auch innerhalb des Netzwerks selbst. Diese Analysetiefe ist die Grundlage f\u00fcr das leistungsf\u00e4hige KI-gesteuerte Erkennungs-Framework und erm\u00f6glicht zudem aufschlussreiche Einblicke in die Compliance, zusammengefasst im ChatGPT Usage Dashboard.<\/p>\n\n\n\n

Das Dashboard, das Vectra allen Plattformkunden kostenlos zur Verf\u00fcgung steht, zeigt die Hosts in der Umgebung an, die aktiv mit OpenAI interagieren, indem es DNS-Anfragen an OpenAI-Server verfolgt, die von beliebigen Hosts gestellt werden. So k\u00f6nnen Compliance-Beauftragte nicht nur schnell eine Liste von Personen einsehen, die Konten bei OpenAI haben oder ein Interesse angemeldet haben, sondern auch aktiv \u00fcberwachen, wer genau ein System nutzt und wie oft. <\/p>\n\n\n\n

Das Dashboard nutzt die patentierte Vectra-Technologie zur Host-ID-Zuordnung, um diese Nutzer bis in die Tiefe zu verfolgen. Selbst wenn sich die IP-Adressen von Rechnern \u00e4ndern oder ein Notebook einem neuen Netzwerk beitritt, verfolgt Vectra dies als denselben Rechner, so dass das Dashboard genau anzeigt, wie oft ein Ger\u00e4t auf ChatGPT zugreift \u2013 was auch erm\u00f6glicht, schnell zu sehen, wen Vectra f\u00fcr den wahrscheinlichen Besitzer eines Rechners h\u00e4lt. Mit diesem Dashboard sehen Sicherheitsverantwortliche nicht nur, welche Hosts ChatGPT verwenden, sondern wissen auch, wen sie diesbez\u00fcglich kontaktieren m\u00fcssen, und sie haben diese Informationen innerhalb von Minuten, nicht Stunden. <\/p>\n\n\n\n

Dies ist nur ein Beispiel daf\u00fcr, wie die Vectra-Plattform tiefe Einblicke in die Aktivit\u00e4ten im Unternehmen bietet und zeigt, wie sie durch die Verfolgung aktiver Compliance-Probleme bei der Einhaltung von Vorschriften helfen kann. Dies erfolgt ebenso zuverl\u00e4ssig, wie das\u00a0Certificate Expiry Dashboard<\/a>, das ablaufende Zertifikate \u00fcberwacht, die im Unternehmen aktiv genutzt werden, oder das\u00a0Azure AD Chaos Dashboard<\/a>, das MFA-Umgehungen \u00fcberwacht. Vectra kann Compliance-Verantwortlichen wertvolle Einblicke bieten, nicht nur was im Unternehmen falsch konfiguriert ist, sondern welche Sicherheitsrisiken aktiv bestehen.<\/p>\n\n\n\n

Weitere Informationen: https:\/\/www.vectra-ai.com\/de<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Large Language Models (LLMs) bringen eine gro\u00dfe Zahl an M\u00f6glichkeiten mit sich. Sie erm\u00f6glichen beispielsweise das kosteng\u00fcnstige und schnelle Erstellen von Miniaturansichten f\u00fcr Blogs, das \u00dcbersetzen von Texten in andere Sprachen und den Umgang mit Kritikern. St\u00e4ndig kommen neue Einsatzbereiche hinzu. Das bringt gleichzeitig das Problem mit sich, dass zur Zeit vollkommen unklar ist, welche Aufgaben die Technologie in Zukunft erf\u00fcllen wird, was wiederum zu greifbaren und ernsthaften Gesch\u00e4ftsrisiken f\u00fchrt.<\/p>\n","protected":false},"author":81,"featured_media":24717,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[10036,4],"tags":[17254,17345,17460,17459,17458],"class_list":["post-24715","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","category-news","tag-chatgpt","tag-llm","tag-open-ai","tag-usage-dashboard","tag-vectra-ai"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/24715","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/users\/81"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=24715"}],"version-history":[{"count":1,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/24715\/revisions"}],"predecessor-version":[{"id":24718,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/24715\/revisions\/24718"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/media\/24717"}],"wp:attachment":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=24715"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=24715"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=24715"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}