{"id":27167,"date":"2024-08-10T09:49:56","date_gmt":"2024-08-10T07:49:56","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=27167"},"modified":"2024-08-01T10:27:36","modified_gmt":"2024-08-01T08:27:36","slug":"kosten-und-nutzen-generativer-ki","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=27167","title":{"rendered":"Kosten und Nutzen generativer KI"},"content":{"rendered":"\n<p>Autor: <a href=\"https:\/\/www.freshworks.com\/de\/\">Gabriel Frasconi, VP General Manager South Europe und Dach bei Freshworks<\/a><\/p>\n\n\n\n<p>Was die generative K\u00fcnstliche Intelligenz (KI) angeht, so m\u00fcssen CIOs (Chief Information Officers) heutzutage einen schwierigen Balanceakt hinbekommen. Sie streiten sich um das Entwickeln von L\u00f6sungen und Anwendungen, die zukunftssicher sind und die &#8211; vor allem bei der generativen KI &#8211; enorme Renditen versprechen. Gleichzeitig ist es aber so, dass die generative KI, genau wie alle anderen technologischen Innovationen, versteckte Kosten mit sich bringt, die &#8222;Technologie Schulden&#8220;.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-1024x1024.webp\" alt=\"\" class=\"wp-image-27169\" srcset=\"https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-1024x1024.webp 1024w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-300x300.webp 300w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-150x150.webp 150w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-768x768.webp 768w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-1536x1536.webp 1536w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-2048x2048.webp 2048w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-1320x1320.webp 1320w, https:\/\/www.sysbus.eu\/wp-content\/uploads\/2024\/08\/Gabriel-Frasconi_Freshworks-002-120x120.webp 120w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Quelle: Freshworks<\/figcaption><\/figure>\n\n\n\n<!--more-->\n\n\n\n<p>Diese sind ein Teil des Risikomanagements, den CIOs im Auge haben, seit <a href=\"https:\/\/www.si.edu\/spotlight\/y2k\" target=\"_blank\" rel=\"noreferrer noopener\">Y2K<\/a> sie in den Mittelpunkt gestellt hat. Darunter fallen alle Unternehmenskosten, die beim Einsatz neuer Technologien entstehen: Beheben von Softwarefehlern, die beim Start nicht behoben werden konnten; Installieren von Patches, nachdem unbekannte Schwachstellen aufgetaucht sind; Kosten f\u00fcr die Modernisierung der veralteten technischen Infrastruktur. Jahrelange Unternehmensinvestitionen in <a href=\"https:\/\/hbr.org\/2023\/07\/the-value-of-digital-transformation\" target=\"_blank\" rel=\"noreferrer noopener\">die digitale Transformation<\/a>, Massenmigration zu Cloud-Software und -Systemen, <a href=\"https:\/\/www.freshworks.com\/theworks\/research\/can-ai-address-it-bloat\/?source=tw&amp;medium=gen-ai-technical-debt\">immer komplexere Tech-Stacks <\/a>und jetzt <a href=\"https:\/\/www.freshworks.com\/theworks\/experience\/gen-ai-software-development-superpower\/?source=tw&amp;medium=gen-ai-technical-debt\">KI-generierter Softwarecode<\/a> haben dazu beigetragen, dass die Rechnung in die H\u00f6he schnellt.<\/p>\n\n\n\n<p>Die generative KI ist hier die wichtigste neue Variable in der Gleichung. W\u00e4hrend fr\u00fchere Anwender mit jedem KI-Einsatz neue Risiken und zuk\u00fcnftige Schulden auf sich nehmen, bietet die Technologie eine vielversprechende L\u00f6sung f\u00fcr das Problem. Gartner <a href=\"https:\/\/www.gartner.com\/en\/articles\/gartner-s-top-strategic-predictions-for-2024-and-beyond\" target=\"_blank\" rel=\"noreferrer noopener\">prognostiziert,<\/a> dass mit Hilfe generativer KI bis 2027 Legacy Tools ersetzt und die Modernisierungskosten von Unternehmen um 70 Prozent reduziert werden. Die Herausforderung besteht jedoch darin, dass es nicht f\u00fcr alle Modelle Standards gibt. Um alle Vorteile der generativen KI zu nutzen, m\u00fcssen alle technischen Schulden konsequent angegangen werden \u2013 dieser Schritt ist unumg\u00e4nglich.<\/p>\n\n\n\n<p><strong>Mit Innovation Schulden anh\u00e4ufen<\/strong><\/p>\n\n\n\n<p>Large-Language-Modelle werden in sechs verschiedenen Medien eingesetzt: Text, Softwarecode, Bilder, Audio, Video und 3D\/virtuelle Inhalte \u2013 diese Multimodalit\u00e4t erschwert das Management von unbekannten Risiken. Im Hinblick auf die technischen Schulden bringt generative KI dazu noch eine ganze Reihe neuer Herausforderungen mit sich. Expert:innen zufolge gibt es jedoch M\u00f6glichkeiten, das Problem in den Griff zu kriegen:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Sicherstellen, dass KI-Modelle in Legacy-Systeme integriert werden k\u00f6nnen<\/strong>. Die zwei kritischen Bereiche des Schuldenrisikos sind Data Governance und die Integration von KI-Code in Altsysteme. Unternehmen, die nicht ausreichend in Datenqualit\u00e4t, Integration und Governance investiert haben, werden sp\u00e4ter vor gro\u00dfen Herausforderungen stehen. Als ersten Schritt m\u00fcssen IT-F\u00fchrungskr\u00e4fte sicherstellen, dass ihr KI-Modell gut in die bestehende IT-Landschaft integriert werden kann.<\/li>\n\n\n\n<li><strong>\u201eLLMOps&#8220; einrichten, um Vorg\u00e4nge und Daten zu verwalten<\/strong>. Die Ausarbeitung eines speziellen Governance-Rahmens f\u00fcr Gen-KI-Anwendungen ist eine weitere wichtige Ma\u00dfnahme. IT-F\u00fchrungskr\u00e4fte sollten die Struktur und Strenge, die DevOps- und AIOps-Teams bei konventionelleren Softwareimplementierungen bieten, replizieren und auf die LLM-Arbeit anwenden<\/li>\n\n\n\n<li><strong>API-\u201eWrapper&#8220; verwenden, um Code vor kontinuierlichen LLM-Risiken zu sch\u00fctzen<\/strong>. Wenn CX- oder EX-Entwicklungsteams LLMs einf\u00fchren und implementieren, sind sie anf\u00e4llig f\u00fcr gelegentliche Ausf\u00e4lle und \u00c4nderungen, die \u00fcber Nacht mehr Technologie Schulden anh\u00e4ufen k\u00f6nnen. Interne KI-Entwicklungsteams k\u00f6nnen hier einen API-Wrapper erstellen, der es LLMs erm\u00f6glicht, ihre Ausgaben ohne Verz\u00f6gerungen, Fehler oder externe Risiken abzuschlie\u00dfen. Angesichts des rasanten Wandels m\u00fcssen Unternehmen, die LLMs einf\u00fchren, Wege finden, um Anwendungsentwickler vor den st\u00f6renden Ver\u00e4nderungen zu sch\u00fctzen.<\/li>\n\n\n\n<li><strong>Kritische Risiken bei der Feinabstimmung von Sprachmodellen vermeiden<\/strong>. Es gibt viele offensichtliche Gr\u00fcnde f\u00fcr die Optimierung von LLM-Modellen, wie zum Beispiel eine bessere Qualit\u00e4t, Genauigkeit, Klang und andere Faktoren. Weit weniger offensichtlich sind die schwerwiegenden Risiken, die eine Feinabstimmung oft mit sich bringt. Selbst etwas scheinbar so Harmloses wie das Trainieren eines Modells mit einem f\u00fcr das Unternehmen spezifischen Datensatz kann neue Angriffsm\u00f6glichkeiten bieten. CIOs sollten dies zur Kenntnis nehmen und sich \u00fcber die zu ber\u00fccksichtigenden Auswirkungen im Klaren sein.<\/li>\n<\/ul>\n\n\n\n<p>F\u00fcr IT-F\u00fchrungskr\u00e4fte gilt eine einfache Faustregel: Sie sollten so proaktiv wie m\u00f6glich sein, um neue KI-Risikofaktoren zu identifizieren und zuk\u00fcnftige Schulden zu vermeiden. Gleichzeitig sollten aber vielversprechende Anwendungen erkundet werden, die mit generativer KI verschiedene Formen von technischen Schulden bek\u00e4mpfen. CIOs, die den Balanceakt zwischen KI-Innovation und technischem Schuldenmanagement meistern k\u00f6nnen, haben bessere Chancen, bei dem digitalen Wandel weitere unvorhergesehene Schulden zu vermeiden.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Was die generative K\u00fcnstliche Intelligenz (KI) angeht, so m\u00fcssen CIOs (Chief Information Officers) heutzutage einen schwierigen Balanceakt hinbekommen. Sie streiten sich um das Entwickeln von L\u00f6sungen und Anwendungen, die zukunftssicher sind und die &#8211; vor allem bei der generativen KI &#8211; enorme Renditen versprechen. Gleichzeitig ist es aber so, dass die generative KI, genau wie alle anderen technologischen Innovationen, versteckte Kosten mit sich bringt, die &#8222;Technologie Schulden&#8220;.<\/p>\n","protected":false},"author":81,"featured_media":27169,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[10751,10036],"tags":[3128,4297,16431,5016,18724],"class_list":["post-27167","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-advertorials","category-kuenstliche-intelligenz","tag-cio","tag-code","tag-freshworks","tag-risikomanagement","tag-technologie-schulden"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27167","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/users\/81"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=27167"}],"version-history":[{"count":1,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27167\/revisions"}],"predecessor-version":[{"id":27170,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/posts\/27167\/revisions\/27170"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=\/wp\/v2\/media\/27169"}],"wp:attachment":[{"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=27167"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=27167"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.sysbus.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=27167"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}