{"id":21679,"date":"2022-08-23T11:52:00","date_gmt":"2022-08-23T09:52:00","guid":{"rendered":"https:\/\/www.sysbus.eu\/?p=21679"},"modified":"2022-08-16T10:57:48","modified_gmt":"2022-08-16T08:57:48","slug":"verantwortungsvoller-umgang-mit-kuenstlicher-intelligenz-was-ethik-erklaerbarkeit-und-effizienz-mit-einem-film-aus-den-80ern-zu-tun-haben","status":"publish","type":"post","link":"https:\/\/www.sysbus.eu\/?p=21679","title":{"rendered":"Verantwortungsvoller Umgang mit K\u00fcnstlicher Intelligenz – was Ethik, Erkl\u00e4rbarkeit und Effizienz mit einem Film aus den 80ern zu tun haben"},"content":{"rendered":"\n

Autor\/Redakteur: Dr. Scott Zoldi, Chief Analytics Officer bei FICO<\/a>\/gg<\/p>\n\n\n\n

Dystopische Zukunftsszenarien, in denen K\u00fcnstliche Intelligenz (KI) zur echten Herausforderung f\u00fcr unsere Gesellschaft wird, erschafft Hollywood oft genug. Von einer Terminator-KI, die die Menschheit unterjocht, sind wir jedoch noch weit entfernt. Trotzdem k\u00f6nnen KI und Machine Learning Algorithmen zum Problem werden, wenn sie nicht ethisch entwickelt und eingesetzt werden. Diese Probleme sind meistens nach au\u00dfen hin nicht so spektakul\u00e4r, wie die Hollywood-Varianten. Aber wenn beispielsweise ganze Bev\u00f6lkerungsgruppen aufgrund unethischer KI bei der Kreditvergabe benachteiligt werden, ist das eine Angelegenheit, die dringend aufgekl\u00e4rt und ge\u00e4ndert werden muss. Um solche Situationen von vornherein zu verhindern, muss K\u00fcnstliche Intelligenz sowohl ethisch als auch erkl\u00e4rbar sein.<\/p>\n\n\n\n

\"\"<\/a>
Bild: FICO<\/figcaption><\/figure>\n\n\n\n\n\n\n\n

Ethische KI<\/strong><\/p>\n\n\n\n

Datenwissenschaftler m\u00fcssen nicht nur Modelle erstellen. Sie m\u00fcssen auch sicherstellen, dass diese nicht verzerrt oder unethisch sind. Das ist aber oft leichter gesagt als getan. Denn solche Verzerrungen sind teilweise extrem versteckt und nicht direkt offensichtlich (auch ein Grund daf\u00fcr, dass die Erkl\u00e4rbarkeit von KI so gro\u00dfe Bedeutung hat). Eine der gr\u00f6\u00dften Fehleinsch\u00e4tzungen in diesem Bereich ist, dass Modelle nicht verzerrt sein k\u00f6nnen, wenn beispielsweise Merkmale wie Alter, Geschlecht oder Herkunft gar nicht erst verwendet werden. Das stimmt nicht. Denn es kommt nicht nur auf die Datenelemente selbst an, sondern auch auf die erlernten Beziehungen zwischen den Daten, die das Machine Learning aufdeckt. Solche St\u00f6rvariablen k\u00f6nnen zu unethischer KI f\u00fchren, die Personen diskriminiert. So kann die Handymarke, die eine Person nutzt, beispielsweise R\u00fcckschl\u00fcsse darauf zulassen, ob sich diese Person ein teures Handy leisten konnte oder nicht. Wenn aber Einkommen beziehungsweise Verm\u00f6gen im Modell nicht erlaubt sind, dann ist auch die Information \u00fcber die aktuelle Handymarke der Person nicht zul\u00e4ssig, da sie als Ersatz f\u00fcr das Einkommen mit in das Machine Learning-Modell einflie\u00dfen w\u00fcrde. Um ethische KI zu entwickeln ist es also notwendig, alle Datenklassen aufs Genaueste zu \u00fcberpr\u00fcfen. Datenwissenschaftler, die die erlernten Beziehungen zwischen den Daten nicht auch in ethischer Hinsicht eingehend untersuchen, werden es nie schaffen, Anwendern und gegebenenfalls Regulierungsbeh\u00f6rden aufzuzeigen, dass ihre Modelle unvoreingenommen sind.<\/p>\n\n\n\n

Erkl\u00e4rbare KI<\/strong><\/p>\n\n\n\n

Bei der Erkl\u00e4rbarkeit von KI liegt das Augenmerk darauf, die Entscheidungsfindung und den Einfluss der Modellentscheidungen auf die Kunden und Anwender ehrlich und korrekt aufzuzeigen. \u201eExplainability First, Predictive Power Second\u201c sollte das Mantra der Datenwissenschaftler sein \u2013 der Fokus sollte also auf der Erkl\u00e4rbarkeit liegen und nicht auf der Vorhersagekraft. Dabei sind drei Fragen von essenzieller Bedeutung:<\/p>\n\n\n\n