Verantwortungsvoller Umgang mit Künstlicher Intelligenz – was Ethik, Erklärbarkeit und Effizienz mit einem Film aus den 80ern zu tun haben

Autor/Redakteur: Dr. Scott Zoldi, Chief Analytics Officer bei FICO/gg

Dystopische Zukunftsszenarien, in denen Künstliche Intelligenz (KI) zur echten Herausforderung für unsere Gesellschaft wird, erschafft Hollywood oft genug. Von einer Terminator-KI, die die Menschheit unterjocht, sind wir jedoch noch weit entfernt. Trotzdem können KI und Machine Learning Algorithmen zum Problem werden, wenn sie nicht ethisch entwickelt und eingesetzt werden. Diese Probleme sind meistens nach außen hin nicht so spektakulär, wie die Hollywood-Varianten. Aber wenn beispielsweise ganze Bevölkerungsgruppen aufgrund unethischer KI bei der Kreditvergabe benachteiligt werden, ist das eine Angelegenheit, die dringend aufgeklärt und geändert werden muss. Um solche Situationen von vornherein zu verhindern, muss Künstliche Intelligenz sowohl ethisch als auch erklärbar sein.

Ethische KI

Datenwissenschaftler müssen nicht nur Modelle erstellen. Sie müssen auch sicherstellen, dass diese nicht verzerrt oder unethisch sind. Das ist aber oft leichter gesagt als getan. Denn solche Verzerrungen sind teilweise extrem versteckt und nicht direkt offensichtlich (auch ein Grund dafür, dass die Erklärbarkeit von KI so große Bedeutung hat). Eine der größten Fehleinschätzungen in diesem Bereich ist, dass Modelle nicht verzerrt sein können, wenn beispielsweise Merkmale wie Alter, Geschlecht oder Herkunft gar nicht erst verwendet werden. Das stimmt nicht. Denn es kommt nicht nur auf die Datenelemente selbst an, sondern auch auf die erlernten Beziehungen zwischen den Daten, die das Machine Learning aufdeckt. Solche Störvariablen können zu unethischer KI führen, die Personen diskriminiert. So kann die Handymarke, die eine Person nutzt, beispielsweise Rückschlüsse darauf zulassen, ob sich diese Person ein teures Handy leisten konnte oder nicht. Wenn aber Einkommen beziehungsweise Vermögen im Modell nicht erlaubt sind, dann ist auch die Information über die aktuelle Handymarke der Person nicht zulässig, da sie als Ersatz für das Einkommen mit in das Machine Learning-Modell einfließen würde. Um ethische KI zu entwickeln ist es also notwendig, alle Datenklassen aufs Genaueste zu überprüfen. Datenwissenschaftler, die die erlernten Beziehungen zwischen den Daten nicht auch in ethischer Hinsicht eingehend untersuchen, werden es nie schaffen, Anwendern und gegebenenfalls Regulierungsbehörden aufzuzeigen, dass ihre Modelle unvoreingenommen sind.

Erklärbare KI

Bei der Erklärbarkeit von KI liegt das Augenmerk darauf, die Entscheidungsfindung und den Einfluss der Modellentscheidungen auf die Kunden und Anwender ehrlich und korrekt aufzuzeigen. „Explainability First, Predictive Power Second“ sollte das Mantra der Datenwissenschaftler sein – der Fokus sollte also auf der Erklärbarkeit liegen und nicht auf der Vorhersagekraft. Dabei sind drei Fragen von essenzieller Bedeutung:

• Verstehen Sie die latenten Merkmale, die das Ergebnis Ihres Modells beeinflussen?
• Was sind die Risiken bei der Nutzung des Modells auf der Basis der erlernten Beziehungen?
• In welchen Situationen reagiert das Modell besonders empfindlich auf unterschiedliche Beziehungen oder erweist sich sogar als unbrauchbar?

Vor allem die letzte Frage ist im Bereich der sogenannten demütigen KI („Humble AI“) relevant. Denn die meisten Modelle versagen unter bestimmten Voraussetzungen. Nur wenn wir wissen, in welchen Situationen dies der Fall ist, können wir uns aktiv dafür entscheiden, das Modell in diesen Momenten nicht einzusetzen und stattdessen ein anderes Modell zu verwenden, das für die jeweiligen Bedingungen besser geeignet ist.