Verantwortungsvoller Umgang mit Künstlicher Intelligenz – was Ethik, Erklärbarkeit und Effizienz mit einem Film aus den 80ern zu tun haben
Auch die Blockchain kann bei erklärbarer KI hilfreich sein. Damit haben wir bei unserer eigenen Modellentwicklung bei FICO bisher beste Erfahrungen gemacht, da die Blockchain darauf besteht, dass kein Modell freigegeben wird, ohne dass diese Fragen konkret beantwortet werden. In einer Blockchain können nämlich alle Schritte der Entwicklung und des Einsatzes eines KI-Modells hinterlegt werden. Von der Modellentwicklung über den Einsatz bis hin zum Auslauf eines Modells lassen sich hier alle Stationen und Erwägungen als Referenz festhalten und in der Produktion als Bestandteil von ML-Operations, -Observability und -Monitoring verwenden. Egal, ob es um die Erfassung latenter Merkmale, Verzerrungstests oder Infos darüber geht, welche kontinuierlichen Tests in der Produktion durchgeführt werden – hier sind alle Informationen gebündelt. Dies hilft nicht nur bei der Umsetzung von KI-Entwicklungsstandards, sondern gibt auch anderen Personengruppen (wie beispielsweise Regulierungsbehörden) den nötigen Einblick in die Machine Learning Modelle. Nur wer die „Blackbox“ der KI öffnen kann, kann sich sicher sein, ethische KI zu entwickeln.
Das Highlanderprinzip der KI
Was hat nun aber ein Film, in dem es nicht um KI, sondern um einen schottischen Unsterblichen geht, mit der Welt der Entwicklung von KI-Modellen zu tun? „Es kann nur einen geben!“ – das ist die simple Botschaft des Kult-Klassikers Highlander aus den 80ern. Viele Unternehmen stehen vor der Herausforderung, dass ihre Datenwissenschaftler verschiedensten Ansätzen folgen. In der Modellentwicklung müssen wir uns auf die eingesetzten Algorithmen, die zur Isolierung latenter Merkmale verwendeten Tests und die Stabilität der Methoden verlassen können. Es ist also wichtig, verschiedene Blickwinkel, Ansätze und Vorgehensweisen in einem einzigen, unternehmensweiten KI-Standard zu bündeln. Dieser Ansatz sorgt dafür, dass alle Beteiligten immer auf derselben Basis arbeiten und erhöht somit die Ethik und Erklärbarkeit der KI-Modelle – als einziger Modelentwicklungsansatz, der von allen im Unternehmen verwendet wird.
Fazit
Der falsche Einsatz und die unethische Entwicklung von KI können dafür sorgen, dass es zu zahlreichen Problemen, darunter auch zu Diskriminierung durch die Modelle kommt. Es liegt daher an den Datenwissenschaftlern und den Unternehmen, ihre Modelle ordentlich zu entwickeln, einzusetzen und erklären zu können. Das müssen wir uns immer wieder vor Augen führen. Mit Konzepten wie dem Highlander-Prinzip können wir nicht nur die Effizienz und die Zuverlässigkeit unserer Anstrengungen in diesem Bereich verbessern – wir können auch das Vertrauen in Künstliche Intelligenz steigern.
