#digi: Wässrige Ethik für Algorithmen

Nr. 16 –

Immer mehr Entscheidungen werden durch Algorithmen gefällt. Es gibt die automatisierte Kreditprüfung oder algorithmische Krebsdiagnosen. Dabei ist die Funktionsweise oft intransparent, und die Ergebnisse sind für die Öffentlichkeit wenig nachvollziehbar. Deshalb muss künstliche Intelligenz – oder automatisierte Entscheidungsfindung (ADM) – ethischer werden.

Mit der am 8.  April veröffentlichten «Ethischen Richtlinie für Künstliche Intelligenz» will die EU eine Pionierrolle übernehmen. Ein 52-köpfiges ExpertInnengremium legte Kriterien fest, die definieren, wann ein ADM-Programm «vertrauenswürdig» ist. Nun geht das Resultat in die Vernehmlassung. Gemäss der Richtlinie sollen algorithmische Entscheidungen geltende Gesetze und Regulierungen respektieren und vor allem auch «ethische Prinzipien und Werte» berücksichtigen. Das bedeutet, dass EntwicklerInnen diese auf «Diversität, Nichtdiskriminierung und Fairness» trimmen müssen. Auch sollen Menschen darauf aufmerksam gemacht werden, wenn sie mit einem ADM-System interagieren.

Diese Standards gehen einigen nicht weit genug. Der Philosoph Thomas Metzinger, selbst Mitglied des Gremiums, bemängelt im «Tagesspiegel» sowohl die Entstehung als auch den Inhalt der Richtlinie. Sie sei «lauwarm, kurzsichtig und vorsätzlich vage». Als einer von bloss vier EthikerInnen des Gremiums befürchtet er, dass sie zu einem weiteren «ethischen Weisswaschen» führe – wie etwa beim von Facebook gesponserten Ethikinstitut der Technischen Universität München (siehe WOZ Nr. 6/2019 ). Die Industrie kultiviere die Debatte, um sich Zeit zu kaufen und davon abzulenken, dass man eine wirksame Regulierung unterbinden oder zumindest verschleppen wolle.

Das zeigt sich für Metzinger daran, dass das Gremium keine «roten Linien» für den Einsatz künstlicher Intelligenz definiert hat – obwohl es ursprünglich den Auftrag dazu hatte. Doch die WirtschaftsvertreterInnen setzten durch, dass das Gremium selbst bei autonomen Waffen nur «kritische Bedenken» äusserte. Mit dieser Formulierung wird es schwierig, Regulierungen durchzusetzen. Dennoch hält Metzinger die Richtlinie für das Beste, was es derzeit gibt. Die Zivilgesellschaft darf die weitere Debatte aber auf keinen Fall der Industrie überlassen.