Alles redet von künstlicher Intelligenz (KI). Doch der Begriff ist falsch und irreführend, man sollte ihn nicht verwenden. Das postuliert die deutsche Organisation AlgorithmWatch in ihrem «Atlas der Automatisierung», den sie diese Woche publiziert hat. Ein phänomenales Werk – und eine Art Navigationshilfe durch die Welt der «automatisierten Entscheidungsfindung». AlgorithmWatch verwendet konsequent nur diesen Begriff oder das Kürzel ADM (automated decision-making), weil «künstliche Intelligenz» falsche Assoziationen bedient.

Es geht ja darum, dass Behörden oder die Privatwirtschaft immer mehr Entscheidungen, die Menschen betreffen, an Computer delegieren. In diesen Programmen stecken das Wissen und die Vorurteile der ProgrammiererInnen – die Software kann komplex sein, intelligent ist sie deswegen noch lange nicht. Der Atlas versucht nun, in gesellschaftlich relevanten Bereichen wie Arbeit, Gesundheit oder Sicherheit einen Überblick zu geben, welche ADM-Programme schon im Einsatz sind und welche Auswirkungen sie haben können.

Firmen setzen etwa in Bewerbungsverfahren immer mehr ADM ein. Das kann positiv sein, weil so der «Auswahlprozess entlang klarer Kriterien verläuft und für die Stellenbesetzung irrelevante Sympathien oder Abneigungen der PersonalmanagerInnen aussen vor bleiben», wie die AutorInnen schreiben. Sie schildern aber auch, wie das daneben gehen kann: Amazon wollte ein Programm entwickeln, das noch differenzierter auswählen kann, und begann 2014 damit, ein entsprechendes Tool zu entwickeln. «Die Daten, mit denen der Algorithmus trainiert worden war, basierten auf den letzten zehn Jahren der firmeneigenen Einstellungspraxis. Amazon rekrutierte hauptsächlich Männer im technologischen Bereich. Die Software schloss daraus, dass Männer bei der Stellenvergabe zu bevorzugen wären.» Der Techgigant hat das Tool zum Glück mittlerweile eingestampft.

Der Atlas stellt eine Reihe von Forderungen, um zu verhindern, dass ADM-Programme über unser Leben entscheiden: Folgen abschätzen, Nachvollziehbarkeit sicherstellen und Aufsicht gewährleisten. Die Gesellschaft ist automatisierten Entscheiden nicht einfach ausgeliefert, aber man muss sich endlich politisch um diesen sensiblen und immer wichtiger werdenden Bereich kümmern.