KI-Ethiker — der Topjob, der Unternehmen 2019 zum Erfolg führt?
Zu Beginn des Jahres publizierte KPMG eine Liste mit den Top 5 Jobprofilen im Bereich der Künstlichen Intelligenz (KI), die Unternehmen besetzen müssen, um 2019 erfolgreich zu sein. Darunter rangierte die Rolle des “KI-Ethikers”. KPMG hielt fest (frei übersetzt aus dem Englischen):
“Die ethischen und sozialen Implikationen von KI breiten sich aus und stellen Unternehmen vor die Herausforderung, neue Stellen zu schaffen, welche die kritische Verantwortung dafür tragen, KI-Frameworks zu etablieren, die dafür sorgen, dass Unternehmensstandards und Ethikkodizes eingehalten werden. Anfangs konnten diese Rollen durch bestehende Führungskräfte ausgefüllt werden, aber je stärker die Effekte von KI Form annehmen, desto mehr bietet es sich an, eine bestimmte Person zu engagieren, welche die Verantwortung dafür trägt, dass diese Richtlinien eingehalten werden.»
Das sind gute Nachrichten für eine ‘alte Unternehmensethikerin’ wie mich. Solche Listen unterstreichen meine Existenzberechtigung zweifelsohne. Als ich jedoch einen Tweet zu dieser Liste von KPMG veröffentlichte, zeigten die Reaktionen, dass nicht alle meine Meinung teilen. Es gibt offensichtlich kein gemeinsames Verständnis darüber, ob wir überhaupt «KI-EthikerInnen» brauchen, und ob die Schaffung von solchen Jobprofilen nicht unweigerlich zu einem Trend beiträgt, der als «machinewashing» bezeichnet wird. Ich werde diese Bedenken im Folgenden thematisieren.
1. Brauchen wir spezifische KI-EthikerInnen?
Nicht alle bejahen diese Frage. So hielt ein Follower fest:
Frei auf deutsch übersetzt:
“KI stellt definitiv eine Reihe an Herausforderungen an Technologie, Unternehmen und Ethik. Neue Rollen wie diejenige eines “KI-Ethikers” zu definieren erweist dem Feld der «KI-Ethik» aber einen Bärendienst. Was wir brauchen, ist die Umsetzung der ethischen und gesellschaftlichen Aspekte als Teil der Geschäftsstrategie.”
Ist das wahr? Soll Ethik nur als eine unter vielen gleichermassen wesentlichen Dimensionen fungieren (wie z.B. Finanzen, Marketing, Personalwesen, Technologie oder Recht), welche eine Geschäftsstrategie prägen? Ich lehne diese Ansicht ab. Die Rolle und die Arbeit von KI-Ethikerinnen und -Ethikern müssen sichtbar sein. Ethik wird oft als ‘abstrakt’, ‘theoretisch’ und ‘unbrauchbar’ wahrgenommen. Wenn wir Ethik im Bereich KI glaubwürdig gestalten wollen, müssen wir sie greifbar machen. Unternehmen müssen in der Lage sein, die spezifischen ethischen Überlegungen in ihrem Business darzulegen.
Eines der ethischen Hauptanliegen im Bereich KI ist der Mangel an Transparenz und Verantwortlichkeit (accountability) von Algorithmen. Algorithmen werden typischerweise als Black Boxes wahrgenommen — und zwar von denjenigen, die von ihren Entscheiden betroffen sind als auch teilweise von den DatenwissenschaftlerInnen, die sie programmieren. Es wäre deshalb ein besonderer Bärendienst für Ethik im Bereich KI, wenn ethische Erwägungen in einer riesigen übergeordneten Black Box versteckt würden, wo finanzielle, technologische, rechtliche und Marketing-Überlegungen zusammen vermischt werden. Dies würde die Glaubwürdigkeit des im Entstehen begriffenen Gebiets der KI-Ethik unweigerlich untergraben, da dieses ja im Kern damit beauftragt ist, Transparenz in bisher intransparente Angelegenheiten zu bringen.
Selbstverständlich besteht immer eine Wahl, ob Themen als ‘moralisch’ ‘eingerahmt’ (englisch: to frame) werden oder nicht. Diversität kann als wirtschaftliches Thema geframet werden oder als moralisches; Accountability kann ein rechtliches Anliegen sein oder ein moralisches; Accessibility kann ein technologischer Begriff sein oder ein moralischer. Und jedes dieser Beispiele kann beides gleichzeitig sein. Wichtig ist, dass wir uns bewusst sind, dass das ‘Framing’ einen Einfluss auf unsere Wahrnehmung ausübt:
Die Verwendung von moralischen Begriffen löst Reflexion aus, während die Vermeidung von moralischer Sprache zu ‘moralischer Stummheit’ führt.
Der Gebrauch von moralischen Begriffen (positive Begriffe wie Gerechtigkeit oder Integrität, oder negative Begriffe wie Lügen oder Betrug) lösen moralisches Nachdenken aus, da die Begriffe mit bestehenden kognitiven Kategorien verknüpft sind, die einen moralischen Gehalt haben. Moralisches Vokabular wird jedoch oft vermieden, und zwar aus Angst vor Konfrontation (moralische Begriffe können Konfrontation auslösen), aus Effizienzüberlegungen (moralische Begriffe können Themen scheinbar vernebeln) und aus dem Bestreben, sich an ein Image von Macht und Effektivität zu klammern — es besteht die Angst, als idealistisch oder utopisch rüberzukommen, wenn man moralische Begriffe verwendet.
Um glaubwürdig und effektiv zu sein, müssen ethische Überlegungen offensichtlich gemacht werden, und sie müssen gesondert hervorgehoben werden von rein geschäftsstrategischen Überlegungen.
Natürlich fallen in vielen Fällen (oder: idealerweise) ethische und geschäftsstrategische Überlegungen zusammen, das heisst, sie führen zum selben Resultat. Besonders populär unter Unternehmen und PR-ExpertInnen sind so genannte ‘win-win’-Situationen, in welchen sich Ethik für ein Unternehmen direkt auszahlt. Wenn dies der Fall ist, sollte dies offengelegt werden. Ethische Erwägungen werden nicht abgewertet, wenn sie dazu beitragen, den Gewinn zu steigern. (Während meiner Zeit in der Wissenschaft fiel mir auf, dass gewisse Menschen dazu tendierten, ethische Aspekte nur dann als solche anzuerkennen, wenn sie von Unternehmen einen konkreten Verzicht verlangen).
Es ist ok zuzugeben, dass Ethik in gewissen Fällen gewinnsteigernd wirkt. Aber es ist nicht ok, Ethik auf diejenigen Fälle zu beschränken, wo dies der Fall ist.
Das heisst: es muss anerkannt werden, dass keineswegs in jedem Fall eine ‘win-win’-Beziehung zwischen Ethik und Profit besteht, oder noch besser, es muss klar sein, dass eine win-win-Beziehung nicht die Bedingung sein darf, um Ethik ernst zu nehmen.
Der Lackmustest für Ethik erfolgt dann, wenn ein Unternehmen sich weigert, etwas zu tun, obwohl es legal ist und geschäftsstrategisch Sinn macht. Unbestrittene Fälle von solchem Verhalten sind aber in der Realität schwer nachzuweisen. Jedes Mal, wenn ein Unternehmen behauptet, dass sein Geschäftsgebaren auf ethischer Verantwortung beruhe, werden KritikerInnen Wege finden, um zu argumentieren, dass die zugrundeliegende Motivation letztlich rein strategischer Natur ist. Diese Frage zu bearbeiten, sprengt den Rahmen dieses Artikels — sie verweist auf die uralte Frage, ob ‘wahrer Altruismus’ existiert — aber sie führt uns gleichzeitig zu meinem nächsten Punkt, nämlich: werden KI-EthikerInnen unweigerlich von Unternehmen als Feigenblätter instrumentalisiert, um ihr Business voranzutreiben?
2. Sind KI-Ethiker und -Ethikerinnen nur Teil eines “machinewashing”-Progamms?
Dieses Bedenken griff die zweite Reaktion auf meinen Tweet auf, welche vor einem so genannten ‘machinewashing’ im Kontext von KI-Ethik warnte:
Frei auf deutsch übersetzt:
«ein besorgniserregender Trend betrifft das Einstellen von Ethikern, Soziologen etc. als reine Checkbox/PR/CSR-Übungen. #Machinewashing ist ein Modewort, das es im Auge zu behalten gilt».
Eine solche Reaktion überrascht nicht. Jeder Versuch, Ethik in einem wirtschaftlichen Kontext zu etablieren, wird immer unweigerlich mit «x-washing»-Vorwürfen konfrontiert von ganz verschiedenen Stakeholdern. Eine Suche nach dem Begriff «greenwashing» auf meiner Festplatte, die voll ist mit Artikel und Dokumenten zu Unternehmensethik, ergibt satte 467 Treffer.
Gemäss dem Blog der Oxford Dictionaries kritisiert das Suffix «-wash» typischerweise die irreführende Aneignung von populären Anliegen oder Trends durch Unternehmen, um ihr öffentliches Image zu stärken oder um von den daraus resultierenden positiven Assoziationen zu profitieren. Die «Waschungen» kommen in ganz verschiedenen Farben daher. Es ist deshalb nur logisch, dass auch die KI nun mit einem eigenen Waschprogramm versehen wird, das treffend eben als «machinewashing» bezeichnet wird.
Der Boston Globe versteht unter “machinewashing” die Bemühungen der Tech-Giganten, uns von ihren guten Absichten im Zusammenhang mit KI zu überzeugen, wobei einige ihrer PR-Kampagnen angeblich eine oberflächliche Illusion eines positiven Wandels erzeugen, ohne dass dieser in der Realität verifizierbar wäre.
Wie aber wird die Anstellung eines KI-Ethikers ode reiner KI-Ethikerin zu einer «machinewashing»-Übung? Und wie kann dies vermieden werden? Jeder Ethiker und jede Ethikerin, die von einem Unternehmen angestellt werden, stossen auf Skepsis.
Wir können niemals absolute Unabhängigkeit erwarten von jemandem, der auf der Lohnliste eines Unternehmens steht. Aber ist das ein Grund für Unternehmen, keine EthikerInnen anzustellen? Wenn sie EthikerInnen einstellen, werden sie der PR bezichtigt; wenn sie es nicht tun, wird ihnen vorgeworfen, das Problem zu ignorieren.
Meiner Meinung nach muss KI-Ethik intern in einem Unternehmen beginnen, welches eine moralische Sprache verwendet (s. o.), welches seine Werte reflektiert, und welches den ethischen Impact seiner Produkte, Algorithmen etc. antizipiert und überwacht. Eine interne KI-Ethikerin benötigt ein maximales Mass an Vertrauen und Freiheit, um alle Prozesse zu analysieren und alle Mitarbeitenden (bis und mit Führungsetage) herauszufordern — vergleichbar mit der (zugegebenermassen kurzlebigen) Rolle von Paul Birch, der in den 1990er Jahren bei British Airways als «Unternehmensnarr» agierte und der in dieser Rolle Autorität in Frage stellte, Ehrlichkeit förderte und Probleme auf eine kreative Art und Weise löste — aber mit einem seriöseren Touch und einem spezifischen Fokus auf Ethik. Eine KI-Ethikerin stellt sicher, dass ethische Aspekte identifiziert in der übergeordneten Unternehmensstrategie und in den täglichen Abläufen werden, und sie beschränkt ihre Argumente nicht auf diejenigen Fälle, wo sie zur Gewinnsteigerung verhelfen.
Das ist zweifelsohne eine ziemliche breite Job-Beschreibung, die sicherlich noch verfeinert werden muss, um praktikabel zu werden. Eine KI-Ethikerin kann ihr Potenzial auch nur dann gänzlich entfalten, wenn sich das Unternehmen mit verschiedenen Anspruchsgruppen zum Thema «KI-Ethik» auseinandersetzt (z.B. Mitarbeitende, NGOs, Regulatoren, Wissenschaft, Medien, Aktionäre etc.). Meine Absicht hier ist es darzulegen, dass sich KI-Unternehmen nicht von a priori Vorwürfen bezüglich ‘machinewashing’ davon abhalten lassen sollten, KI-EthikerInnen überhaupt einzustellen.
Stattdessen gilt es für KI-Unternehmen, die Herausforderung anzunehmen und zu zeigen, dass Ethik bei ihnen nicht nur einen Begriff, sondern eine ernstzunehmende Funktion darstellt.
Abschliessend kann festgehalten werden, dass KPMG ein sehr relevantes aber auch sehr anspruchsvolles Jobprofil identifiziert hat in ihrer Liste der «Top 5 Jobprofile, die KI-Unternehmen brauchen, um erfolgreich zu sein». Um diesen Erwartungen gerecht zu werden, ist es zentral, dass KI-EthikerInnen zu sichtbaren RepräsentantInnen von Unternehmen mit einem greifbaren Impact werden. Alles andere, wie beispielsweise sich einfach in der Menge der Standard-Fachleute in Unternehmen zu verstecken und ihren ganz spezifischen Fokus zu vernebeln, indem sie auf moralische Begriffe verzichten, spielt nur denjenigen in die Hände, die automatisch «machinewashing» wittern, sobald ein Unternehmen den Begriff Ethik benutzt.
