Schon lange vor dem Chat GPT Hype haben Algorithmen großen Einfluss auf das menschliche Leben gehabt und unseren Alltag durchdrungen.
Algorithmen und KI nehmen dem Menschen viel Arbeit ab, das ist klar und kann ein Segen sein.
Sie durchdringen unser Leben, sie beeinflussen welche Videos wir sehen, welche Musik wir hören und haben wahrscheinlich auch deinen Weg zu diesem Artikel beeinflusst – sie beeinflussen auch die Art und Weise, wie wir schreiben und somit formen sie unser Denken.
Kurzes Beispiel gefällig? SEO sagt: Zuviele Passiv-Sätze in diesem Artikel. Ich ändere das. SEO sagt: Die Sätze sind zu lang. Ich ändere das. Ein Programm gibt mir einen Smiley. Ich speichere. Algorithmen beeinflussen mich. Meine Art zu formulieren ändert sich.
Hier wollen wir uns über KI Recruiting und Ethik Gedanken machen.
Was müssen wir beachten, wenn wir immer mehr Entscheidungen im Recruiting, die andere Menschen betreffen an KI auslagern?
Wir starten gleich mit einem Bombenzitat:
„In naher Zukunft wird KI das Rückgrat jedes Teams sein.” Zitat eines Beraters für Künstliche Intelligenz, dessen Name keine Rolle spielt
Was löst dieses Zitat bei dir aus?
Wahrscheinlich wird in der ganzen KI-Debatte so etwas schnell überlesen oder sich nicht viel bei solchen Sätzen gedacht.
Ich finde, ein grusligeres Zitat für den Einstieg in das Thema KI Ethik im Recruiting war nicht zu finden.
Abgesehen davon, dass dieses Zitat einfach von jemanden ist, der mit Beratung zum Thema KI Geld verdienen möchte, ist es auch einfach vom Wortbild her – nun ja – unglücklich…
Mensch - Maschine
Jeder MENSCH hat eine Wirbelsäule, ein Rückgrat.
Genau darin steckt auch die symbolische Bedeutung des Begriffs: ‚Rückgrat haben‘ bedeutet eine aufrechte Haltung einnehmen und zu seinen Prinzipien stehen.
Eine Person, die Rückgrat beweist, bleibt standhaft und aufrichtig, sie oder er steht zu seiner Meinung. Genau das kann KI nicht.
Wenn man KI in einer solch zentralen Weise (im Recruiting) einsetzen würde, dann wäre das falsch und würde gerade davon zeugen, dass der Mensch, der die KI einsetzt, kein Rückgrat hat.
KI ist ein Werkzeug – ich möchte in keinem Team arbeiten, dass ein Werkzeug als sein ‚Rückgrat‘ bezeichnet. Würde ein Dachdecker sagen, dass Rückgrat meines Teams ist der Hammer?
KI ist ein Werkzeug
KI bleibt ein Werkzeug - ein essentielles tool, ohne das in Zukunft in vielen Branchen nicht viel gehen wird, aber genau darum ist dieses Werkzeug im Bereich Personal mit Vorsicht zu genießen.
Bevor Auswahl- und Bewertungsprozesse im Recruiting in maschinelle Verantwortung gegeben werden, sollten wir über die ethischen Grenzen und Bedingungen sprechen.
Dafür gibt es in Deutschland Expert:innen.
Im deutschen Ethikrat sitzen Menschen, die nicht mit KI Kohle machen oder die Stop-Taste drücken wollen, um einen technischen Vorsprung einzuholen wie Elon Musk.
Sie sind dabei sicher auch nicht so öffentlichkeitswirksam wie Yuval Harari.
Der Ethikrat bemüht sich gelassen, professionell und angenehm-bieder seinen Beitrag zum Thema zu bringen und kann dabei auf eine fast vierzigjährige Geschichte aufbauen.
Die guten und grundlegenden Gedanken, die sich diese Menschen machen, werden hier und da allerdings schon von der Wirtschaft überholt.
Die Absage kommt von Vera oder Matilda
Firmen wie Ikea oder Pepsi benutzen ein Programm mit dem süßen Namen „Vera“ zur Bewerber:innenauswahl im KI Recruiting.
„Vera“ sucht angeblich Kandidat:innen auf Jobportalen, führt Video- und Telefoninterviews oder beantwortet eigenständig Fragen.
Mit jedem Interview ‚lernt‘ Vera dazu. Sie siebt irrelevante Bewerbende aus und übergibt die bevorzugten Talente an die leiblichen Menschen im Recruiting.
Ein anderes Beispiel ist „Matilda“, die von der Uni Melbourne entwickelt wurde. Dieses Programm kann ca. halbstündige Bewerbungsgespräche im Bereich Sales führen; dabei reagiert die Maschine auch ‚empathisch‘ auf Gesichtsausdrücke und Emotionen der Kandidat:innen.
In Deutschland werden Vera oder Matilda noch nicht flächendeckend genutzt, aber in den USA und in Teilen Asiens sind diese Systeme zumindest im Erstkontakt wohl in Benutzung.
Was fällt dabei auf? Auch hier wird Rückgratloses mit einer Wirbelsäule versehen.
Systeme werden durch Frauen-Namen ver-menschlicht, das Fachwort dafür ist Anthromorphisierung – Grüße gehen raus an Siri du Alexa.
Würde eine Dachdeckerin ihren Hammer einen menschlichen Namen geben? Wir fänden diese Handwerkerin zumindest etwas schräg….
Höchstwahrscheinlich wissen aber diejenigen, die Vera oder Matilda nutzen gar nicht genau wie sie funktionieren.
Nach welchen Kriterien lernen sie maschinell und wie beeinflusst das später die Bewerber:innenwahl im KI Recruiting?
Genau solche blackboxes sind eine Gefahr durch KI im Recruiting. Dabei ist es egal ob der Name des Programms Vera, Matilda oder R2D2 ist.
Welche Vor- und Nachteile hat KI im Recruiting
Die Vorteile von KI werden natürlich darin gesehen, dass quantitativ geballert werden kann was das Zeug hält.
Maschinell können rund um die Uhr und ohne Sprachbarriere Menschen angeschrieben, Stellenanzeigen getackert und „Auswahlgespräche“ geführt werden – ein feuchter Traum von quantitativ arbeitenden Personaler:innen geht in Erfüllung.
Dabei werden Entscheidungen, die Menschen (mit Rückgrat) treffen sollten ausgelagert an Programme.
Dabei werden wahrscheinlich auch gefragte IT-Expert:innen totgenervt, wenn die drölfte Vera anruft und quatschen will.
Auf der Plus-Seite führen manche Menschen auch an, dass die KI objektiv und neutral handeln würde. Dadurch würde weniger Diskriminierung stattfinden.
Das ist ein Irrglaube, wie in der tollen Dokumentation Coded Bias zu sehen ist.
KI ist genauso rassistisch wie die Menschen, die sie bauen, anleiten und füttern.
Auf diese Art und Weise Verantwortung für menschliche Entscheidungen abzugeben ist naiv – eine KI kann vielleicht mithelfen unconscious biases zu erkennen, aber geschult muss der Mensch sein, der eine Auswahl trifft oder die KI programmiert und füttert.
Als Nachteile von KI im Recruiting werden ins Feld geführt, dass Varianz und Vielfalt verlorengehen würden und dass KI ein Risiko für den Datenschutz darstelle.
Im mangelnden Datenschutz ist tatsächlich eine Gefahr zu sehen. Eine Gefahr, die bereits durch die Datenkrake Meta und deren Algorithmen weit verbreitet ist.
Der Punkt „Weniger Varianz und Vielfalt durch KI“ kann nicht so einfach gelten, denn gut eingesetzte KI im Recruiting könnte auch gerade für Vielfalt sorgen.
Ehrliches Feedback im KI Recruiting
Als weiterer negativer Punkt wird die fehlende Zwischenmenschlichkeit angeführt.
Vielleicht wird es ja in vielen Bereichen dazu kommen, dass Menschen lieber mit professioneller und immer erreichbarer KI Umgang haben, als mit schlecht gelaunten und wortkargen Menschen, die eh nicht ans Telefon gehen?
Vielleicht gibt ja die KI sogar ehrliches Feedback?
Wir stellen uns das in etwa so vor:
Hallo XY,
wir müssen dir leider eine Absage erteilen, obwohl du echt voll nett bist.
Deine Note war leider um 0,1 zu schlecht für die nächste Stufe. Außerdem hast du drei Kinder, was das Risiko für kinderkrank um 33,3% erhöht – daher bist du raus, aber echt klasse dass du dich so fleißig reproduzierst.
Aus deinen Meta-Daten kann ich außerdem herausfiltern, dass deine Eltern alt sind.
Das Risiko, dass du deine Eltern mal pflegen wirst und dafür in Teilzeit gehen möchtest ist hoch, aber auch hier möchte ich dich bestärken: Go for it!
Zuletzt ist dein Cholesterin bedenklich hoch, wie der Quercheck deiner Gesundheitsdaten zeigt… aber das kannst du vielleicht ändern!
Viel Erfolg bei deinen weiteren Bewerbungen – wenn du dich bei Firmen bewirbst, die ebenfalls mich einsetzen, dann spar dir die Mühe und bewirb dich bitte nicht nochmal!
Beste Grüße
Deine Vera
P.S.: Lass uns auf LinkedIn connecten..?
Ok jetzt mal Schluss mit der Polemik. Wir Menschen werden es sicher schaffen, den Einsatz vom KI im Recruiting mit Verantwortung zu gestalten.
Das mit der Verantwortung im Klima und mit dem Tierwohl klappt doch auch super.
Diese Grenzen sieht der deutsche Ethikrat für das KI Recruiting
Es gibt verschiedene Vorschläge aus der Stellungnahme der AG Mensch und Maschine des deutschen Ethikrates, welche sich auf das Recruiting übertragen lassen.
Es geht dabei stets um Entscheidungen, die an Maschinen delegiert werden und die andere Menschen beeinflussen.
Das übergreifende Ergebnis der Analyse des deutschen Ethikrates lautet:
„Der Einsatz von KI – die Delegation an die Maschine – muss menschliche Entfaltung, Autorschaft, Handlungsmöglichkeiten erweitern und darf sie nicht vermindern. In diesem Sinne kann und darf KI den Menschen nicht ersetzen“ Prof. Dr. Alena Buyx.
Das klingt für uns nach äußerst eingeschränkten Einsatz im Recruiting.
Kann es eine starke eigenständige maschinelle Intelligenz geben, die der menschlichen Intelligenz gleichkommt?
Können Maschinen im vollen Sinne intentional handeln und damit moralischen Verantwortung übernommen?
Diese beiden Fragen beantwortet der deutsche Ethikrat abgekürzt mit einem klaren: Nein!
Wenn man die Ausführungen zur öffentlichen Verwaltung des deutschen Ethikrates vorsichtig auf das Recruiting überträgt, dann sind folgende Punkte wesentlich:
- Es müssen Maßnahmen getroffen werden, die vor Diskriminierung schützen und dem blinden Befolgen maschineller Empfehlung vorbeugen
- Einzelfallbetrachtungen sowie Einsicht- und Einspruchsrechte von Betroffenen müssen gewährleistet sein
- KI soll zur Entscheidungsunterstützung und nicht zur Entscheidungsersetzung verwendet werden
- Verzerrungen, Missbrauch und Abhängigkeit von Technik soll vermieden werden
- Die Entscheidungsgrundlagen der KI sollen offenliegen und es muss eine menschliche Kontrolloption geben
- Die Interessen der Menschen, von denen die Daten stammen, sollen im Mittelpunkt stehen und übermäßige Eingriffe in die Privatsphäre sollen verhindert werden.
Mit diesen Einschränkungen kann KI verantwortungsvoll im Recruiting genutzt werden.
Klingt für uns eher nach mit Vorsicht zu benutzenden Hilfsmittel, welches dem Menschen dienen soll und weniger nach Rückgrat – es bleibt zu hoffen, dass sich ein verantwortungsvoller Umgang mit KI im Recruiting etabliert und nicht von gewinnorientierten Firmen Maßstäbe gesetzt werden, die den Zukunftsdiskurs prägen.
Bis dahin gilt für KI im Recruiting das Zitat des Wissenschaftlers John Kleinberg:
“Eines Tages werden wir uns vielleicht über eine allmächtige maschinelle Intelligenz Sorgen machen müssen.
Aber zuerst müssen wir uns Sorgen darüber machen, Maschinen die Verantwortung für Entscheidungen zu übertragen, für die ihnen die Intelligenz fehlt.”
