Worum geht es?

In diesem Interview spricht die Emmy-prämierte Journalistin und Autorin Hilke Schellmann über die Herausforderungen und Risiken, die Künstliche Intelligenz (KI) im Recruiting-Prozess mit sich bringen kann. Bild-basierte Software wie HireVue wird bereits in Branchen wie dem Einzelhandel genutzt, um den ersten Screening-Prozess von Bewerbungen zu automatisieren. Jedoch stellt Schellmann fest, dass KI oft nur die Daten und Biases reproduziert, die in den Lebensläufen und Bewerbungen stecken. Sie verwendet das Beispiel eines KI-Systems, das Bewerberinnen und Bewerber, die in ihrem Lebenslauf das Wort „Baseball“ erwähnten, höher bewertete als diejenigen, die „Softball“ als Sport angegeben hatten, was in den USA eine klare Geschlechterdiskriminierung darstellt.

Schellmann stellt außerdem infrage, wie genau und fair die KI-basierten Bewertungssysteme wirklich sind. Als sie eine Software testete, die Englischkenntnisse bewertet, erhielt sie trotz Beantwortung aller Fragen auf Deutsch eine Punktzahl von 6 von 9 sowie die Bemerkung, dass ihr Englisch kompetent sei. Sie warnt davor, dass solche Systeme nicht wie versprochen funktionieren und sogar ein Risiko darstellen könnten.

Schließlich betont Schellmann, dass Unternehmen die Technologie mit Vorsicht und Kritikfreudigkeit einsetzen sollten. Sie sollten sich die Frage stellen, ob KI tatsächlich die Lösung für ihr spezifisches Problem darstellt und wie die Ergebnisse interpretiert werden sollten. Zudem müssen Unternehmen die Hersteller der Software genau befragen und Daten wie eine Genauigkeit von 80% oder Details zum Funktionieren des Algorithmus hinterfragen.

Zusammenfassung

• KI wird bereits in einigen Branchen zur Automatisierung des Bewerbungsprozesses eingesetzt, birgt jedoch Risiken durch Diskriminierung und mangelnde Transparenz.
• Beispieltests an KI-Systemen zeigen, dass sie nicht so funktionieren, wie von den Herstellern versprochen und deshalb ein erhebliches Risiko darstellen können.
• Unternehmen müssen die KI-Technologie mit Vorsicht einsetzen und die Hersteller genau befragen, wie die Ergebnisse zustande kommen und wie sie korrekt interpretiert werden sollten.

Was Vertriebsprofis wissen sollten

Verkaufs- und Vertriebsexperten, die über den Einsatz von KI im Rekrutierungsprozess nachdenken, sollten die Risiken und Herausforderungen kennen, die diese Technologie mit sich bringt. Während KI eine effiziente und schnelle Möglichkeit zur Bewerbungsprüfung bieten kann, ist Vorsicht geboten. Die KI könnte vorhandene Biases verstärken und eine Geschlechter- oder Altersdiskriminierung fördern. Zudem ist die Transparenz und Genauigkeit der von der KI erstellten Rankings oft unklar, was sowohl für die Unternehmen selbst als auch für die Bewerber problematisch sein kann. Daher sollten Unternehmen kritisch prüfen, ob KI tatsächlich die passende Lösung für ihr spezifisches Problem ist und genauere Informationen über den Funktionsmechanismus des KI-Systems sowie die Interpretation der Ergebnisse einholen.

Diese Zusammenfassung basiert auf dem Beitrag Das kann alles schiefgehen, wenn KI Bewerber bewertet
Quelle: impulse