Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl

Algorithmische Systeme in der Personalauswahl sollen eine möglichst effiziente, sichere und vorurteilsfreie Auswahl geeigneter Bewerber*innen ermöglichen. Entsprechende Softwareprodukte kommen auch in Deutschland zunehmend auf den Markt. Die Praxis zeigt jedoch, dass sie erhebliche Diskriminierungsrisiken bergen. Die aktuell zur Verfügung stehenden rechtlichen Mittel decken diese Risiken noch nicht ausreichend ab. Im Rahmen des Gutachtens zum Dritten Gleichstellungsbericht der Bundesregierung werden deshalb konkrete Vorschläge für die Überarbeitung der DSGVO und des AGG gemacht. Auch das Forschungsprojekt „ExamAI – KI Testing & Auditing“ (GI, TU Kaiserslautern, Uni Saarland, Fraunhofer IESE, SNV) beschäftigt sich mit der Frage, welche rechtlichen Erfordernisse der Einsatz von KI im Arbeitsbereich mit sich bringt. Gemeinsam mit unseren Gästen aus der Forschung haben wir darüber diskutiert, welche rechtlichen Leerstellen es im Hinblick auf den Einsatz algorithmischer Entscheidungssysteme gibt, wie Diskriminierung rechtlich erfasst werden kann und wie der Einsatz algorithmischer Systeme in der Personalauswahl reguliert werden sollte. Referent*innen: Dr. Andrea Knaut (Geschäftsstelle Dritter Gleichstellungsbericht) Angela Tschech (Martin-Luther-Universität Halle-Wittenberg) Dr. Andreas Sesing (Universität des Saarlandes, ExamAI) Elisa Lindinger (Superrr Lab) Moderation: Nikolas Becker, Projektleiter "ExamAI – KI Testing und Auditing"