In Deutschland ist die Arbeitsagentur bzw. das Jobcenter für die Wiedereingliederung von arbeitslosen Bürgern in den Arbeitsmarkt zuständig. Der Arbeitsmarktservice (AMS) ist das österreichische Pendant dazu und setzt bei seiner Arbeit ab 2020 auf einen Algorithmus, der Arbeitslose in bestimmte Klassen einstuft.
Experten befürchten Diskriminierung durch Einsatz von KI
Nach vorgefertigte Kriterien soll das System des AMS zukünftig Arbeitslose in drei Kategorien aufteilen. Die Gruppe A umfasst alle Menschen mit hohem Bildungsstand, sehr guten Jobaussichten und welche keine Förderung benötigen. In Gruppe B werden Menschen mit mittelmäßigen Vermittlungschancen und einem Bedarf an aktiver Förderung eingeteilt. Gruppe C ist hingegen die Kategorie, in welcher alle Menschen eine geringe Chance auf eine neue Anstellung haben.
US-Experten warnen eindringlich, dass der Einsatz von künstlicher Intelligenz bei solchen Entscheidungen zur Diskriminierung bestimmter Gruppen führen kann. In dem System ist vorgesehen, dass die Menschen der Gruppe C zwar stärker gefördert werden aber zunächst auch weniger Leistungen erhalten. Besonders betroffen davon seien laut Experte Frauen, Ältere, Menschen mit Behinderung und Migrationshintergrund.
Vorurteile werden im System verbaut
Gegenüber dem STANDARD fasst der nicht namentliche genannte Manager eines US-Technologieriesen besorgt zusammen:
„Ein solcher Algorithmus spiegelt wider, wie wir über Arbeitslose denken.“
Die Vorurteile der Menschen würden somit im System anhand der Auswahlkriterien hineinprogrammiert werden. „Ein solcher Algorithmus verstärkt und zementiert eine bereits bestehende Diskriminierung.“ Die letzte Entscheidung würde zwar immer noch bei den Mitarbeitern des Arbeitsmarktservices liegen, jedoch stützen diese ihre Entscheidung meist auf den System Ergebnissen.
In den USA gebe es Banken und auch Justiz Einrichtungen, welche nach ähnlichen Systemen Entscheidungen über Kredite oder Kautionen treffen. Benachteiligungen von Minderheiten seien dadurch weit verbreitet. Zwar könne man dagegen klagen, jedoch fehlen den meisten Betroffenen dazu die Mittel. „Jene Menschen, die am meisten geschädigt werden, haben auch die geringsten Mittel, um zu klagen“, so der Experte.
Jobcenter setzen auch auf künstliche Intelligenz
Nicht nur in Österreich und den USA kommen solche Programme zum Einsatz. Auch in Deutschlands Jobcentern entscheidet Software über das Schicksal von Hartz IV Empfängern. Aktuell würden laut Nichtregierungsorganisation Algorithm Watch drei Softwarelösungen eingesetzt, werden, welche automatisierte Entscheidungen treffen. Programm Nummer eins nennt sich Verbis (Vermittlungs-, Beratungs- und Informationssystem) und gleicht die Lebensläufe von Hartz IV Empfängern mit vorhandenen Stellenausschreibungen ab.
Mit PP-Tools werden hingegen ähnlich wie in Österreich die Arbeitsmarktchancen von Leistungsempfängern berechnet. Eine weitere Software wertet psychologische Gutachten und Tests aus. Zudem ist für 2020 der Einsatz einer automatisierten Bearbeitungen der Anträge für das Arbeitslosengeld geplant.
Für Software ist es jedoch schwer bis unmöglich, die Qualifikation von Bewerbern zu beurteilen. Selbst Konzerne wie Amazon verzichten deshalb auf derartige Lösungen. Algorithm Watch fordert eine Nachvollziehbarkeit der Entscheidungen. Ob das Jobcenter diese wirklich liefern kann, ist jedoch unklar.
Titelbild: Robsonphoto / shutterstock.com
