Inklusion durch KI

Das Projekt CHAT-KI hat die Entwicklung, Implementierung und Erprobung eines KI-basierten, menschenzentrierten Chatbots zum Ziel, der über staatliche Förderleistungen zur Beschäftigung von Menschen mit Behinderungen (MmB) informiert. Neben Arbeitgebenden sind auch MmB, die Arbeit suchen, Teil der Zielgruppe. Die Förderlandschaft in diesem Bereich gilt als unübersichtlich, was sich mit dem Chatbot ändern soll. Der Beitrag gibt einen Einblick in die im Rahmen des Projekts durchgeführte Anforderungs- und Bedarfsanalyse. Dazu gehören leitfadengestützte Interviews mit beiden Zielgruppen (n = 8 und n = 7), eine Umfrage unter Personalverantwortlichen (n = 351) sowie ein Werteworkshop auf Basis des Value-based Engineering (VbE).

Die Teilhabe von Menschen mit Behinderungen (MmB) am allgemeinen Arbeitsmarkt trägt zur Inklusion sowie zur Förderung von Diversität und Gerechtigkeit in der Arbeitswelt bei.¹ Darüber hinaus kann die Beschäftigung von MmB auf dem allgemeinen Arbeitsmarkt dem Fach- und Arbeitskräftemangel entgegenwirken, indem ungenutztes inländisches Arbeitskräftepotenzial ausgeschöpft wird.^{1 2 3} Eine entscheidende Herausforderung dabei sind jedoch die oftmals erheblichen Zugangsbeschränkungen zum allgemeinen Arbeitsmarkt für MmB. Selbst wenn der Zugang gelingt, stoßen Betroffene häufig auf suboptimale Arbeitsbedingungen. Trotz des Bestehens verschiedenster Förderleistungen für die Beschäftigung von MmB liegt sowohl bei Unternehmen als auch bei MmB selbst ein Informationsdefizit über diese Leistungen vor.⁴ Ein Überblick darüber, welche Leistungen bestehen und sich für den jeweiligen Einzelfall anbieten, ist häufig nicht vorhanden.¹ Sind sie bekannt, besteht jedoch häufig die Herausforderung, dass sie als intransparent und schwer nachvollziehbar wahrgenommen werden. Um Arbeitgebende sowie MmB, die auf dem allgemeinen Arbeitsmarkt Arbeit suchen, über diese Leistungen zu informieren, wird im Forschungsprojekt CHAT-KI ein KI-basierter Chatbot entwickelt. Für eine bedarfsgerechte und menschenzen- trierte Gestaltung des Bots wurden im Rahmen des Projekts einige Erhebungen durchgeführt. Um die Ausgangslage zur Beschäftigung von MmB sowie den Kenntnisstand über die Förderleistungen bei den Unternehmen zu erfassen, wurde eine Umfrage unter 351 Personalverantwortlichen durchgeführt. Anforderungen an den Chatbot wurden mittels leitfadengestützter Interviews mit Vertretenden beider Zielgruppen erfasst. Zusätzlich diente ein Werte-Workshop nach dem Vorgehen des VbE der Auseinandersetzung mit den bedeutendsten ethischen Werten, die der Chatbot aus Sicht verschiedener Stakeholder berücksichtigen soll.

Ausgangslage bei den Unternehmen

Die Ergebnisse der Umfrage unter Personalverantwortlichen (n = 351) zeigen, dass ein großer Teil der befragten Unternehmen bereits MmB beschäftigt (65,8 %). Große Unternehmen beschäftigen dabei häufiger und mehr MmB als kleine Unternehmen. Unternehmen, die noch keine MmB beschäftigten, erklären dies häufig damit, dass sie noch keine geeigneten Bewerbungen erhalten haben (M = 4,10, SD = 1,142). Ein weiterer Aspekt, der viele Unternehmen zu beschäftigen scheint und von einer Einstellung von MmB zurückzuhalten scheint, sind die speziellen Kündigungsregeln (M = 3,51, SD = 1,31). 19,1 % der befragten Unternehmen stimmen voll und ganz zu, dass sie befürchten, die Kündigung eines MmB sei nicht ohne Weiteres möglich. Unter denen, die keine MmB beschäftigen, sind es sogar 30,4 %. Damit ist diese Befürchtung tendenziell für Unternehmen, die keine MmB beschäftigen und folglich weniger Erfahrung haben, relevanter.

Sich sehr gut über Förderleistungen informiert zu fühlen, geben lediglich 11,4 % der Befragten an. Einzelne Leistungen sind dennoch vielen Befragten bekannt. So kennen knapp 3/4 der Befragten finanzielle Förderleistungen, und knapp die Hälfte ist mit Förderungen zur Weiter- und Fortbildung vertraut, wie Abb. 1 zeigt. Die Nutzungserfahrung mit den Leistungen bleibt jedoch teilweise weit hinter deren Bekanntheit zurück.

Anforderungen an den KI-basierten Chatbot

In der adressierten Zielgruppe herrschen unterschiedliche Voraussetzungen hinsichtlich der Einstellung zu Chatbots. Einige der befragten MmB, und damit potenzielle Arbeitneh- mende, weisen eine eher ablehnende Haltung gegenüber KI und Chatbots auf. Unterstrichen wird dies durch Aussagen wie „Das mag ich gar nicht (…), ich würde lieber persönlich reden. Das ist mir lieber als diese Sprachdinger“ (Arbeitnehmer*in (AN) 7) oder „Da steckt kein Mensch hinter, weil das ist reine KI (…) bin ich nicht der Fan von“ (AN3). Entsprechend fällt bei diesen Befragten auch die Nutzungsbereitschaft für einen KI-basierten Chatbot eher zurückhaltend aus. Demgegenüber sind auch einige Befragte auf Seiten der MmB mit Chatbots vertraut und nutzen sie häufig und gerne. Unter den befragten Arbeitgebenden wird der KI-basierte Chatbot für „unglaublich sinnvoll“ (Arbeitgeber*in (AG) 2) erachtet. Gerade für Unternehmen, „die es (…) noch nicht kennen“ (AG2), könnte er laut den Interviewpartner*innen eine große Hilfe sein. Für beide Zielgruppen sind folgende Anforderungen und Erwartungen von zentraler Bedeutung: 

1. Die Angabe von Quellen halten die Befragten beider Zielgruppen für hochrelevant. Dies kann auch dazu beitragen, dass der Chatbot als „vertrauenswürdiger“ (AG1) wahrgenommen wird und an „Glaubwürdigkeit“ (AN2) gewinnt.
2. Der Chatbot sollte den Nutzenden einen Einstieg ins Thema sowie einen Überblick über passende Förderleistungen ermöglichen. Für viele befragte Arbeitgebende ist das Thema der Beschäftigung von MmB, bzw. möglicher Förderleistungen neu. In diesem Fall „fehlen einem so die richtigen Begrifflichkeiten, um (…) zu suchen im Internet“ (AG4). Diese Hürde soll der Chatbot abbauen können, indem er auch Fragen zu grundlegenden Unsicherheiten zum Thema beseitigt. Für potenzielle Arbeitnehmende ist es wichtig, einen Überblick über Förderleistungen zu schaffen, da vielen die Bandbreite an Möglichkeiten gar nicht bewusst ist. „(…) das Gesuche“ (AN1) über verschiedene Webseiten oder Foren hinweg, soll der Chatbot zentralisieren.
3. Die Gestaltung und Bedienung des Chatbots sollten „möglichst einfach“ (AN1), „intuitiv“ (AG6) und barrierefrei sein. Verschiedene Nutzende mit verschiedenen Behinderungen benötigen verschiedene Einstellungen, wie z. B. Leichte Sprache, einstellbare Schriftgrößen oder auch Audioein- und -ausgabe, statt nur Text. Aber auch Arbeitgebende bevorzugen eine schlichte, übersichtliche Darstellung, wie man sie von anderen Chat- bots kennt.

Ethische Gestaltung des KI-basierten Chatbots

Die Verbreitung von KI macht deutlich, dass KI-Systeme keineswegs neutral sind, da sie gesellschaftliche Werte widerspiegeln und sogar verstärken können.^{5 6} Vor diesem Hintergrund gewinnt die ethische Gestaltung technischer Systeme an Bedeutung. Einen geeigneten methodischen Rahmen hierfür bietet das VbE, das ein strukturiertes Vorgehen zur Identifikation, Analyse und Implementierung relevanter Werte im Entwicklungsprozess technischer Systeme beschreibt. ⁷

Zur Identifikation relevanter Werte wurde im Projekt ein dreistündiger Werteworkshop mit drei Stakeholdern durchgeführt. Nach einer Einführung in den Anwendungskontext sowie in die ethischen Grundlagen des Utilitarismus, der Tugendethik und der Pflichtethik erhoben die Teilnehmenden zunächst individuell relevante Werte anhand vorgegebener Leitfragen. Anschließend wurden die Ergebnisse gemeinsam diskutiert und hinsichtlich ihrer positiven sowie potenziell negativen Auswirkungen reflektiert.

Im Rahmen des Workshops wurden insgesamt 42 Werte identifiziert. Zu den am häufigsten genannten Werten gehörten Selbstständigkeit, Inklusion und Effizienz. Dabei zeigte sich, dass die Abgrenzung zwischen ethischen und wirtschaftlichen Werten nicht immer eindeutig ist. So kann beispielsweise Effizienz eher als wirtschaftliche Zielgröße denn als ethischer Wert verstanden werden. Die identifizierten Werte wurden anschließend durch eine konzeptionelle Analyse auf 28 Werte verdichtet. Im Rahmen der Analyse wurde mithilfe eines Abgleichs mit bestehenden Wertelisten ein Kern von acht zentralen Werten bestimmt: Autonomie, Inklusion, Weisheit, Respekt, Ehrlichkeit, Gerechtigkeit, Menschlichkeit und Zuverlässigkeit. Diese Kernwerte wurden daraufhin systematisch in ethische Systemanforderungen übersetzt, wodurch der funktionale Systementwurf um ethische Komponenten erweitert wurde.

Autor*innen

Ina Schiedermair, M.A. 
Akademische Mitarbeiterin am Institut für Lernen und Innovation in Netzwerken (ILIN) der HKA

Natalie Martin, M.Sc. 
Akademische Mitarbeiterin am Institut für Lernen und Innovation in Netzwerken (ILIN) der HKA

Dr. Tobias Kopp 
Leiter der Nachwuchsforschungsgruppe zur menschenzentrierten Technikgestaltung und -einführung und stellvertretender Leiter des Instituts für Lernen und Innovation in Netzwerken (ILIN) der HKA

Prof. Dr. Steffen Kinkel 
Professor an der Fakultät für Informatik und Wirtschaftsinformatik, Leiter des Instituts für Lernen und Innovation in Netzwerken (ILIN) der HKA