Am 12. Juli 2024 wurde der AI-Act (auf Deutsch auch „KI-Verordnung“ genannt) im Amtsblatt der EU veröffentlicht. Obwohl die Technik sich bereits seit einigen Jahren rasant weiterentwickelt, fehlte es bis jetzt an einer rechtlichen Grundlage der Nutzung von KI-Systemen. Ein erster umfassender Regulierungsansatz liegt nun mit der KI-Verordnung der EU vor. Es handelt sich um das weltweit erste umfassende Regelwerk zu all den Fragen, die die Nutzung von Künstlicher Intelligenz (kurz „KI“) aufwirft. Die Verordnung entfaltet unmittelbare Wirkung in den Mitgliedstaaten.
Der Begriff der KI (oder auch: artificial intelligence / AI ) ist in den letzten Jahren in aller Munde. Der rasante technische Fortschritt wirkt sich inzwischen beinahe auf alle Bereiche des täglichen Lebens aus. Die KI hat längst nicht nur spürbaren Einfluss auf unseren Alltag im Allgemeinen, sondern insbesondere auch auf unseren Arbeitsalltag. Dabei stehen die durch die Nutzung von KI-Systemen im Arbeitsverhältnis entstehenden Risiken regelmäßig im Fokus. Inzwischen hat die Wichtigkeit der Sensibilisierung im Hinblick auf Zuverlässigkeit, Korrektheit und Sicherheit von KI-Systemen zunehmend an Bedeutung gewonnen. Dies hat auch der europäische Gesetzgeber gesehen und die Ausarbeitung der KI-Verordnung in den letzten Jahren vorangetrieben.
Die Veröffentlichung der KI-Verordnung bietet Anlass, die Neuerungen sowie auch die Einflüsse auf das Arbeitsverhältnis zu beleuchten und zu diesem Zweck einige grundlegende Fragen zu beantworten.
I. Was ist ein KI-System?
Um die Einflüsse und Auswirkungen von KI auf unseren Alltag verstehen zu können, muss als Ausgangspunkt zunächst die Begrifflichkeit der KI bestimmt werden. Die KI-Verordnung gibt in Art. 3 Abs. 1 erstmalig eine Definition des Begriffs „KI-System“ vor.
Ein KI-System ist demnach ein
„maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die physisches oder virtuelles Umfeld beeinflussen“.
Die Definition legt den Fokus auf die Autonomie des Handels. Im Übrigen ist sie bewusst offengehalten, um auch dem zukünftigen technischen Fortschritt durch heute noch nicht absehbare Entwicklungen gerecht zu werden.
II. Wie ist die KI-Verordnung aufgebaut?
Die Verordnung enthält einen risikobasierten Ansatz und unterteilt die KI-Systeme nach dem von den Systemen ausgehenden Risiko. Liegt im ersten Schritt nach der Definition ein KI-System vor, erfolgt im zweiten Schritt eine Differenzierung zwischen Programmen mit inakzeptablem Risiko, Hochrisikosystemen und Systemen mit geringem, das heißt annehmbarem, Risiko. Die Anforderungen, die an die Nutzung des Systems gestellt werden, orientieren sich an der Höhe des jeweiligen Risikos. Je höher das von der KI-Anwendung ausgehende Risiko, desto strenger die Anforderungen. Folglich werden KI-Systeme mit inakzeptablem Risiko durch die KI-Verordnung vollständig verboten. Für Hochrisikosysteme wurden konkrete, streng ausgestaltete Anforderungen festgelegt, wohingegen Systeme mit annehmbarem Risiko im Wesentlichen nur Transparenz- und Informationspflichten unterliegen.
Die Regelungen zu den verschiedenen KI-Systemen treten abgestuft nach der Höhe des Risikos im Verlauf der nächsten drei Jahre schrittweise in Kraft.
III. Zeitlicher Überblick der bisherigen Entwicklung der KI-Verordnung
April 2021: Erster Entwurf der KI-Verordnung durch die Europäische Kommission
Januar 2024: Veröffentlichung des gemeinsamen Entwurfs der Europäischen Kommission, des Rates der EU und des Europäischen Parlamentes
März 2024: Genehmigung der KI-Verordnung durch das EU-Parlament
12. Juli 2024: Veröffentlichung im Amtsblatt der EU
IV. Zukünftiger Verlauf der KI-Verordnung
1. August 2024: Inkrafttreten der KI-Verordnung
01. Februar 2025: Geltung des Verbots von KI-Systemen, die unannehmbare Risiken darstellen
01. Mai 2025: Anwendbarkeit der Verhaltenskodizes
01. August 2025: Geltung der Regelungen zu KI-Systemen mit allgemeinem Verwendungszweck
01. August 2026: Anwendbarkeit der KI-Verordnung in vollem Umfang, Ausnahme Hochrisikosysteme
01. August 2027: Verpflichtungen für Hochrisiko-KI-Systeme im Übrigen anwendbar
V. Was sind die Ziele der KI-Verordnung?
Eines der übergeordneten Ziele der KI-Verordnung ist die Verbesserung der Bedingungen für Entwicklung und Nutzung der Technologie. Die Verordnung soll zur Erreichung dieses Zwecks insbesondere dafür Sorge tragen, dass KI-Anwendungen sicher und transparent sowie nachvollziehbar und diskriminierungsfrei sind. Sie soll zum einen die Sicherheiten und Grundrechte eines jeden Einzelnen gewährleisten und zum anderen Investitionen, Innovationen und Wettbewerb im technischen Bereich innerhalb der Europäischen Union fördern.
VI. Welche Auswirkungen hat KI auf Arbeitsverhältnisse und welche Neuerungen bringt die KI-Verordnung mit sich?
Diskriminierungsgefahr im Bewerbungsverfahren
KI-Systeme kommen in Arbeitsverhältnissen vermehrt zum Einsatz, beginnend im Bewerbungsverfahren, über die Durchführung des Arbeitsverhältnisses hinweg bis zu dessen Beendigung. Insbesondere der Einsatz im Rahmen von Bewerbungsverfahren hat in der Vergangenheit wiederholt aufgezeigt, welche Diskriminierungsrisiken die Nutzung von KI mit sich bringt. Auf den ersten Blick erscheint der Einsatz von KI die bestmögliche Lösung, um ein diskriminierungsfreies Bewerbungsverfahren zu ermöglichen, da der Einsatz von KI eine von menschlichen Emotionen und Wertungen losgelöste Entscheidungsfindung verspricht. Es bestehen bereits zahlreiche Möglichkeiten, wie die Unterstützung durch KI-Anwendungen bei der Bewerberauswahl, Recruiting über Social Media oder sogar Bewerbungsgespräche mittels eines KI gesteuerten Chatbots.
Der Einsatz von KI im Bewerbungsprozess birgt indes wider der ursprünglichen Erwartung ein hohes Diskriminierungsrisiko. Die Risiken entstehen in erster Linie durch die Daten, die zur Schulung der KI genutzt werden. KI-Systeme können in kurzer Zeit große Mengen an Datenbeständen verarbeiten. Die KI kann in den Datenbeständen Muster erkennen und lernt so, komplexe Probleme autonom zu lösen. Folglich funktioniert ein KI-System nur, wenn diesem hinreichende Daten zur Entscheidungsfindung zur Verfügung gestellt werden. Wenn diese Daten frühere menschliche Entscheidungen mit diskriminierenden Elementen enthalten, übernimmt die KI diese Muster unterschwellig als korrekt, da diese nicht in der Lage ist, Diskriminierungen eigenständig zu erkennen. So kann es unter anderem zur Präferenz einer Bewerbergruppe kommen, die in den Trainingsdaten überrepräsentiert ist. Die diskriminierenden Inhalte des Datenbestandes werden von der KI in der weiteren Anwendung fortlaufend noch verstärkt.
Ein Diskriminierungsrisiko kann darüber hinaus auch auftreten, wenn die Trainingsdaten zwar gleiche Mengen an Informationen über verschiedene demografische Gruppen enthalten, aber zusätzliche Faktoren hinzukommen, die eine stereotype Verbindung genderspezifischer Eigenschaften mit bestimmten Positionen hervorrufen. So kann der Datenbestand beispielsweise widerspiegeln, dass in einem Unternehmen in der Vergangenheit zwar mehrheitlich weibliche Bewerberinnen eingestellt, jedoch alle Führungspositionen mit männlichen Bewerbern besetzt wurden. Die KI würde ihre weiteren Entscheidungen sodann auf Basis dieser diskriminierenden Stereotypen treffen.
Auch kann die Diskriminierungsursache bereits im Rahmen der Programmierung des benötigten Algorithmus angelegt sein. Um eine Software zu programmieren, müssen sowohl ein Ziel als auch die Kriterien bestimmt werden, die zur Erreichung dieses Ziels notwendig sind. Im Kontext eines Bewerbungsverfahrens wäre das Ziel des Algorithmus, geeignete Kandidaten und Kandidatinnen aus einem Bewerberpool auszuwählen. Dafür muss vorab definiert werden, was Bewerber und Bewerberinnen als geeignet qualifiziert. Diese Kriterien können jedoch unbeabsichtigte Diskriminierungsfaktoren enthalten. Ein Beispiel dafür wäre die Arbeitszeit der Bewerber und Bewerberinnen als vermeintlich neutrales Kriterium für Berufserfahrung. Obwohl das Geschlecht nicht unmittelbar berücksichtigt wird, kann dadurch eine geschlechtsspezifische Diskriminierung zustande kommen. Die Ursache liegt darin, dass Frauen statistisch gesehen im direkten Vergleich häufiger zumindest vorübergehend in Teilzeit arbeiten oder Mutterschutz und Elternzeit in Anspruch nehmen. Die so entstehenden, durchschnittlich geringeren Arbeitszeiten weiblicher Bewerberinnen führen zu einer Benachteiligung durch den Algorithmus.
In all diesen Szenarien bereitet die Nachvollziehbarkeit der oben aufgezeigten Entscheidungsprozesse regelmäßig Schwierigkeiten, da der Entscheidungsweg der KI nicht offengelegt wird. Vor dem Hintergrund, dass nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) schon ein Indizienbeweis der Diskriminierung eines Bewerbers oder einer Bewerberin ausreicht, das arbeitgebende Unternehmen zur Entlastung hingegen den Vollbeweis führen muss, kann die fehlende Nachvollziehbarkeit zu enormen Beweisschwierigkeiten für arbeitgebende Unternehmen führen und unter Umständen Schadensersatzansprüche nach dem AGG auslösen.
Die vorstehend geschilderten Diskriminierungsrisiken verdeutlichen, wie wichtig der kritische und wachsame Umgang mit den Ergebnissen ist, die sich bei Inanspruchnahme derartiger KI-Systeme ergeben. An dieser Stelle wird nun durch die KI-Verordnung teilweise Abhilfe geschaffen. Art. 10 Abs. 2 lit. f der KI-Verordnung regelt unter anderem, dass zu Trainingszwecken verwendete Daten vorab auf mögliche Verzerrungen und Diskriminierungen hin zu überprüfen sind. Nach Art. 5 Abs. 2 lit. f der KI-Verordnung sind ferner Maßnahmen zu ergreifen, die derartige Verzerrungen von vornherein bestmöglich verhindern. Die Regelungen zwingen arbeitgebende Unternehmen von vornherein dazu, sensibilisiert mit der Anwendung von KI-Systemen umzugehen und den Datenbestand vorab wachsam zu überprüfen. In der Praxis wird dies regelmäßig auch eine Sensibilisierung und Schulung der Mitarbeitenden erfordern, die die KI ebenfalls nutzen.
VII. KI und Datenschutz im Arbeitsverhältnis
Vor dem Hintergrund, dass KI-Systeme ohne die Zurverfügungstellung von Daten nicht arbeiten können, steht neben den Diskriminierungsrisiken auch der Datenschutz konstant im Fokus. Dabei ist im Arbeitsverhältnis neben den Erlaubnistatbeständen der § 26 BDSG (Bundesdatenschutzgesetz) und Art. 6 DSGVO (Datenschutzgrundverordnung) insbesondere Art. 22 DSGVO zu berücksichtigen, der das Verbot automatisierter Entscheidungen beinhaltet. Eine vollständig automatisierte Arbeitgeberentscheidung, das heißt eine Entscheidung mittels eines KI-Systems, die den Mitarbeitenden gegenüber rechtliche Wirkung entfaltet oder erhebliche Beeinträchtigungen mit sich bringt, ist nach Art. 22 DSGVO untersagt.
Die KI-Verordnung geht nun auch hier noch weiter und ergänzt die Regelungen der DSGVO unter anderem in der Form, dass Anbieter und Anbieterinnen von KI-Systemen verpflichtet sind, technische Dokumentations- und Qualitätsmanagementsysteme einzurichten. Art. 10 der KI-Verordnung enthält ferner einen Mindeststandard für die Qualität des Datenbestandes. Art. 14 Abs. 1 der KI-Verordnung regelt, dass Anbieter und Anbieterinnen von als Hochrisiko-KI eingestuften Systemen von vornherein dafür Sorge zu tragen haben, dass eine menschliche Kontrolle und Aufsicht der Arbeit der KI-Systeme möglich ist. Es werden somit insgesamt konkrete Anforderungen an Transparenz und Nachvollziehbarkeit der genutzten Systeme gestellt. Zusätzlich steht den Personen, die von einer KI-basierten Entscheidung betroffen sind, nun gemäß Artikel 68c der KI-Verordnung ein Recht auf Erläuterung der Entscheidungsfindung zu. Bisher wurde häufig versucht, ein solches Recht aus der DSGVO abzuleiten. Durch die KI-Verordnung wurde nun Klarheit geschaffen. Klarstellend verpflichtet die Verordnung Anbieter und Anbieterinnen eines Hochrisikosystems außerdem, die Einhaltung der Anforderungen der DSGVO sicherzustellen.
VIII. Praxishinweis und Ausblick
Neben Diskriminierungsrisiko und Einhaltung des Datenschutzes treten bei der Nutzung von KI-Anwendungen im Arbeitsverhältnis zahlreiche weitere Fragestellungen auf, die aufgrund ihrer Komplexität hier nicht alle im Detail aufgegriffen werden können. So sind aus kollektivrechtlicher Sicht bei der Einführung und Nutzung von KI-Systemen unter anderem verschiedene Mitbestimmungs- und Beteiligungsrechte des Betriebsrates zu berücksichtigen. Außerdem muss sich im Beschäftigungskontext die Frage gestellt werden, ob arbeitgebende Unternehmen im Rahmen des Direktionsrechts die Nutzung von KI anordnen oder verbieten können oder ob sie gar das Direktionsrecht selbst durch den Einsatz von KI ausüben können sowie die Frage danach, ob es Mitarbeitenden überhaupt erlaubt ist, in Eigenregie KI-Systeme zur Erbringung von Arbeitsleistungen heranzuziehen.
Zusammenfassend lässt sich jedenfalls festhalten, dass es für arbeitgebende Unternehmen ratsam ist, sich mit der Nutzung von KI-Systemen rechtzeitig zu befassen und die Anwendung im eigenen Betrieb ausdrücklich zu regeln, um offenen Fragen von vornherein zu begegnen und Risiken zu minimieren. Die Nutzung von KI-Systemen bringt zahlreiche Vorteile für Arbeitsverhältnisse mit sich, indem Prozesse beschleunigt und Arbeitsabläufe effizienter gestaltet werden können. Wie gezeigt, birgt sie jedoch auch einige Risiken, die es insbesondere für Arbeitgeberinnen und Arbeitgeber zu beachten gilt. Ein Teil dieser Risiken wird nun durch die KI-Verordnung deutlich aufgezeigt und konkretisiert.
Neben einer aktiven Auseinandersetzung mit der Thematik durch die arbeitgebenden Unternehmen selbst, um unternehmensinterne Regelungen zu treffen, empfiehlt sich ebenfalls die konstante Einbeziehung der Mitarbeitenden. Hier gilt es Mitarbeitende zu sensibilisieren, um mögliche Risiken frühzeitig erkennen und diesen vorzubeugen können. Insbesondere raten wir auch bereits zu einer aktiven Auseinandersetzung mit der KI-Verordnung im Konkreten, um möglichen Handlungsbedarf frühzeitig zu erkennen. Zwar treffen einige Verpflichtungen der KI-Verordnung in erster Linie die Anbieter und Anbieterinnen von KI-Systemen, doch auch für Nutzer und Nutzerinnen gilt es, Einiges zu beachten. Die Komplexität der Anwendungen von KI-Systemen sowie auch die zukünftige Einhaltung der Regelungen der KI-Verordnung macht eine Sensibilisierung der Arbeitswelt erforderlich, die mit der Notwendigkeit ständiger Weiterbildung in diesem Bereich verbunden ist.
Sie möchten mehr dazu erfahren und sich mit uns in Verbindung setzen? Dann füllen Sie gerne unser
Kontaktformular
aus.