KI in der Arbeitswelt
Die rasante Entwicklung der Künstlichen Intelligenz (KI) beeinflusst zunehmend unsere Arbeitswelt. Der Einsatz von KI im Arbeitsverhältnis erfordert nicht nur eine Definition des KI-Begriffs, sondern auch eine klare Bestimmung der Höchstpersönlichkeit in der Vertragsleistung. Diese Prüfung erstreckt sich sowohl auf die Arbeitsleistung des Arbeitnehmers als auch auf die Entscheidungen des Arbeitgebers bezüglich Begründung, Durchführung und Beendigung des Arbeitsverhältnisses.
1. Begriff Künstliche Intelligenz
Der Begriff Künstliche Intelligenz ist rechtlich nicht eindeutig definiert. Auf europäischer Ebene spielt die vorgeschlagene Definition durch den Entwurf für eine KI-Verordnung (KI-VO-E) eine entscheidende Rolle. Diese bezeichnet ein „System der künstlichen Intelligenz“ als Software, die mithilfe bestimmter Techniken und Konzepte entwickelt wurde und Ergebnisse wie Inhalte, Vorhersagen oder Entscheidungen hervorbringen kann. Die KI-VO-E unterscheidet zwischen KI-Anwendungen mit unannehmbarem, hohem und geringem Risiko, wobei Hochrisiko-KI-Systeme in den Bereichen Beschäftigung und Personalmanagement bestimmte Anwendungsbereiche umfassen. Hier stehen im Wesentlichen die Einstellung oder Auswahl von Bewerbern, die Entscheidung über Beförderungen oder Kündigungen sowie die Bewertung der Leistung und des Verhaltens von Arbeitnehmern im Fokus. Sollten Sie den Einsatz von KI in diesen Bereichen planen, empfehlen wir vorab entsprechende Richtlinien festzulegen, damit die Transparenz gewahrt bleibt.
2. Höchstpersönlichkeit der Arbeitsleistung
Die Frage, ob der Arbeitnehmer seine Arbeitsleistung beim Einsatz von KI noch höchstpersönlich erbringt, steht im Mittelpunkt. Gemäß § 613 BGB hat der Arbeitnehmer im Zweifel persönlich zu leisten. Bei der Übertragung von Arbeitsaufgaben an eine KI-Anwendung stellt sich die Frage, ob dies als Hilfsmittel oder Hilfsperson betrachtet wird. Die Sicherung der Höchstpersönlichkeit ist entscheidend, insbesondere wenn ein KI-generiertes Produkt keinen urheberrechtlichen Schutz genießt.
3. „Höchstpersönlichkeit“ von Arbeitgeberentscheidungen
Fraglich ist, ob und inwieweit auch der Arbeitgeber einem Vorbehalt der „Höchstpersönlichkeit“ Rechnung tragen muss. Im Gegensatz zum Arbeitnehmer besteht für den Arbeitgeber keine Höchstpersönlichkeit. Die Delegation arbeitgeberseitiger Entscheidungen an KI-Systeme stellt jedoch eine Abweichung von herkömmlichen Praktiken dar. Die KI-generierten Erklärungen werden dem Arbeitgeber zugerechnet, da die KI selbst keine Rechtspersönlichkeit besitzt. Das Verbot automatisierter Entscheidungen gemäß Art. 22 DS-GVO stellt hierbei eine Grenze dar.
4. Datenschutz unter KI-Anwendungen
Die Bedeutung von KI im Arbeitsverhältnis wird weiter zunehmen. Die KI-Verordnung und Vorschläge für einen modernen Beschäftigtendatenschutz deuten auf eine verstärkte Regulierung hin. Offen bleibt, ob der Gesetzgeber die Öffnungsklausel des Art. 22 DS-GVO nutzen wird. Die Schaffung eines sicheren Rechtsrahmens für KI-Anwendungen unter Gewährleistung von Transparenz ist eine zukünftige Herausforderung und birgt gleichzeitig Chancen für innovative Arbeitsbeziehungen.
5. Der AI Act der Europäischen Union
Der neue Artificial Intelligence Act (AI Act) ist eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz und sieht eine Regulierung der Anbieter und Betreiber von KI-Systemen anhand von Risikoklassen vor, die sich am Einsatzzweck orientieren. Die Risikoklassen sind unterteilt in ein unannehmbares Risiko, ein hohes Risiko und ein geringes/ minimales Risiko. Der AI-Act ist folglich risikobasiert und anwendungsbezogen. Je höher das Risiko für Gesundheit, Sicherheit oder Grundrechte, das von einer spezifischen Anwendung ausgeht, desto strenger die Pflichten. Umfangreiche Verpflichtungen enthält der AI Act für Hochrisiko-KI-Systeme, hier gelten u.a. spezifische Dokumentations- und Transparenzpflichten, die Pflicht zur Etablierung eines Risikomanagements sowie des Einsatzes einer menschlichen Aufsicht etc.. Für KI-Systeme mit einem begrenzten Risiko sind (lediglich) bestimmte Transparenzverpflichtungen zu beachten. KI-Systeme mit einem unannehmbaren Risiko, also solche, die den Menschen unterdrücken können, sind verboten. Unter das Verbot fallen insbesondere kognitive Verhaltensmanipulationen, ungezieltes Auslesen von Gesichtsbildern aus dem Internet, Emotionserkennung am Arbeitsplatz, KI-Systeme zur Bewertung des sozialen Verhaltens sowie biometrische Echtzeit-Fernidentifizierungssysteme.
Der AI-Act hat unabhängig von dem Sitz des Anbieters beachtet zu werden, sofern die KI oder ihr Ergebnis in der EU genutzt werden. Die EU macht mit dem Entwurf deutlich, dass sie sich der Gefahr, dass KI-Anwendungen beispielsweise zur Beeinflussung und Überwachung von Menschen missbräuchlich eingesetzt werden können, bewusst ist.
6. Wie können Sie sich vorbereiten?
Gerne unterstützen wir Sie bei der Planung und Implementierung von KI-Systemen, um rechtliche Fallstricke zu umgehen. Hier kommt der Dokumentation der Schritte große Bedeutung zu. Wir können gerne für Sie etwaige Richtlinien erstellen oder Ihre Allgemeinen Geschäftsbedingungen anpassen.
UP Rechtsanwälte