InhaltsverzeichnisKlicke auf den Link, um zur gewünschten Stelle zu navigieren
Dieser Inhalt wurde automatisch aus dem Ukrainischen übersetzt.
Stellen Sie sich vor: Sie sind HR in einem produktorientierten IT-Unternehmen. Hunderte von Lebensläufen – die Frist war "gestern". Vorschlag: „Schalten Sie KI ein – sie erledigt alles selbst“. Praktisch? Ja. Aber wenn der Bot einen starken Kandidaten aussortiert oder das Gesicht ohne Zustimmung scannt – die Verantwortung liegt bei Ihnen.
Im Jahr 2024 führte die britische Regulierungsbehörde ICO eine Prüfung von Unternehmen durch, die KI in den Phasen der Personalauswahl einsetzen. Die Ergebnisse zeigten eine Reihe von Risiken: automatische Ablehnungen ohne menschliche Beteiligung, fehlende verständliche Informationen und die Erhebung sensibler personenbezogener Daten ohne Zustimmung. Die ukrainische Gesetzgebung enthält noch keine speziellen Vorschriften zur KI, aber die Praxis bewegt sich sicher in Richtung einer verantwortungsvolleren Nutzung.
IT-JuristenStalirov&Co teilten praktische Beobachtungen mit – wie die Anwendung von Rekrutierungs-KI im IT-Geschäft zu rechtlichen Komplikationen führen kann und wie man dies vermeiden kann.
Schlüsselrisiken: Was Sie über die Legalität von KI wissen müssen
Bevor Sie KI einen Teil des Rekrutierungsprozesses anvertrauen, sollten Sie die möglichen rechtlichen Konsequenzen bewerten. Hier sind die Empfehlungen der Juristen für IT-Projekte:
Diskriminierung und Vorurteile
KI lernt aus der Vergangenheit. Wenn früher überwiegend Männer eingestellt wurden, wird das System dies wiederholen. So musste Amazon nach einem sexistischen Skandal sein eigenes Rekrutierungstool aufgeben: KI senkte systematisch die Bewertungen von Bewerberinnen, wenn in den Lebensläufen Erwähnungen von Frauenkollegs oder Erfahrungen in Frauengemeinschaften vorkamen.
Datenschutz
Viele Tools verarbeiten biometrische Daten – Mimik, Stimme, Emotionen. In der EU, Kanada, Australien, den USA und der Ukraine gelten solche Informationen als sensibel. Ihre Verarbeitung ist nur mit ausdrücklicher Zustimmung erlaubt.
Fehlende Transparenz (Black Box KI)
„Black Box“ ist ein Algorithmus, dessen Entscheidungen schwer oder unmöglich zu erklären sind. Wenn KI ablehnt – können Sie dem Kandidaten nicht erklären, warum genau. Aber gemäß Art. 22 DSGVO (Europäische Datenschutzverordnung) hat eine Person das Recht, nicht einer Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruht, wenn diese rechtliche Folgen hat oder sie erheblich beeinflusst. In der Ukraine werden ähnliche Prinzipien durch die Rechtsprechung verankert: Der Kandidat hat das Recht, solche Entscheidungen zu überprüfen – andernfalls steigen die rechtlichen Risiken.
Wie man die Wahrscheinlichkeit einer Beschwerde verringert
Um die Risiken zu minimieren, mit denen Juristen in der IT-Praxis konfrontiert sind, sollten folgende Schritte beachtet werden:
- Das letzte Wort sollte beim Menschen bleiben. Treffen Sie keine endgültigen Entscheidungen ohne die Beteiligung von HR.
- Führen Sie eine DPIA (Data Protection Impact Assessment) durch – eine Bewertung der Auswirkungen auf personenbezogene Daten. Dies ist wichtig, wenn Sie ein externes Produkt einführen oder die Entwicklung Ihrer eigenen Software in Auftrag geben. In beiden Fällen fungiert Ihr Unternehmen als „Verantwortlicher“ – Sie entscheiden, warum und wie personenbezogene Daten verarbeitet werden. Ein Teil der technischen Verarbeitungsoperationen kann an einen externen Auftragnehmer – den sogenannten „Auftragsverarbeiter“ – delegiert werden. Dennoch bleibt in diesem Fall die Hauptverantwortung für die Einhaltung der Anforderungen an den Datenschutz beim Verantwortlichen: Wenn die Anweisungen unklar sind, das Sicherheitsniveau unzureichend ist oder die Daten außerhalb des festgelegten Zwecks verwendet werden, liegt die Verantwortung bei Ihnen.
- Just-in-time-Benachrichtigung. Wenn Ihr KI-System Video-Interviews oder Videoaufzeichnungen verwendet – erhebt es tatsächlich biometrische Daten. Und das ist sensible Information. Um zu vermeiden, dass Kandidaten fünf Seiten der Datenschutzrichtlinie durchblättern müssen, geben Sie eine kurze Benachrichtigung zum Zeitpunkt der Erhebung: „Dieser Teil des Prozesses umfasst eine Videoaufzeichnung. Stimmen Sie zu?“.
- Formalisieren Sie Dokumente. Die Bedingungen für die Nutzung von KI sollten in Vereinbarungen, Verträgen und öffentlichen Angeboten festgehalten werden.
- Auswahl des KI-Anbieters: Due Diligence. Wenn ein Unternehmen beschließt, ein KI-System für die Rekrutierung einzuführen, sollte die Auswahl des richtigen Anbieters nicht nur auf Funktionalitäts- und Preis Kriterien basieren. Es ist wichtig, rechtliche Risiken, Transparenz und die Einhaltung zukünftiger gesetzlicher Anforderungen zu berücksichtigen. Achten Sie in der Verhandlungsphase mit dem Anbieter auf Folgendes:
- Kann die Logik der getroffenen Entscheidungen erklärt werden?
- Gibt es einen Mechanismus zur Anfechtung oder Überprüfung der Ergebnisse?
- Welche Bedingungen gelten für das geistige Eigentum? Wem gehören der Algorithmus, die gesammelten Daten und die Analyseergebnisse? In einigen Fällen sehen die Standardbedingungen vor, dass alles dem Anbieter gehört – das bedeutet den Verlust der Kontrolle über das System.
- Wer hat die Rechte am Code? Ohne Zugriff darauf kann Ihr Team das Tool nicht anpassen oder die Lösung in Zukunft skalieren – zum Beispiel für eine neue Stelle oder im Rahmen einer anderen internen Entwicklung.
Fazit
Rekrutierungs-KI-Systeme sind nicht nur eine Zeitersparnis, sondern auch ein Gleichgewicht zwischen Automatisierung und Verantwortung. Übermäßiges Vertrauen in Algorithmen ohne menschliche Kontrolle kann zu Beschwerden, Strafen und einem Verlust des Rufs führen.
Um solche Risiken zu vermeiden, sollten Sie von Anfang an den Prozess auf klaren Grundlagen aufbauen:
- mit menschlicher Kontrolle,
- transparenter Information für Kandidaten,
- Risikobewertung (DPIA),
- rechtlicher Begleitung von IT-Projekten.
Teams, die diese Prinzipien von Anfang an berücksichtigen, verringern Risiken und bauen Vertrauen auf – sowohl seitens der Kandidaten als auch der Regulierungsbehörden.
Autor: Valerij Stalirov, CEO des Unternehmens IT-Juristen Stalirov&Co
Dieser Beitrag hat noch keine Ergänzungen vom Autor.
