Datenschutzrechtliche Herausforderungen beim Einsatz künstlicher Intelligenz im Personalwesen

Wir haben es hier also mit zwei Kernfragen zu tun. Die erste bezieht sich darauf, welche datenschutzrechtlichen Herausforderungen gibt’s beim Einsatz von KI.

Die Zweite betrifft die automatisierte Auswertung von Bewerberdaten mit Hilfe einer künstlichen Intelligenz, was natürlich für viele Unternehmen richtig spannend ist, da man dadurch einen Produktivitätszuwachs erleben kann.

In diesem Video geht es um die Datenschutz-Grundverordnung (DSGVO), d.h. den Schutz der informationellen Selbstbestimmung von Personen, die sich in der EU aufhalten. Es gibt natürlich auch noch die KI-Verordnung, die entsprechend regelt, inwiefern Menschen, die mit einer KI in Berührung kommen, geschützt werden müssen.

Zum Beispiel, dass sie informiert werden, dass Schutzsiegel gibt für die KI oder auch, dass der Betreiber muss zudem ein Risikomanagementsystem einführt. Wir schauen uns aber den datenschutzrechtlichen Aspekt in diesem Video an.

Einige beispielhafte Herausforderungen sind die folgenden:

Intransparenz bei der Datenverarbeitung:
Letztlich ist die Wirkungsweise von einer KI ist für uns nicht nachvollziehbar. Die kennt vielleicht der Anbieter. Wir als Anwender geben aber Daten, personenbezogene Daten, unserer Kunden oder Bewerber, in dieses Tool ein und die Person, deren Daten wir dort eingeben, hat gewisse Rechte, zum Beispiel auf Auskunft darüber, wie ihre Daten verarbeitet werden. Dem können wir gar nicht nachkommen, weil wir nicht verstehen, wie die KI funktioniert.

Eine weitere Herausforderung sind internationale Übermittlungen von personenbezogenen Daten

Viele Anbieter von KI’s befinden sich außerhalb der EU und dafür müssen wir spezielle Sicherheitsmaßnahmen treffen, damit personenbezogene Daten unserer Nutzer in Drittländern nicht missbraucht werden.

Der dritte Punkt richtet sich auf automatisierte Entscheidungen. Gemäß Artikel 22 DSGVO muss eine Möglichkeit zur Intervention durch den Nutzer bestehen. Was bedeutet das? Zum Beispiel, wenn ich einen Kredit vergebe oder ablehne auf Basis einer KI-Entscheidung, dann hat der Nutzer Möglichkeiten z.B zu widersprechen oder dass eine natürliche Person, ein Mensch, noch mal über die Entscheidung schaut – und das erschwert natürlich die Automatisierung.