AI-Literacy - KI-Kompetenz iSd Art 4 KIVO - Was ist das und was bedeutet das für Unternehmern, die KI einsetzen?

Die Hamburgische Datenschutzaufsichtsbehörde hat sich dazu Gedanken gemacht: 

"Verpflichtung zur KI-Kompetenz

Für jeden, der KI-Systeme anbietet oder betreibt, wird KI-Kompetenz ab dem 2. Februar 2025 zur Pflicht.

Das heißt, Unternehmen und Behörden müssen sicherstellen, dass ihre Mitarbeitenden die eingesetzte Technologie verstehen. Die geforderte Kompetenz bezieht sich dabei direkt darauf, zu welchem spezifischen Zweck die künstliche Intelligenz eingesetzt wird.

Wenn ein Online-Händler personalisierte Kundenempfehlungen mit KI erstellt, erfordert das andere Kompetenzen als beim Einsatz eines KI-gestützten Bewerber:innenmanagements durch einen Konzern.

Entscheidend ist die verantwortungsbewusste Bewertung von Eignung, Risiken und Auswirkungen jedes KI-Systems. Das Ziel ist, ein Bewusstsein für die Chancen und Risiken von KI in Unternehmen und Behörden zu schaffen und künstliche Intelligenz mit Bedacht einzusetzen."

Informationen dazu finden Sie hier

KI-VO: Diese Pflichten und Verbote gelten ab Februar 2025 | HmbBfDI

Es sollte eigentlich eine Selbstverständlichkeit sein, dass nur Personen im Unternehmen mit Tools arbeiten, die mit Künstlicher Intelligenz ausgestattet sind, die darüber Bescheid wissen, was der Hintergrund der Tools ist, was diese tun, wenn ein prompt verarbeitet wird, und was der Output ist, und wie dieser Output zu bewerten ist. 

Bei Fahrzeugen, die dem Unternehmen gehören, ist es selbstverständlich, dass der/die Lenker:in die entsprechende Lenker:innenberechtigung aufweisen muss, damit er das Fahrzeug lenken kann, und das beginnt mit dem PKW, geht über LKW, Zugmaschinen, Traktoren, Kräne oder Stapler. Bei einem KI-Tool, mit dem Bewerberdaten analysiert werden, oder das im Bereich Marketing eingesetzt wird, scheint es anders zu sein. Jede/r Nutzer:in probiert einmal herum, und es wird schon nix passieren. Doch es ist nicht anderes. 

Die Mitarbeitenden müssen den Prozess, der hinter ihrer Tätigkeit steht, in Grundzügen verstehen, und insbes. die Qualität des Outputs bewerten können, und hinterfragen können, ob das Ergebnis, das ihnen geliefert wird stimmt oder zumindest stimmen kann.

Wenn jemand nicht weiß, dass wie das Ergebnis einer Rechenoperation lautet (zB Wurzel aus 25 = 5), dann kann er/sie den Output des Taschenrechners nicht plausibilisieren bzw. prüfen und rechnet uU mit einer falschen Zahl in weiteren Operationen weiter, weil das Zwischenergebnis nicht korrekt ist.