Der AI Act der Europäischen Union, das weltweit erste umfassende KI-Regelwerk, soll maßgeblich dazu beitragen, dass künstliche Intelligenz in den 27 Mitgliedsstaaten sicher und transparent eingesetzt wird. Schädliche Folgen für Nutzer/-innen durch diese Technologie sollen vermieden werden. Das Regelwerk stuft KI-Systeme in vier verschiedene Risikoklassen ein:

Unannehmbares Risiko (verbotene KI)
Hohes Risiko (Hochrisiko-KI)
Niedriges Risiko
Minimales Risiko

Mit dieser Kategorisierung nach Gefahrenpotenzial (der Risikobegriff ist zu verstehen als eine Kombination aus der Wahrscheinlichkeit des Eintritts eines Schadens und der Schwere dieses Schadens1) sind bestimmte Auflagen an die Adressaten des AI Act (sog. Anbieter, Betreiber, Hersteller u.a.) verbunden. Als Faustregel gilt: Je höher die Risikoeinstufung und je höher die Möglichkeit zur Einflussnahme des Adressaten auf die Ausgestaltung des Systems, desto strenger die Vorgaben bei Transparenz- und Dokumentationspflichten2, wobei bestimmte Praktiken bereits grundsätzlich verboten sind (z.B. "social scoring").

Mit der Regulierung des Einsatzes von KI durch den AI Act stellt sich auch in der betrieblichen Ausbildungspraxis die Frage, inwieweit das Gesetz Hilfe oder Hürde ist. Welche Anpassungen sind nötig, damit KI ein Werkzeug im Betrieb werden kann und die Rechte von Auszubildenden nicht gefährdet werden? Darüber hat sich Leando mit Johanna Mölls und Dr. Christoph Junggeburth vom Bundesinstitut für Berufsbildung (BIBB) unterhalten.

Festzuhalten ist zunächst, dass der AI Act bestimmte KI-Systeme im Bereich der allgemeinen und beruflichen Bildung grundsätzlich als hochriskant (Hochrisiko-Systeme) klassifiziert3. Eine Einordnung, die schon qua Betitelung zu mehr Zurückhaltung beim Einsatz von KI führen könnte. Doch was bedeutet Hochrisiko überhaupt? "Hochrisiko heißt, dass das KI-System in einem bestimmten sensiblen Bereich eingesetzt werden soll. Einem Bereich, in dem grundsätzlich ein erhebliches Risiko einer Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder von Grundrechten natürlicher Personen angenommen wird", erklärt Junggeburth, der Justiziar im BIBB.

Weitere Informationen