Verantwortungsvolle Nutzung von KI-Systemen

Laut der Europäischen Kommission ist die KI-Verordnung "insbesondere auf die potenziellen Risiken von KI für die Gesundheit, die Sicherheit und die Grundrechte der Bürgerinnen und Bürger ausgerichtet". Sie lege klare sowie einheitliche Rahmenbedingungen für Entwickler und Betreiber von KI-Systemen in EU-Ländern fest und verringert dabei administrative und finanzielle Aufwände für Unternehmen.

Verbotene Anwendungen und Kompetenzen

Die Bundesregierung betont, dass "bestimmte Arten von Anwendungen", welche "die Grundrechte verletzen", verboten sind. Dazu gehören unter anderem "KI-Systeme, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen. Auch KI-basierte Emotionserkennung am Arbeitsplatz, ungezielte Auswertung von Gesichtsbildern oder Bewertung des sozialen Verhaltens gehören zu den verbotenen Praktiken".

Zudem ist es für betroffene Unternehmen gemäß Artikel 4 der Verordnung verpflichtend, dass mit KI-Systemen betraute Mitarbeiter über grundlegende KI-Kenntnisse verfügen. Darunter wird die Fähigkeit verstanden, mit KI-Systemen umgehen zu können. Aber auch das Erkennen von Chancen und Risiken gehört dazu. Mitarbeitende sollten auf Basis dieser Fähigkeiten und Kenntnisse in der Lage sein, verantwortungsvolle Entscheidungen zu treffen.

Praktische Auswirkungen auf Unternehmen

Insgesamt betrifft die neue Verordnung also alle Unternehmen, welche in der EU an der Entwicklung, Bereitstellung oder Nutzung von KI-Systemen teilhaben. Unternehmen sollten also in einem ersten Schritt prüfen, ob sie von der neuen KI-Verordnung betroffen sind: Anbieter, Betreiber, Händler oder Importeure von KI-Systemen sind unabhängig von Unternehmensgröße oder Risikoklasse der KI betroffen. Sie sind dazu verpflichtet, ihre Mitarbeiter weiterzubilden, um die zuvor beschriebenen Anforderungen der Verordnung zu erfüllen.

Besondere Vorsicht gilt für Hochrisiko-KI-Systeme, da sie erhebliche negative Folgen für die Gesundheit, Sicherheit und Grundrechte der Menschen haben können. Aus diesem Grund müssen Hochrisiko-KI-Systeme "so konzipiert und entwickelt sein, dass sie während der Dauer ihrer Anwendung von natürlichen Personen wirksam beaufsichtigt werden können", erklärte Bitkom-Expertin Holdampf-Wendel im Gespräch mit ntv.

Für nicht betroffene Unternehmen gilt übrigens, dass der Arbeitgeber ein Weisungsrecht besitzt und die Nutzung von KI-Tools am Arbeitsplatz untersagen kann. Verwenden Arbeitnehmr KI-Tools ohne Zustimmung des Arbeitgebers, ist das ein Verstoß und kann als Pflichtverletzung gewertet werden: "Die Folgen reichen von Ermahnung über eine Abmahnung bis hin zu einer Kündigung", betonte Prof. Michael Fuhlrott, Fachanwalt für Arbeitsrecht und Mitglied im Verband deutschen Arbeitsrechtsanwälte (VDAA), gegenüber ntv.

Redaktion finanzen.net