Je höher das Risiko, desto strenger die Regeln? Der neue EU-Gesetzesentwurf zur KI

Unter den Dingen, die wir unter dem Sammelbegriff Transformation bündeln, nimmt die Künstliche Intelligenz (KI) eine zentrale Rolle ein. Sie bedarf dringend der Regulierung. Den Stand der Dinge in der EU und unserer Position hierzu haben wir hier für euch zusammengefasst.


EU-Gesetzesentwurf zur Künstlichen Intelligenz

Im Grunde erleben wir gerade eine neue Umdrehung in einem ganz alten und immerwährenden Prozess. Eine neue Technologie wird entwickelt und gerade weil sie neu ist, erweisen sich die bestehenden Gesetze und Verordnungen als unzureichend, um die Folgen der neuen Technologie für Beschäftigte und Anwender*innen zufriedenstellend zu regulieren. Das war bei der Einführung des mechanischen Webstuhls so und das ist aktuell, z.B. bei Fragen der Arbeitsplatzgestaltung im Homeoffice, nicht anders. Und es wird auch zukünftig so sein, bei der zunehmenden Durchdringung von Produktions- und Verwaltungsprozessen mit dem, was wir mit dem Sammelbegriff der Künstlichen Intelligenz (KI) bezeichnen. Unser Interesse ist es, Risiken möglichst frühzeitig zu erkennen und ihnen wirksam mit neuen Regeln zu begegnen.


Welche gravierenden, nicht zuletzt ethischen, Fragen zu klären sind, wird an einem mittlerweile klassischen Gedankenexperiment in der Diskussion um KI deutlich: Vor einem selbstfahrenden Fahrzeug rennt von links ein Kind auf die Straße, der Bremsweg ist zu lang um rechtzeitig zu stoppen. Ein Ausweichen nach rechts würde einen Senior auf dem Fahrrad rammen. Wollen wir uns gesellschaftlich auf Prioritäten festlegen, wessen Leben mehr gilt? Soll eine Maschine sich selbst einen Reim auf die Situation machen und entscheiden? Deutlich wird: Was immer wie geregelt wird, bedarf einer gründlichen auch wertebasierten Debatte.


Die drängenden Zukunftsfragen werden grundsätzlich nicht mehr nur auf betrieblicher oder nationalstaatlicher Ebene beantwortet. Zuständig ist in diesem Fall die EU. Jedenfalls diesseits militärischer Anwendungen, die nicht im Zuständigkeitsbereich der EU liegen. Ausgehend von ihrer Zuständigkeit für Handelspolitik hat die EU-Kommission Ende April einen Vorschlag für eine Richtlinie von KI in der EU auf den Tisch gelegt. Der wird sicher nicht unverändert in Kraft treten, aber er vermittelt doch einen Eindruck davon, wohin die Reise geht.

Kommissionsvizepräsidentin Margrethe Vestager: „Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist.“

Die Herausforderung beginnt bei diesem Thema bereits mit dem Versuch, KI zu definieren. Grob gesagt meinen die einen solche Technologien, die menschliche Denk- und Entscheidungsprozesse nachbilden. Andere legen die Latte höher und wenden den Begriff auf Maschinen und technische Systeme an, die eigenständige Entscheidungen treffen. Der Vorschlag der Kommission interpretiert den Begriff, und damit den Regelungsbedarf, vergleichsweise breit. Alle Arten von Rechner-basierten Entscheidungssystemen im Allgemeinen bis hin zu maschinell lernenden und selbstlernenden Systemen zählen dazu. Damit verbunden schlägt die Kommission zudem eine Maschinen-Verordnung vor, die z.B. neue Sicherheitsregeln für 3-D-Drucker oder Roboter umfassen soll. Den Anspruch der Kommission beschreibt Margarethe Vestager so:

"Je höher das Risiko einer spezifischen Nutzungsart der KI, desto strenger die Regeln."

Diese Regeln schließen das Verbot von KI-Systemen ein, „die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten“. Dazu zählen Systeme, wie die in China längst üblichen Verfahren zur Bewertung sozialen Verhaltens der Bürger*innen. Auch die Echtzeit-Nutzung „biometrischer Fernidentifizierungssysteme“ soll verboten werden, jedenfalls grundsätzlich. „Grundsätzlich“ bedeutet hier nichts anderes, als dass – seltene – Ausnahmen zugelassen werden.

Hochrisikosysteme sieht die Kommission unter anderem beim Einsatz von KI in kritischen Infrastrukturen, bei der Schul- oder Berufsausbildung, bei Sicherheitskomponenten von Produkten oder der Rechtspflege und demokratischen Prozessen. Die aus Kommissionssicht strengen Vorgaben sollen folgende Elemente einschließen:

  • „Angemessene Risikobewertungs- und Risikominderungssysteme;

  • hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten;

  • Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen;

  • ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Konformität beurteilen können;

  • klare und angemessene Informationen für die Nutzer;

  • angemessene menschliche Aufsicht zur Minimierung der Risiken;

  • hohes Maß an Robustheit, Sicherheit und Genauigkeit.“

Auch ein Bereich, mit dem viele von uns beruflich wie privat mehr Erfahrungen sammeln konnten, als ihnen lieb war, soll geregelt werden. Wenn wir es in der digitalen Kommunikation nicht mehr mit Menschen, sondern mit sogenannten „Bots“ zu tun bekommen, dann sollen wir über diesen Umstand zwingend informiert werden.

Dass die Kommission Regelungsbedarf sieht, ist grundsätzlich sicher zu begrüßen. Die Begründung für diese Richtlinie lenkt den Blick auf ihren Mangel. Es geht darum, die EU zum führenden KI-Wirtschaftsraum zu entwickeln und die dazu nötige Akzeptanz in der Bevölkerung zu finden. So überrascht es wenig, dass die IG Metall hier nicht mit Kritik spart. Gerade was die betriebliche Praxis angeht, „ist die Aufsichtspflicht ungenügend und oftmals durch reine Selbstregulierung lückenhaft umgesetzt“, so ein Kommentar im Newsletter (den Ihr hier abonnieren könnt) aus unserem Verbindungsbüro Brüssel. Es bedarf schlicht einer „menschenzentrierten KI-Regulierung“. Aus unserer Sicht ist es außerdem selbstverständlich unverzichtbar, dass Betriebsräte (bzw. andere vergleichbare Gremien in den jeweiligen Mitgliedsländern) ein Mitspracherecht bekommen.

Daran, dass diese Vorstellungen in die Richtlinie einfließen, arbeitet unser Brüsseler Büro und nutzt die Tatsache, dass viele Parlamentarier*innen unseren Vorstellungen gegenüber offener sind, als die Kommission mit ihren von den nationalen Regierungen entsandten Mitgliedern.


Was ist eine EU-Richtlinie?

Eine Richtlinie in der EU muss bis zu einem festgesetzten Termin in allen Mitgliedsstaaten in geltendes Recht umgesetzt werden. Wie die Staaten das im Einzelnen regeln, bleibt ihnen überlassen. Entscheidend ist nur, dass der Rahmen der Richtlinie eingehalten wird.


Wie geht es weiter?

Die EU-Kommission hat nicht die Macht, Rechtsvorschriften zu erlassen. Sie ist auf die Zustimmung des EU-Parlaments und der Mitgliedsstaaten, die im Rat der Europäischen Union vertreten sind, angewiesen. Das ist in der Praxis ein mehrstufiger Prozess, in dem ein Vorschlag üblicherweise mehrfache Veränderungen erfährt, bis sowohl Kommission, Parlament und Rat einverstanden sind.


Ihr wollt euch näher mit KI auseinandersetzen?

Wir bieten gerade drei Online-Seminare zu diesem Thema an:

  • Künstliche Intelligenz im Betrieb mitbestimmen – Einstieg

  • Künstliche Intelligenz im Betrieb mitbestimmen – Vertiefung

  • Algorithmenethik

Alle aktuellen Termine und Anmeldungsmöglichkeiten findet ihr hier.

14 Ansichten