Bundestag verabschiedet KI-Durchführungsgesetz

Die europäische KI-Verordnung (AI Act, in Kraft getreten im August 2024) hat erstmals einheitliche Regeln für Künstliche Intelligenz in der EU geschaffen, die schrittweise eingeführt werden. Sie folgt einem risikobasierten Ansatz: Je größer die möglichen Auswirkungen eines KI-Systems auf die Sicherheit oder die Grundrechte, desto strenger die Vorgaben.

Besonders wichtig sind die Regeln für Hochrisiko-KI-Systeme. Als solche gelten KI-Anwendungen, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte von Menschen haben können. Dazu zählen auch KI-Anwendungen im Personalbereich, etwa bei der Bewerberauswahl oder bei Personalentscheidungen. Solche Systeme bleiben zulässig, müssen aber strenge Anforderungen erfüllen. Wesentliche Personalentscheidungen dürfen niemals nur einer KI überlassen bleiben. 

Diese Vorschriften sollen ab dem 2. August 2026 gelten. Auf EU-Ebene wird jedoch eine Verschiebung für viele Hochrisiko-Systeme bis Ende 2027 vorbereitet.

Das deutsche Durchführungsgesetz legt fest, welche Behörden die Einhaltung der KI-Verordnung in Deutschland überwachen und Verstöße verfolgen. Zentrale Koordinierungsstelle wird die Bundesnetzagentur, bei der laut nun verabschiedetem Gesetz auch ein Koordinierungs- und Kompetenzzentrum sowie eine unabhängige KI-Marktüberwachungskammer zur Überwachung bestimmter Hochrisiko-KI-Systeme eingerichtet wird. Zudem regelt das Gesetz die Zusammenarbeit der Aufsichtsbehörden, ein Beschwerde- und Bußgeldverfahren bei Verstößen sowie die Förderung von KI-Innovationen.

Zuletzt ist auf Druck eines Expertenrats die Überprüfung der deutschen Aufsichtsstruktur im Gesetz verankert worden. Diese sieht eine Evaluierung in zwei Stufen vor: die erste spätestens 18 Monate nach Inkrafttreten des Gesetzes, die zweite spätestens drei Jahre danach. 

In die Weiterentwicklung der KI-Aufsicht sollen auch Wissenschaft, Sozialpartner, Wirtschaft und Zivilgesellschaft einbezogen werden.