Das EU-Gesetz zur künstlichen Intelligenz

Einführung

Die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) ist am 1. August 2024 in Kraft getreten. Sie ist weltweit die erste gesetzliche Regelung zur künstlichen Intelligenz.

Was ist der Hintergrund der KI-Verordnung?

Künstliche Intelligenz (KI) und ihre breit gefächerten Anwendungen haben verschiedene Bereiche revolutioniert, von kreativen Tätigkeiten wie dem Schreiben von Gedichten bis hin zu praktischen Aufgaben wie dem Aufsetzen von Verträgen. Mit dem weiteren Voranschreiten der KI wird ihr Stellenwert in unserem Leben immer größer und beeinflusst unsere täglichen Abläufe und Interaktionen erheblich. Es ist jedoch wichtig, sich darüber im Klaren zu sein, dass die Auswirkungen der KI nicht ohne Risiko sind. Die zunehmende Popularität der KI hat weltweit zu Bedenken hinsichtlich des Schutzes der Privatsphäre, der Rechte an geistigem Eigentum und hinsichtlich von Plagiaten geführt. Diese Bedenken sind mit der zunehmenden Verbreitung von KI-Technologien in der Gesellschaft entstanden.

Was genau ist der Zweck dieser Verordnung?

Gemäß Ziffer (1) der Erwägungsgründe der KI-Verordnung ist Zweck der KI-Verordnung, einen einheitlichen Rechtsrahmen insbesondere für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Union im Einklang mit den Werten der Union festzulegen, um die Einführung von vertrauenswürdiger künstlicher Intelligenz (KI) zu fördern, Gesundheit, Sicherheit und die Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz zu schützen und damit den Schutz vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten. Gleichzeitig soll die Innovation unterstützt und der grenzüberschreitende freie Verkehr KI-gestützter Waren und Dienstleistungen gewährleistet werden, wodurch verhindert wird, dass die Mitgliedstaaten die Entwicklung, Vermarktung und Verwendung von KI-Systemen beschränken, sofern dies nicht ausdrücklich durch diese Verordnung erlaubt wird.

Was genau regelt diese Verordnung?

Gemäß Art. 1 Abs. 2 der KI-Verordnung werden in dieser Verordnung harmonisierende Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen geregelt, sowie für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck. Es werden zudem bestimmte Verbote, besondere Anforderungen hinsichtlich Hochrisiko-KI-Systeme sowie harmonisierende Transparenzvorschriften für bestimmte KI-Systeme festgelegt. Schließlich regelt die KI-Verordnung auch Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung und bestimmt Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleinen und mittleren Unternehmen, einschließlich Start-up-Unternehmen.

• Was sind KI-Systeme?

= ein maschinengestütztes System, das für einen in unterschiedlicher Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.

• Was sind KI-Modelle mit allgemeinem Verwendungszweck?

= ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden.

Was umfasst den Anwendungsbereich dieser Verordnung?

Die KI-Verordnung gilt sowohl für private als auch für öffentliche Anbieter und Betreiber von KI-Systemen innerhalb und außerhalb der EU, sofern das KI-System in der EU in Verkehr gebracht wird oder seine Anwendung Auswirkungen auf Menschen in der EU hat. Mit der KI-Verordnung wird KI in verschiedene Risikoeinstufungen unterteilt. 

• KI-Systeme, die als hochriskant eingestuft werden, unterliegen strengen Anforderungen.

= KI-Systeme, die als hochriskant eingestuft werden, werden in Einstufungsvorschriften für Hochrisiko-KI-Systeme in Art. 6 KI-VO behandelt und beschrieben.

• KI-Systeme mit einem begrenzten Risiko müssen die Transparenzverpflichtungen der KI-VO umzusetzen.

= KI-Systeme mit einem begrenzten Risiko sind Systeme, die facettenreiche Anwendungsmöglichkeiten oder die Einbeziehung in weitere Anwendungen bieten. Von dieser Kategorie geht deshalb ein geringeres Risiko aus, da sie sich durch einen sehr spezifischen Einsatz und sehr spezifische Funktionen auszeichnen. Beispiele wären hier KI-Systeme zur Erstellung von “Deep Fakes”, also von KI zur Generierung oder Manipulation von Bild-, Video- oder Audiomaterial. Im Falle von KI-Systemen mit begrenztem Risiko ist lediglich die Transparenzpflicht der KI-Verordnung zu beachten, bei “Deep Fakes” beispielsweise durch ein Wasserzeichen. Dies gilt insbesondere für KI-Systeme, die unmittelbar mit natürlichen Personen interagieren. Dies soll den Nutzer vor Täuschungen oder Missverständnissen schützen.

• KI-Systeme mit einem minimalen Risiko unterliegen keinen besonderen Verpflichtungen.

= KI-Systeme mit einem minimalen Risiko sind all jene KI-Systeme, die in keine der vorgenannten Kategorien fallen. Dementsprechend ist für sie der Anwendungsbereich der KI-VO, zumindest auf der Rechtsfolgenseite, nicht eröffnet. Das bedeutet, dass bei Nichteinhaltung der KI-VO keine Sanktionierung erfolgt. Beispiele hierfür sind beispielsweise KI- Komponenten in Videospielen oder Spamfiltern.

• KI-Systeme, die als Bedrohung für die Grundrechte der Menschen gelten, also ein unannehmbares Risiko darstellen, werden ganz verboten.

Zum Verbot von KI-Systemen nach der KI-Verordnung

 Ausnahmen

Vorweg ist zu erwähnen, dass die Verordnung folgende Ausnahmen beinhaltet. Verwendung der KI für Belange der nationalen Sicherheit, militärische oder verteidigungspolitische Zwecke (vgl. Art. 2 Abs. 3 KI-VO) sind nicht von einem Verbot erfasst. Außerdem ausgenommen sind Kooperationen mit Behörden aus Drittländern oder internationalen Organisationen zum Zweck der Strafverfolgung und Justizzusammenarbeit, hierbei werden allerdings Schutzgarantien gefordert. Zudem ausgenommen sind nach Art. 2 Abs. 6 KI-VO KI-Systeme die der Forschung und Wissenschaft dienen. Zuletzt bezieht sich das Verbot nicht auf die rein private Nutzung von KI- Systemen.

Verbote

Nun erfolgt die Zuwendung zu verbotener KI. Art. 5 KI-VO beinhaltet eine Auflistung der untersagten KI-Systeme. Manipulierende, täuschende KI, die dazu verleitet Entscheidungen zu treffen, die andernfalls nicht getroffen worden wären und diese Entscheidungen zumindest mit hinreichender Wahrscheinlichkeit zu Schaden führen, ist unzulässig. Außerdem aufgeführt ist auch KI, die Schwachstellen (Alter, Behinderung, soziale oder wirtschaftliche Position) ausnutzt und das Verhalten in wesentlicher Weise beeinflusst. Auch hier wird verwiesen auf zumindest eine hinreichende Wahrscheinlichkeit eines Schadenseintrittes. Des Weiteren ist der Einsatz von KI zur biometrischen Kategorisierung, aufgrund von sensiblen persönlichen Daten wie Rasse oder politischen Meinungen verboten. Eine Ausnahme besteht im Rahmen der Strafverfolgung. KI-Systeme, die dem “Social Scoring” dienen, also der Bewertung des Sozialverhaltens über einen längeren Zeitraum sind untersagt. KI zur Echtzeit-Biometrischen-Fernidentifikation in öffentlichen Räumen ist nur zulässig, im Rahmen schwerwiegender Straftaten oder bei unmittelbarer Gefahr. Unzulässig hingegen ist KI zur Kriminalitätsvorhersage ohne objektive Fakten. Solche KI, die zur Analyse von Emotionen dient und ohne medizinische und sicherheitstechnische Gründe stattfindet, ist am Arbeitsplatz oder in Bildungseinrichtungen untersagt.

Praktische Bedeutung dieser Verbote

Dies hat zur Folge, dass die Markteinführung, Nutzung und Vermarktung von KI-Systemen dieser Art verboten sind.

Ausblick

Es bleibt allerdings zu erwarten, dass die abstrakten Rechtsbegriffe, vor allem ihre Details, Thema von Diskussionen sein werden.

Welche besonders hervorzuhebenden Vorschriften hat die KI-Verordnung?

Es gelten besondere Transparenzverpflichtungen, so müssen beispielsweise KI-Systeme wie Chatbots ihre Nutzer deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. 

Was sind die Strafen für die Nichteinhaltung der KI-Verordnung?

Verstöße im Zusammenhang mit den oben genannten verbotenen künstlichen Praktiken (Artikel 5) und der Nichteinhaltung der Daten-Governance-Bestimmungen (Artikel 10) können mit Geldbußen von bis zu 30.000.000,- EUR oder bis zu 6% des weltweiten Jahresumsatzes des Zuwiderhandelnden geahndet werden, je nachdem, welcher Betrag höher ist. Verstöße, die sich nicht auf Artikel 5 und 10 beziehen, können mit Geldbußen von bis zu 20.000.000,- EUR oder bis zu 4% des weltweiten Jahresumsatzes des Zuwiderhandelnden geahndet werden, je nachdem, welcher Betrag höher ist. Die Erteilung falscher oder irreführender Auskünfte auf amtliche Anfragen der zuständigen Behörden kann mit Geldbußen von bis zu 10.000.000,- EUR oder bis zu 2% des  weltweiten Jahresumsatzes des Zuwiderhandelnden geahndet werden, je nachdem, welcher Betrag höher ist. Es ist wichtig zu beachten, dass die genaue Höhe der Geldbuße von den besonderen Umständen des Einzelfalls abhängt, einschließlich der Schwere und der Folgen des Verstoßes. Auch die Größe und der Marktanteil des Zuwiderhandelnden sollten berücksichtigt werden. Wurde gegen den Zuwiderhandelnden bereits früher ein Bußgeld verhängt, wird dies ebenfalls berücksichtigt.

Ab wann gelten die Bestimmungen der KI-Verordnung?

Die meisten Vorschriften der neuen KI-Verordnung werden ab dem 2. August 2026 gelten, lediglich Verbote bei KI-Systemen, die ein unannehmbares Risiko darstellen, gelten bereits nach sechs Monaten. Die Governance-Regeln und die Verpflichtungen für KI-Modelle für allgemeine Zwecke treten nach zwölf Monaten, und die Vorschriften für KI-Systeme, die in regulierte Produkte eingebettet sind, nach 36 Monaten in Kraft.

Autor: Senem Kathrin Güçlüer