Welche Ziele verfolgt der AI Act?

Der Gesetzesvorschlag der Europäischen Kommission über den Artificial Intelligence Act (AI Act) soll grundlegende Regelungen für die sichere Entwicklung und Nutzung von KI festlegen. Im Allgemeinen strebt das KI-Gesetz nach einer Regulierung von Technologien, die menschenähnliche Aktivitäten ausführen können. Darunter fällt logisches Denken, Entscheiden, Lernen, Planen und Kreieren. Das Gesetz versteht unter KI insbesondere „Systeme der künstlichen Intelligenz“ (KI-Systeme), also Software, die mithilfe von Algorithmen so entwickelt wurde, dass diese Inhalte, Vorhersagen, Empfehlungen und Entscheidungsvorlagen erstellen kann.

Der Gesetzesvorschlag des AI ACT verfolgt vier Ziele:

1. Den Schutz der existierenden Grundrechte und -werte, unter anderem der Menschenwürde, der Freiheit und der Gleichheit vor dem Gesetz. Die Betonung der Menschenwürde unterstreicht das Interesse der EU am Schutz des Individuums, unabhängig von sozialer Schicht, Herkunft, Geschlecht oder Religion.
    
2. Die Ausweitung der Governance und der wirksamen Durchsetzung des in der EU geltenden Rechts in Bezug auf die grundlegenden Menschenrechte und Sicherheitsanforderungen, die auf KI angewandt werden können. Hierzu zählen beispielsweise das Recht auf Nichtdiskriminierung, Datenschutz und Privatsphäre.
    
3. Die Unterstützung der Entwicklung eines Binnenmarktes für rechtmäßige, „sichere und vertrauenswürdige“ KI sowie die Etablierung eine einheitlicher Regulatorik.
    
4. Die Gewährleistung von Rechtssicherheit und dadurch die Erleichterung von Investitionen und Innovationen.
    

Die Grundlage des KI-Gesetzes: Risikoorientierter Ansatz

Um die Vorteile von KI-Systemen zu nutzen und unerwünschte Folgen zu vermeiden, stellt das KI-Gesetz das Risiko und somit die negativen Auswirkungen von KI in den Mittelpunkt. Klassifiziert werden die Risiken resultierend aus der Anwendung von KI wie folgt: (1) inakzeptabel, (2) hoch und (3) gering oder minimal.

Ein inakzeptables Risiko ist beispielsweise, wenn KI-Systeme den Zugang einer Person zu Bildung, Beschäftigung oder wesentlichen öffentlichen Dienstleistungen gefährden. Bei inakzeptablen Risiken verbietet der Gesetzesentwurf den Einsatz von KI-Systemen, etwa bei einer automatisierten Kategorisierung von Personen basierend auf ihrem Sozialverhalten oder ihren Persönlichkeitsmerkmalen. Das in China entwickelte „Social-Scoring-System“ könnte somit in der EU nicht eingesetzt werden, da es gegen die Grundrechte in der EU wie den Schutz vor Diskriminierung verstößt.

Beispiele für hohe Risiken sind laut dem KI-Gesetz der Einsatz von KI-Systemen in der kritischen Infrastruktur, in der Strafverfolgung oder im Bildungswesen. So könnten KI-Systeme unter anderem die Versorgung und Verteilung von Wasser, Gas, Strom oder Wärme kontrollieren. Dieser Einsatz von KI impliziert eine Gefährdung der Gesundheit und des Lebens der Bürger. Demnach müssen alle KI-Systeme mit hohem Risiko vor ihrer Markteinführung und während ihrer Lebensdauer einer Risikobewertung durch einen Menschen unterzogen werden.

Das KI-Gesetz erlaubt unter bestimmten Bedingungen die transparente Nutzung von KI-Systemen mit geringem oder minimalem Risiko, beispielsweise Chatbots oder andere KI-Systeme, die Bild-, Audio- oder Videomaterial erstellen können. Nach den Diskussionen über den aktuellen Legislativvorschlag sollten KI-Systeme mit geringem oder minimalem Risiko die Nutzer über ihre Interaktion mit der KI informieren und die Verwendung personenbezogener Daten oder die Erstellung von Vorhersagen, die sich möglicherweise auf Einzelpersonen auswirken könnten, verhindern.

Was ist der Anwendungsbereich des KI-Gesetzes?

Das KI-Gesetz gilt für alle Unternehmen oder Individuen, die in der EU KI-Systeme in Verkehr bringen oder in Betrieb nehmen. Das heißt, dieser Gesetzesvorschlag gilt für KI-Anbieter in der Union, unabhängig davon, ob sie ihren Sitz in einem der EU-Mitgliedstaaten oder in einem Drittland wie den Vereinigten Staaten von Amerika oder Indien haben. Allerdings sollte das KI-Gesetz nicht für die nationale Sicherheit, die Verteidigung, militärische Zwecke und die Verwendung der Ergebnisse von KI-Systemen für nichtprofessionelle Zwecke sowie für Forschung und Entwicklung gelten.

Außerdem erstreckt sich der Anwendungsbereich des KI-Gesetzes nicht nur auf die kommerzielle Nutzung von KI-Systemen, von denen Ergebnisse wie Inhalte, Vorhersagen oder Empfehlungen generiert werden, sondern auch auf die Nutzung durch Behörden. So sieht der Gesetzesentwurf insbesondere ein Verbot für Behörden vor, KI-Systeme für „Social Scoring“ und die biometrische Identifizierung in Echtzeit zu Strafverfolgungszwecken einzusetzen.

Überdies zielt dieser Legislativvorschlag darauf ab, die Kohärenz mit anderen europäischen Rechtsvorschriften herzustellen, also etwa mit der Datenschutz-Grundverordnung (DSGVO), der Richtlinie 2000/31/EG15 über den elektronischen Geschäftsverkehr und dem jüngsten Legislativvorschlag zum Gesetz über digitale Dienste (DSA). In ähnlicher Weise wird die EU-Kommission auch KI-bezogene Rechtsvorschriften wie die Maschinenrichtlinie oder die Richtlinie über die allgemeine Produktsicherheit überarbeiten.

Wann wird der AI ACT voraussichtlich in Kraft treten?

Es gibt kein festes Datum, bis zu dem die Gesetzgebungsverhandlungen in der EU abgeschlossen sein und die endgültige Fassung des KI-Gesetzes vorliegen wird. Der Gesetzgeber geht jedoch davon aus, dass der Prozess bis Ende 2023 dauern wird. Die betroffenen Unternehmen haben nach der Verabschiedung des Gesetzes eine anschließende Umsetzungsfrist von zwei Jahren.

Sie haben Fragen zum Thema Governance, Risk und Compliance rund um den Einsatz von KI-Systemen? Dann kontaktieren Sie uns gerne direkt über die Kontaktdaten in unseren Autorenprofilen.

Quelle Titelbild: AdobeStock/Cagkan