Das Wichtigste in Kürze
- Der EU AI Act ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz.
- Er klassifiziert KI-Systeme nach Risikopotenzial und verbietet bestimmte Praktiken wie kognitive Verhaltensmanipulation und soziales Scoring.
- Das Gesetz tritt schrittweise in Kraft, mit voller Anwendbarkeit nach zwei Jahren, und enthält spezifische Übergangsfristen.
- Ziel ist die Förderung sicherer und vertrauenswürdiger KI unter Wahrung der Grundrechte und Innovationsförderung in Europa.
Der EU AI Act: Das erste umfassende Regelwerk für Künstliche Intelligenz
Der Europäische Rat hat den AI Act, das erste umfassende Regelwerk für Künstliche Intelligenz (KI) weltweit, verabschiedet. Dieses Gesetz zielt darauf ab, die Entwicklung und Nutzung sicherer und vertrauenswürdiger KI-Systeme im EU-Binnenmarkt zu fördern. Dabei sollen sowohl private als auch öffentliche Akteure einbezogen werden, während gleichzeitig die Grundrechte der EU-Bürger respektiert und Investitionen sowie Innovationen im Bereich der Künstlichen Intelligenz in Europa angeregt werden.
Klassifizierung von KI-Systemen: Hochrisiko und verbotene Praktiken
Das neue Gesetz kategorisiert verschiedene Arten von Künstlicher Intelligenz nach ihrem Risikopotenzial. Systeme mit begrenztem Risiko unterliegen lediglich leichten Transparenzpflichten. Im Gegensatz dazu sind hochriskante KI-Systeme zwar zugelassen, müssen jedoch eine Reihe von Anforderungen und Verpflichtungen erfüllen, um Zugang zum EU-Markt zu erhalten.
- Kognitive Verhaltensmanipulation
- Soziales Scoring
- Prädiktive Polizeiarbeit, die auf Profiling basiert
- Systeme, die biometrische Daten zur Kategorisierung von Menschen nach Merkmalen wie Rasse, Religion oder sexueller Orientierung nutzen
Zeitlicher Rahmen und nächste Schritte
Nach der Unterzeichnung durch die Präsidenten des Europäischen Parlaments und des Rates wird der Rechtsakt in den kommenden Tagen im Amtsblatt der EU veröffentlicht. Er tritt zwanzig Tage nach dieser Veröffentlichung in Kraft. Die neue Verordnung wird jedoch erst zwei Jahre nach ihrem Inkrafttreten vollständig anwendbar sein.
Es gibt jedoch Ausnahmen bei den Übergangsfristen: Verbote werden bereits nach sechs Monaten wirksam. Die Governance-Regeln und Verpflichtungen für allgemeine KI-Modelle gelten nach 12 Monaten. Regeln für in regulierte Produkte eingebettete KI-Systeme treten nach 36 Monaten in Kraft.
Um den Übergang zu erleichtern, hat die Kommission den AI Pact ins Leben gerufen. Diese freiwillige Initiative soll die Umsetzung unterstützen und KI-Entwickler aus Europa und darüber hinaus dazu ermutigen, die wichtigsten Verpflichtungen des AI Act bereits im Vorfeld einzuhalten.
Hintergrund und Ziele des AI Acts
Der AI Act ist ein zentraler Bestandteil der EU-Politik, um die Entwicklung und Nutzung sicherer und rechtmäßiger KI zu fördern, die die Grundrechte respektiert. Der Vorschlag für den AI Act wurde im April 2021 von der Kommission eingereicht. Eine vorläufige Einigung zwischen den Mitgesetzgebern wurde am 8. Dezember 2023 erzielt.
Klare Anforderungen und Unterstützung für Unternehmen
Das Gesetz soll KI-Entwicklern und -Anwendern klare Anforderungen und Verpflichtungen für bestimmte KI-Anwendungen bieten. Gleichzeitig zielt die Verordnung darauf ab, den administrativen und finanziellen Aufwand für Unternehmen, insbesondere kleine und mittlere Unternehmen (KMU), zu reduzieren.
Ein umfassendes Maßnahmenpaket
Der AI Act ist Teil eines breiteren Pakets politischer Maßnahmen, das die Entwicklung vertrauenswürdiger KI unterstützt. Dazu gehören auch das KI-Innovationspaket und der koordinierte Plan für KI. Gemeinsam gewährleisten diese Maßnahmen die Sicherheit und die Grundrechte von Menschen und Unternehmen im Zusammenhang mit KI. Sie sollen zudem die Akzeptanz, Investitionen und Innovationen im Bereich der KI in der gesamten EU stärken.
Als weltweit erster umfassender Rechtsrahmen für KI verfolgen die neuen Vorschriften das Ziel, vertrauenswürdige KI in Europa und darüber hinaus zu fördern. Dies geschieht, indem sichergestellt wird, dass KI-Systeme Grundrechte, Sicherheit und ethische Grundsätze respektieren und die Risiken sehr leistungsfähiger KI-Modelle angemessen berücksichtigt werden.
Die Notwendigkeit der KI-Regulierung
Der AI Act stellt sicher, dass die Europäer den Angeboten von KI vertrauen können. Während die meisten KI-Systeme ein begrenztes oder gar kein Risiko darstellen und viele gesellschaftliche Herausforderungen lösen können, bergen bestimmte KI-Systeme Risiken, die wir angehen müssen, um unerwünschte Ergebnisse zu vermeiden.
Es ist beispielsweise oft schwierig nachzuvollziehen, warum ein KI-System eine bestimmte Entscheidung getroffen hat. Daher kann es kompliziert sein zu beurteilen, ob jemand unfair benachteiligt wurde, etwa bei einer Einstellungsentscheidung oder einem Antrag auf eine öffentliche Leistung. Obwohl die bestehende Gesetzgebung einen gewissen Schutz bietet, reicht sie nicht aus, um die spezifischen Herausforderungen von KI-Systemen zu bewältigen.
Die vorgeschlagenen Regeln werden:
- Risiken angehen, die spezifisch durch KI-Anwendungen entstehen;
- KI-Praktiken verbieten, die inakzeptable Risiken darstellen;
- eine Liste der Hochrisikoanwendungen erstellen;
- klare Anforderungen an KI-Systeme für Hochrisikoanwendungen festlegen;
- spezifische Verpflichtungen für Anwender und Anbieter von hochriskanten KI-Anwendungen definieren;
- eine Konformitätsbewertung verlangen, bevor ein bestimmtes KI-System in Betrieb genommen oder auf den Markt gebracht wird;
- die Durchsetzung nach der Markteinführung eines bestimmten KI-Systems sicherstellen;
- eine Governance-Struktur auf europäischer und nationaler Ebene etablieren.
Fazit
Der AI Act markiert einen entscheidenden Schritt hin zu einer verantwortungsvollen und ethischen Entwicklung sowie Nutzung von KI in Europa. Er schafft einen notwendigen Rahmen, der Innovation und Wettbewerbsfähigkeit fördert und gleichzeitig die Grundrechte und die Sicherheit der Bürger schützt. Die Wirksamkeit dieses Gesetzes bei der Etablierung einer sicheren, ethischen und innovativen KI wird in den kommenden Jahren genau zu beobachten sein.