"KI regulieren, ohne Innovation zu bremsen"

Warum der AI Act Europa zur weltweiten Vorreiterin macht.


Wer diesen Beitrag lesen sollte:

  • Problemlöser:innen
  • Hacker:innen

Lesedauer:

4 Minuten

AutorIn: Peter Draxler

KI-generierter Frauenkopf i
Nikkikii | stock.adobe.com

Der AI Act der Europäischen Union setzt weltweit Maßstäbe: Einheitliche Regeln für KI-Systeme sollen Sicherheit garantieren und Innovationen in Europa fördern. Was dahinter steckt, haben wir mit Gabriele Mazzini, "Architekt" des AI Acts und KI-Governance-Experte am MIT Media Lab, besprochen.

Herr Professor Mazzini, Sie gelten als der Architekt des KI-Gesetzes der Europäischen Union. Können Sie kurz erklären, was die Hauptziele des AI Acts sind und warum diese Maßnahmen notwendig sind?

Gabriele Mazzini: Mit dem AI Act wollen wir die Regeln für das Inverkehrbringen und die Inbetriebnahme von KI-Systemen harmonisieren. Das Hauptziel besteht also im Wesentlichen darin, das Funktionieren des Binnenmarktes zu verbessern, und zwar durch die Schaffung eines einheitlichen Regelwerks für KI-Systeme, die auf dem Markt in Umlauf sind. Das ist die Hauptidee. Was sind denn nun die inhaltlichen Regeln? Diese Regeln sollen ein bestimmtes Schutzniveau gewährleisten, oder wie es im AI Act heißt, ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte.

Teaser für Anmeldung zum MARIE MAIL i
WKÖ/DMC

Spannende Updates für dich 

Mit der MARI€ MAIL erhältst du unsere wichtigsten Infos direkt in deine Mailbox.

Jetzt zum Newsletter amelden!

Einige Kritiker befürchten, dass strenge Vorschriften die Innovation bremsen könnten. Wie können Unternehmen sicherstellen, dass sie innovativ bleiben und gleichzeitig die Anforderungen des AI-Acts erfüllen?

Mazzini: Die Frage, ob Regulierung die Innovation hemmt, ist meiner Meinung nach eine grundsätzliche Frage. Ich denke nicht, dass hier die Unternehmen gefordert sind. Vielmehr liegt es in der Verantwortung der politischen Entscheidungsträger, dafür zu sorgen, dass die Vorschriften die Innovation nicht behindern. Natürlich müssen sich die Unternehmen an das Gesetz halten, es liegt aber nicht an ihnen, diesen Kompromiss zwischen Regulierung und Innovation zu schließen. Der Punkt ist, dass Unternehmen, die sich an die Gesetze halten, trotzdem in der Lage sein sollten, innovativ zu bleiben, weil die Gesetze dies ermöglichen. Ich denke, wir müssen abwarten, wie das Gesetz in der Praxis umgesetzt wird, denn das KI-Gesetz ist sicherlich kein einfaches Gesetz, und vor allem ist es sehr komplex. Und das ist meiner Meinung nach eine der größten Herausforderungen.

Factbox: Anforderungen und Umsetzung des AI Acts

Anforderungen für Unternehmen:
  • Risikoniveaus: KI-Systeme werden je nach Risikokategorie (akzeptabel, hoch, niedrig) reguliert. Die Anforderungen variieren entsprechend.
  • Hochrisiko-Anwendungen: Strenge Anforderungen wie:
    • Konformitätsbewertung
    • Transparenzpflichten
    • Dokumentation und Datensatzanforderungen
  • Verwendungszweck: Regeln orientieren sich am spezifischen Einsatzbereich des Systems.
  • Verbotene Systeme: Einige KI-Systeme mit unethischen oder diskriminierenden Ergebnissen sind vollständig verboten (mit wenigen Ausnahmen).
  • Allgemeine KI-Modelle: Neue Vorschriften gelten auch für KI-Basismodelle, die flexibel in verschiedenen Anwendungen genutzt werden können.
Überwachung und Sanktionen:
  • Marktaufsichtsbehörden: In jedem Mitgliedstaat kontrollieren spezialisierte Behörden die Einhaltung der Vorschriften.
  • Sanktionen:
    • Verwarnungen
    • Rücknahme vom Markt
    • Geldstrafen, abhängig von der Schwere des Verstoßes
  • Fokus auf Transparenz: Besonders bei niedrigeren Risiken liegt der Schwerpunkt auf Offenlegungspflichten.
  • Unterschiedliche Regelungen: Für spezifische Anwendungen und Basismodelle gibt es abgestufte Anforderungen.

Wie unterscheidet sich der AI-Act von Regelungen in anderen Regionen, wie den USA oder China? Gibt es Bereiche, in denen die EU eine führende Rolle einnimmt?

Mazzini: Es handelt sich um eine wirklich horizontale, breit angelegte Regulierung von KI in allen Bereichen. Und es ist der erste verbindliche Rechtsrahmen, der so umfassend ist. Es gibt keine vergleichbare Regelung in anderen Ländern. In den USA gibt es einige Initiativen, die den AI Act auf bundesstaatlicher Ebene imitieren, aber auf Bundesebene gibt es keine solche Initiative. China hat 2023 eine Durchführungsverordnung erlassen, aber das ist eine Exekutivmaßnahme. Es handelt sich nicht um ein Gesetz, und der Ansatz war definitiv ein ganz anderer. Es ging eher darum, die Exekutive zu ermutigen, die Spielräume der bestehenden Gesetze zu nutzen, um die Herausforderungen der KI in China zu bewältigen.

Es gibt auch keine horizontale Regulierung von KI, aber es gab einige spezifischere Initiativen. So sind die Initiativen in Bezug auf den Anwendungsbereich sehr viel spezifischer, wie z. B. im Bereich des automatisierten Fahrens, wo die Standardisierung gefördert wurde und es einige spezifische Regeln für generative KI gibt. Aber der Hauptunterschied liegt darin, dass wir nur in der EU einen so umfassenden Rechtsrahmen haben.

Gabriele Mazzini i
Gabriele Mazzini

Der AI Act gilt für Produkte, die in der EU vermarktet werden. Das bedeutet also, dass unabhängig davon, woher das Unternehmen kommt, eine bestimmte Anwendung, die in der EU vermarktet wird, dem KI-Gesetz unterliegt.

Gabriele Mazzini, "Architekt" des AI Acts der Europäischen Union

Wie kann die EU sicherstellen, dass das KI-Gesetz international nicht zu Wettbewerbsnachteilen für europäische Unternehmen führt? 

Mazzini: Es geht darum, dass die KI-Firmen oder das KI-Ökosystem der EU wettbewerbsfähig bleibt. Der AI Act gilt für Produkte, die in der EU vermarktet werden. Das bedeutet also, dass unabhängig davon, woher das Unternehmen kommt, eine bestimmte Anwendung, die in der EU vermarktet wird, dem KI-Gesetz unterliegt. In diesem Sinne behandelt das Gesetz alle Unternehmen gleich, unabhängig von ihrer Herkunft. Unternehmen vermarkten ihre Produkte zunächst auf ihrem eigenen Markt, in ihrem eigenen Land und streben erst später eine internationale Expansion an.

Das bedeutet also, dass europäische Unternehmen in gewisser Weise sofort mit dem Gesetz konfrontiert werden, weil ihr heimischer Markt durch das Gesetz reguliert wird, während ausländische Unternehmen möglicherweise erst in einer zweiten Phase mit dem Gesetz konfrontiert werden, wenn sie vielleicht eine andere Größenordnung haben. Letztendlich können die europäischen Regierungen am besten selbst sicherstellen, dass europäische Unternehmen nicht benachteiligt werden. Und zwar, indem Sie dafür sorgen, dass es einen klaren Weg für die Umsetzung des Gesetzes gibt, dass die Vorschriften genau festgelegt werden und nicht unverhältnismäßig sind. 

Das Wichtigste in Kürze:

  • Hauptziel des AI Acts: Harmonisierung der Regeln für die Vermarktung und Nutzung von KI-Systemen in der EU, um ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte zu gewährleisten.
  • Anforderungen für Unternehmen: Die Vorschriften variieren je nach Risikokategorie der KI-Systeme. Hochrisiko-Anwendungen unterliegen strengen Auflagen wie Konformitätsbewertung und Transparenzpflichten. Generative Modelle und verbotene Systeme werden spezifisch geregelt.
  • Überwachung und Sanktionen: Marktaufsichtsbehörden der Mitgliedstaaten überwachen die Einhaltung der Vorschriften. Sanktionen reichen von Verwarnungen bis hin zu hohen Geldstrafen oder dem Marktrückzug. 
  • Internationale Unterschiede: Der AI Act ist der erste umfassende Rechtsrahmen für KI weltweit. In den USA und China existieren lediglich sektorspezifische oder exekutive Maßnahmen, jedoch keine horizontalen Regulierungen. 
  • Wettbewerbsfähigkeit: Das Gesetz gilt für alle KI-Produkte in der EU, unabhängig von ihrer Herkunft. Europäische Unternehmen müssen sich jedoch frühzeitig anpassen, was durch klare, verhältnismäßige Vorschriften sichergestellt werden soll, um Nachteile zu vermeiden.