4 Minuten Lesezeit 11 Dezember 2023

Die weltweit erste Regulierung von Künstlicher Intelligenz (KI)

4 Minuten Lesezeit 11 Dezember 2023

Verwandte Themen Rechtsberatung

Gefällt mir

Weitere Materialien

Politische Einigung auf die EU KI-Verordnung im „Trilog“

In der Nacht von Freitag auf Samstag, den 9. Dezember 2023 haben das Parlament und der Rat eine politische Einigung über den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Union erzielt.

Einheitliche Definition von KI

Mit Spannung wurde erwartet, welche Definition von KI-System der Verordnung zu Grunde liegen soll. Davon wird maßgeblich der sachliche Anwendungsbereich abhängig sein. Am Ende steht ein Kompromiss, der die Definition sehr stark an dem vorhandenen Ansatz der OECD ausrichtet. Kurz gefasst, liegt KI vor, wenn auf Basis eines Inputs maschinell und autonom ein Output wie etwa Vorhersagen, Entscheidungen oder Inhalte generiert werden.

Risikobasierter Ansatz

Beim risikobasierten Ansatz, der unterschiedliche qualitative und quantitative Anforderungen an die verschiedenen Risikoklassifizierungen von KI-Systemen stellt, wurden letzte Feinheiten verhandelt. Dabei standen insbesondere die sogenannten Hochrisiko-KI-Systeme und verbotene KI-Praktiken im Mittelpunkt.

Für Hochrisiko-KI-System müssen insbesondere KI-Anbieter eine Vielzahl von Anforderungen erfüllen. Angefangen beim Risikomanagement, einer Data-Governance, menschlicher Aufsicht, technischen Dokumentation über System-Transparenz bis hin zum Qualitätsmanagement. Hingegen treffen Nicht-Hochrisiko-KI-Systeme weiterhin nur Transparenz gegenüber der natürlichen Person.

So unterstützen wir Sie

Digital Law

Die Digitalisierung transformiert nicht nur die Welt der Arbeit, Freizeit und Mobilität, sondern birgt auch immense rechtliche Herausforderungen. Mit unserer Practice Group Digital Law beraten wir unsere Mandanten dabei, die digitale Transformation rechtssicher zu gestalten.

“General purpose” KI-Systeme, Basismodelle und “fundamental rights impact assessment”

Auf den letzten Metern der Verhandlungen wurden Regelungen für “General purpose” KI-Systeme und Basismodelle geschaffen. Bei Ersteren handelt es sich um KI-Systeme, die für eine Vielzahl von verschiedenen Zwecken eingesetzt werden können. Die Basismodelle hingegen sind KI-Systeme, die eine weite Bandbreite an unterschiedlichen Aufgaben erfüllen können, wie etwa bei GPT-3.5 bzw. 4, welche in ChatGPT eingesetzt werden. Sie erstellen problemlos Videos, Texte, Bilder oder auch Quellcode für Computerprogramme nach einer entsprechenden Anweisung („Prompt“) des Nutzers. Für sie sollen insbesondere spezifische Transparenzanforderungen gelten, bevor sie in Verkehr gebracht werden. Zusätzliche Anforderungen sollen für „high impact“ Basismodelle gelten.

Für den Einsatz von Hochrisiko-KI-Systemen wird künftig ein sogenanntes „fundamental rights impact assessment“ durchzuführen sein. Der Ansatz zur Risikobewertung und Risikomitigierung ähnelt der Datenschutz-Folgenabschätzung aus der DSGVO.

Fazit

EY Law “Point of View” – Was sollten Organisationen jetzt tun?

Organisationen tun gut daran, sich schon heute mit KI-Compliance zu beschäftigen. Die KI-VO wird zeitnah verabschiedet und voraussichtlich in Q2/2024 in Kraft treten. Mit einer Übergangsfrist von zwei Jahren wird die KI-VO somit in 2026 unmittelbar verpflichten. Unternehmen wie auch der öffentliche Sektor sollten den Umsetzungsaufwand nicht unterschätzen (der sich ähnlich wie bei der DSGVO darstellen wird).

Dabei bieten sich prozessorientierte Organisationsmodelle an, die einem „by Design/by Default“-Ansatz folgen. So werden die vollständige und systematische Erfassung sämtlicher KI-Use Cases, deren Bewertung und Umsetzung von Maßnahmen effizient operationalisiert.

Neben der KI-VO gelten schon heute eine Vielzahl rechtlicher und regulatorischer Anforderungen für den Einsatz von KI-Systemen. Dazu gehören der Datenschutz, der Schutz von Geschäftsgeheimnissen, Urheberrechte und arbeitsrechtliche Mitbestimmung.

Weitere Details hierzu auch in unserem EY Law Newsletter unter: Rechtskonformer Einsatz von künstlicher Intelligenz im Lichte des Entwurfs der EU-KI-Verordnung

Über diesen Artikel

Autoren

Peter Katko

Partner | Global Digital Law Leader | Rechtsanwalt | Ernst & Young Law GmbH | Global

Peter Katko ist als Rechtsanwalt und Global Digital Law Leader bei EY Law tätig.

Eric Meyer, Dipl. iur. oec. univ.

Senior Associate | Wirtschaftsjurist | Ernst & Young Law GmbH | Deutschland

Eric Meyer ist Wirtschaftsjurist bei EY Law und im Bereich Digital Law tätig.

Verwandte Themen Rechtsberatung

Gefällt mir

Themen

Allgemein

Ansprechpartner

Entdecken

Die weltweit erste Regulierung von Künstlicher Intelligenz (KI)