Künstliche Intelligenz verändert unsere Welt – aber sie bringt auch tiefgreifende ethische, rechtliche und gesellschaftliche Herausforderungen mit sich. Als Reaktion darauf hat die Europäische Union die KI-Verordnung verabschiedet. Einzelne Vorschriften der Verordnungfinden seit Februar 2025 Anwendung und weitere Teile treten schrittweise in Kraft.
Sie ist der weltweit erste umfassende Rechtsrahmen zur Regulierung der Nutzung und Entwicklung von KI-Systemen in der EU. Wenn Ihr Unternehmen in der EU tätig ist, KI einsetzt oder KI-gestützte Produkte oder Dienstleistungen vermarktet, finden Sie im Folgenden eine kurze Übersicht über die wichtigsten Aspekte zur Einhaltung der Verordnung und wie Sie sich darauf vorbereiten können.
Was ist das KI-Verordnung über künstliche Intelligenz?
Die KI-Verordnung ist eine wegweisende Verordnung, die einen risikobasierten Ansatz für die Nutzung, Entwicklung und den Einsatz von Systemen der künstlichen Intelligenz in der gesamten Europäischen Union einführt. Sie definiert, wie ein KI-System zu definieren ist, legt Verpflichtungen in Abhängigkeit vom Risikograd eines bestimmten Systems fest und setzt Anforderungen an Transparenz, Sicherheit und Rechenschaftspflichten durch.
Wichtige Definitionen abgeleitet aus der EU-Verordnung:
- KI-System: Bezeichnet ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.
- General Purpose AI (GPAI): Bezeichnet KI‑Modelle mit allgemeinem Verwendungszweck – einschließlich der Fälle, in denen ein solches KI‑Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird –, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI‑Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden.
- Hochrisiko KI: Ganz allgemein handelt es sich hierbei um Hochrisiko-KI-Systeme, die erhebliche Gefahren für die Gesundheit, Sicherheit oder Grundrechte von Menschen darstellen.
Warum hat die EU die KI-Verordnung verabschiedet?
Die EU hat sie verabschiedet, um die Entwicklung vertrauenswürdiger KI zu fördern, die die europäischen Werte und Grundrechte wahrt. Es soll den Missbrauch von KI-Technologien – wie Massenüberwachung oder Algorithmen zur Klassifizierung natürlicher Personen oder Personengruppen auf der Grundlage ihres Sozialverhaltens (Social Scoring) – verhindern und die Bürger vor voreingenommenen oder schädlichen algorithmischen Ergebnissen schützen.
Gleichzeitig fördert die Verordnung Innovationen durch Instrumente wie regulatorische Sandbox und gewährleistet gleichzeitig einen fairen Wettbewerb. Strategisch positioniert sich die Gesetzgebung der EU als weltweit führend in der KI-Regulierung, ähnlich wie bereits mit der DSGVO im Bereich des Datenschutzes.
Was bedeutet die EU-Verordnung konkret für europäische Unternehmen?
Das KI-Gesetz legt europäischen Unternehmen je nach ihrer Rolle und dem Risikograd der von ihnen verwendeten oder bereitgestellten KI-Systemen spezifische Verpflichtungen auf.
- Anbieter von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen (intern oder durch benannte Stellen) durchführen, eine Marktüberwachung einrichten, eine robuste Cybersicherheit und Datenqualität gewährleisten, detaillierte Aufzeichnungen führen und gegebenenfalls eine Grundrechte-Folgenabschätzung (FRIA) durchführen.
- Betreiber von KI-Systemen sind grundsätzlich verpflichtet, Nutzer bei der Interaktion mit KI (z. B. Chatbots) zu informieren, offenzulegen, wenn Inhalte KI-generiert oder manipuliert sind, und Beschäftigte zu benachrichtigen, wenn KI am Arbeitsplatz eingesetzt wird.
- Anbieter von General Purpose AI-Modellen (GPAI) müssen technische Dokumentation führen, Zusammenfassungen der Trainingsdaten bereitstellen, die EU-Urheberrechtsvorschriften einhalten und bei Modellen, die den Schwellenwert von 1025 FLOPs überschreiten, systemische Risiken überwachen und mindern.
Darüber hinaus dürfen alle Unternehmen keine als verboten Praktiken bezeichnete KI anwenden bzw. einführen, darunter (aber nicht ausschließlich) manipulative KI, Emotionserkennung in sensiblen Umgebungen wie Schulen oder Arbeitsplätzen und das gezielte Scraping biometrischer Daten. Die Verpflichtung zur Förderung der KI-Kompetenz gilt für alle, egal, ob für Anbieter oder Betreiber eines KI-Systems.
Mögliche Hürden für die Einhaltung der KI-Verordnung
Die KI-Verordnung ist gut gemeint. Allerdings birgt das Gesetz erhebliche Compliance-Hürden, insbesondere für Start-ups und kleine und mittlere Unternehmen (KMU), da sie mit folgenden Herausforderungen konfrontiert sein könnten:
- Unternehmen müssen komplexe Klassifizierungen mit derzeit noch sehr vagen Definitionen bewältigen, die noch nicht durch die Rechtsprechung konkretisiert sind, was die Systemkategorisierung erschwert.
- Auch die Compliance-Kosten sind für Hochrisiko Systeme hoch, da sie teure Tests, Dokumentationen und rechtliche Überprüfungen erfordern.
- Darüber hinaus gibt es Lücken in der Standardisierung, da viele Standards (z. B. Wasserzeichen, Erklärbarkeit) noch in der Entwicklung sind.
- Unternehmen stehen auch vor der Herausforderung, die KI-Compliance mit bestehenden Vorschriften wie der DSGVO, Produktsicherheits- und Arbeitsgesetzen in Einklang zu bringen.
- Es gibt auch Bedenken in der Hinsicht, dass Open-Source-Entwickler und akademische Forscher in Grauzonen innerhalb der aktuellen Ausnahmeregelungen geraten könnten.
Vorteile der KI-Verordnung für Unternehmen
Die KI-Verordnung erhöht zwar die Compliance-Hürden, wie oben dargelegt, bietet aber auch wertvolle Vorteile:
- Unternehmen, die sich an die Verordnung halten, stärken das Vertrauen ihrer Kunden in einer Zeit, in der die Auswirkungen der KI auf und in der Gesellschaft bereits und zunehmender diskutiert werden.
- Durch die Einhaltung der Vorschriften positionieren sich Unternehmen als Vorreiter, was ihnen wiederum ermöglicht, Branchenstandards mitzugestalten.
- Schließlich sorgt die Anpassung an die Verordnung für Zukunftssicherheit, da sich die globalen Regulierungsrahmen weiterentwickeln und weltweit ausweiten.
Checkliste: Wie lässt sich die KI-Verordnung am besten einhalten?
- Erfassen Sie alle KI-Systeme, die Sie verwenden oder entwickeln (KI-Bestandsaufnahme).
- Klassifizieren Sie KI-Anwendungsfälle und ‑Tools nach Risikostufen.
- Ermitteln Sie die rechtlichen Verpflichtungen, einschließlich Urheberrecht und Datenschutzrecht, je nach Ihrer Rolle als Anbieter, Betreiber oder Importeur.
- Beginnen Sie mit dem Aufbau interner Compliance- und Organisationsstrukturen (z. B. KI-Richtlinien, KI-Kompetenz einschließlich Schulungen, FRIA-Vorlagen).
- Beobachten Sie Aktualisierungen der Standardisierung und Leitlinien des EU-KI-Amtes.
- Erwägen Sie die Teilnahme an regulatorischen Sandboxes, um innovative Lösungen unter behördlicher Aufsicht zu testen.
- Richten Sie ein Lebenszyklusmanagement ein, z. B. Best Practices und Kontrollen bereits implementierter Compliance-Strukturen.
Innovation erfordert Verantwortung
Das EU-KI-Gesetz stellt Unternehmen vor erhebliche neue Herausforderungen, da umfangreiche Anpassungen von Prozessen und Technologien erforderlich sind. Innovation im Bereich KI bringt eine große Verantwortung mit sich. Die KI Verordnung ist ein Meilenstein für eine verantwortungsvolle KI-Regulierung und ein Weckruf für Unternehmen, dass KI Regulierung nicht länger eine rechtliche Grauzone darstellt. Indem sie Compliance nicht nur als rechtliche Hürde, sondern als Instrument zum Aufbau von Vertrauen betrachten, können Unternehmen das KI-Gesetz souverän umsetzen und in der nächsten Welle ethischer Innovationen eine Führungsrolle übernehmen.
Haftungsausschluss
Die Informationen zur KI Verordnung dienen ausschließlich allgemeinen Informationszwecken und stellen keine Rechtsberatung dar. Trotz größter Sorgfalt bei der Erstellung dieses Dokuments erhebt es keinen Anspruch auf Vollständigkeit oder Richtigkeit.
