Die Europäische Kommission trägt als Initiator und Verfasser des AIA die Hauptverantwortung für die Gestaltung des Rechtsrahmens. Sie steuert den Entwurfsprozess, führt Konsultationen mit verschiedenen Interessengruppen durch und koordiniert die Umsetzung mit den Mitgliedstaaten.

Das Europäische Parlament und der Rat der Europäischen Union haben als Mitentscheider die Möglichkeit, die Rahmengesetzgebung zu ändern und zu ergänzen. Die Entscheidungen spiegeln die politischen Prioritäten und Interessen der europäischen Bürger wider.

Die Mitgliedstaaten sind für die Implementierung und Durchsetzung der Richtlinie in ihren Ländern verantwortlich.

Die nationalen Behörden spielen eine Schlüsselrolle bei der Kontrolle und Überwachung der Einhaltung der Verordnung durch Unternehmen.  

Als Entwickler und Nutzer von KI-Systemen tragen Unternehmen eine große Verantwortung für die Einhaltung des Regelwerks. Sie müssen sich mit den Anforderungen der Verordnung vertraut machen, geeignete Prozesse und Systeme implementieren und die notwendigen Ressourcen bereitstellen.

Forscher und Entwickler spielen als Innovatoren im Bereich der KI-Technologien eine wichtige Rolle bei der Gestaltung der Zukunft der KI. Sie sollten sich mit den ethischen und rechtlichen Rahmenbedingungen vertraut machen und aktiv an der Entwicklung von KI-Systemen mitwirken, die den Anforderungen des Gesetzes entsprechen.

Die Zivilgesellschaft vertritt die Interessen der Nutzer von KI-Systemen und hat die Möglichkeit, sich an der Diskussion über die KI-Regulierung zu beteiligen und ihre Meinung zu äußern. NGOs, Verbraucherschutzzentralen und andere Interessenverbände können einen wichtigen Beitrag zur Gestaltung des Rechtsrahmens leisten.

Darüber hinaus wird die Europäische Agentur für künstliche Intelligenz (AIDA) die Europäische Kommission bei der Umsetzung des Regelwerks unterstützen. AIDA wird Leitlinien und Empfehlungen erarbeiten, um Unternehmen die Einhaltung der Verordnung zu erleichtern.

Die Europäische Kommission strebt außerdem eine enge Zusammenarbeit mit anderen Ländern und Regionen an, um eine globale Harmonisierung der KI-Regulierung zu erreichen.

Relevante Gesetzesänderungen im Kontext des Artificial Intelligence Act

Das KI-Gesetz der EU markiert einen Wendepunkt in der Regulierung digitaler Technologien und erfordert Anpassungen bestehender Gesetze, um Inkonsistenzen zu vermeiden und Rechtssicherheit zu gewährleisten.

• Datenschutz-Grundverordnung (DSGVO):
  Die KI-Verordnung baut auf der DSGVO auf und führt spezifische Anforderungen für KI-Systeme ein, die personenbezogene Daten verarbeiten. Hochriskante KI-Systeme müssen strenge Datenschutzprüfungen durchlaufen.
• Allgemeine Produktsicherheitsverordnung (GPSV):
  Die GPSV wird auf KI-Systeme ausgeweitet, um spezifische Sicherheitsanforderungen für KI-Produkte festzulegen und Gesundheitsrisiken für Verbraucher zu vermeiden.
• Verordnung über elektronische Identifizierung und Vertrauensdienste (eIDAS):
  Anpassungen der eIDAS-Verordnung sind notwendig, um die Interoperabilität und Sicherheit von KI-Systemen für elektronische Identifizierung und Vertrauensdienste zu gewährleisten.
• Verbraucherschutzrecht:
  Das KI-Gesetz stärkt den Verbraucherschutz durch Transparenz- und Fairnessanforderungen, um Verbraucher vor irreführenden KI-Praktiken zu schützen.
• Haftungsrecht:  
  Die KI-Richtlinie fordert klare Regeln für die Haftung bei Schäden, die durch KI-Systeme verursacht werden.

Betroffen sein könnten auch andere Rechtsbereiche wie das Arbeitsrecht, das Wettbewerbsrecht oder das Umweltrecht. Der Rechtsrahmen für KI muss kontinuierlich angepasst werden, und der Dialog mit allen Beteiligten ist von entscheidender Bedeutung, um einen ausgewogenen und wirksamen Rechtsrahmen zu schaffen.

Definition von KI-Systemen und Anwendungen im Gesetz über Künstliche Intelligenz

Die Definition von KI-Systemen und KI-Anwendungen im AIA ist ein grundlegender Schritt, um sicherzustellen, dass die Regelungen zielgerichtet und wirksam sind. Sie helfen, den Anwendungsbereich der KI-Rahmengesetzgebung zu bestimmen, und geben Unternehmen, die KI-Technologien entwickeln oder anwenden, die notwendige Orientierung.  

KI-Systeme: KI-Systeme werden als Software definiert, die Daten oder digitale Inhalte verarbeiten können, um autonom Operationen oder Vorschläge und Entscheidungen zu generieren oder vorzuschlagen. Dabei kommen maschinelles Lernen, logik- und wissensbasierte Ansätze oder statistische Methoden zum Einsatz. Diese Definition umfasst verschiedene Technologien, von einfachen Algorithmen auf Basis von maschinellem Lernen bis hin zu komplexen Systemen, die eigenständige Entscheidungen treffen können. Die Betonung auf Autonomie hebt hervor, dass KI-Systeme Aufgaben ohne menschliches Eingreifen durchführen können, basierend auf den ihnen zur Verfügung gestellten Daten und ihrer Programmierung.

KI-Anwendungen:  KI-Systeme bilden die technologische Grundlage für KI-Anwendungen, die in einer Vielzahl von Bereichen eingesetzt werden. Beispiele hierfür sind die Gesundheitsversorgung, wo sie zur Diagnose und Behandlungsplanung genutzt werden, die Finanzindustrie, die sie für Betrugserkennung und Risikomanagement einsetzt, sowie landwirtschaftliche Betriebe, wo KI zur Optimierung von Ernteerträgen verwendet wird. Die Definition von KI-Anwendungen im Gesetzesrahmen hat zum Ziel, die praktische Umsetzung von KI-Technologien und deren Auswirkungen auf die Gesellschaft und individuelle Rechte zu erfassen.  

Verantwortlichkeiten und Pflichten von Anbietern von KI-Systemen im Rahmen der Gesetzgebung zur Künstlichen Intelligenz

Mit dem Inkrafttreten des Artificial Intelligence Act müssen Anbieter von KI-Systemen eine Reihe von Verantwortlichkeiten und Pflichten erfüllen. Diese zielen darauf ab, die Sicherheit, Transparenz und Fairness der von ihnen entwickelten oder bereitgestellten Technologien zu gewährleisten.  

• Risikobewertung und Risikomanagement: Anbieter müssen potenzielle Gefahren identifizieren, bewerten und geeignete Maßnahmen zur Risikominderung und -kontrolle ergreifen.
• Hohe Datenqualitätsstandards: Daten für Training, Prüfung und Betrieb müssen genau, relevant und unvoreingenommen sein. Die Privatsphäre und der Datenschutz gemäß DSGVO müssen gewährleistet sein.
• Transparenz und Informationspflichten: Die Anbieter müssen verständliche Informationen über die Funktionsweise, die Grenzen und die Leistungsfähigkeit ihrer Systeme bereitstellen, einschließlich der Entscheidungsprozesse und der Maßnahmen zur Risikominderung und zur Vermeidung von Diskriminierung.
• Dokumentation und Aufzeichnungspflichten: Detaillierte Aufzeichnungen über die Entwicklung, das Training und den Einsatz von KI-Systemen sind erforderlich, um die Einhaltung der gesetzlichen Anforderungen nachzuweisen.
• Konformitätsbewertung und Meldung: KI-Systeme mit hohem Risiko müssen einer Konformitätsbewertung unterzogen werden. Anbieter müssen schwerwiegende Vorfälle oder Fehlfunktionen den zuständigen Behörden melden.

Strategien für Unternehmen im Kontext des Artificial Intelligence Act  

Unternehmen sollten die spezifischen Anforderungen und Pflichten des AIA und deren Auswirkungen auf Geschäftsprozesse und KI-Anwendungen verstehen, einschließlich der Kategorien von KI-Risiken.

• Umfassendes Verständnis des AIA: Unternehmen sollten die spezifischen Anforderungen und Pflichten des AIA und deren Auswirkungen auf Geschäftsprozesse und KI-Anwendungen verstehen, einschließlich der Kategorien von KI-Risiken.
• Bewertung und Anpassung der KI-Systeme: Unternehmen müssen ihre KI-Systeme evaluieren und anpassen, um die Anforderungen des Regelwerks zu erfüllen. Dies umfasst die Überprüfung der Datennutzung, Transparenzmaßnahmen und Sicherheitsprotokolle sowie die notwendigen Anpassungen zur Einhaltung der Vorschriften.
• Entwicklung eines Risikomanagementkonzepts: Ein risikobasierter Ansatz erfordert wirksame Risikomanagementpläne, die die Ermittlung, Bewertung und Minderung von Risiken umfassen, um die Einhaltung der Vorschriften zu gewährleisten und das Vertrauen der Beteiligten zu stärken.
• Förderung von Transparenz und ethischen Praktiken: Unternehmen sollten Transparenz, ethisches Handeln und die Achtung der Grundrechte in ihre KI-Strategien integrieren. Dazu gehören die Entwicklung von Ethikrichtlinien, Ethikschulungen und Governance-Strukturen sowie eine aktive Kommunikation mit den Stakeholdern.
• Kontinuierliche Überwachung und Anpassung: Die Unternehmen müssen Mechanismen zur ständigen Überwachung der rechtlichen Entwicklungen und technologischen Trends einführen und flexibel bleiben, um ihre Strategien und Praktiken anzupassen.

Umgang mit unvorhergesehenen Ergebnissen und Verhalten von KI

Das KI-Gesetz der EU erkennt an, dass KI-Systeme unvorhergesehene Ergebnisse und Verhaltensweisen zeigen können, die negative Auswirkungen auf die Sicherheit und die Grundrechte von Menschen haben können. Daher sollten Anbieter von KI-Systemen präventive Maßnahmen ergreifen und Prozesse für den Ernstfall einrichten.

• Präventive Maßnahmen und kontinuierliche Überwachung: Anbieter sollten Strategien zur frühzeitigen Risikominimierung entwickeln, einschließlich der kontinuierlichen Überwachung und Bewertung von KI-Systemen. Feedbackschleifen helfen, das Systemverhalten kontinuierlich zu verbessern und unerwartete Ergebnisse schnell zu erkennen und zu beheben.
• Reaktionspläne: Klare Reaktionspläne zur Eindämmung negativer Auswirkungen unvorhergesehener Ergebnisse, einschließlich Kommunikationsstrategien gegenüber Nutzern und Regulierungsbehörden, sind unerlässlich.
• Transparenz und Kommunikation: Bei unvorhergesehenen Ereignissen ist eine transparente Kommunikation mit den Nutzern und der Öffentlichkeit wichtig. Die Anbieter sollten detaillierte Informationen und vorbeugende Maßnahmen zur Verfügung stellen.
• Lernen und Anpassen: Unvorhergesehene Ereignisse sollten analysiert und als Lerngelegenheiten genutzt werden, um die Sicherheit und Zuverlässigkeit von KI-Systemen zu verbessern.
• Benachrichtigung der Behörden: Bei schwerwiegenden Gefahren für die öffentliche Sicherheit oder die Rechte Einzelner ist eine unverzügliche Unterrichtung der zuständigen Behörden erforderlich.
• Dokumentation und Analyse: Eine sorgfältige Dokumentation und Analyse aller Vorfälle hilft, die Ursachen zu verstehen und Präventionsstrategien zu entwickeln.
• Zusammenarbeit mit Experten: Externe Ethik-, Rechts- und Technologieexperten sollten einbezogen werden, um unvorhergesehene Ereignisse umfassend zu bewerten und Lösungsstrategien zu entwickeln.
• Schulung und Bewusstseinsbildung: Mitarbeiter sollten geschult werden, um unvorhergesehene Ereignisse zu erkennen und zu bewältigen, wodurch die interne Resilienz gestärkt wird.
• Ethische Überprüfung: Regelmäßige ethische Überprüfungen tragen dazu bei, potenzielle Risiken frühzeitig zu erkennen und ethische Bedenken auszuräumen, wodurch ethisch verantwortungsvolle KI-Systeme gefördert werden.

Sanktionen bei Nichteinhaltung des KI-Regulierungsgesetzes: Konsequenzen für Anbieter von KI-Systemen

Um sicherzustellen, dass die Bestimmungen eingehalten werden, sieht der AIA ein umfangreiches System von Sanktionen vor, mit denen Anbieter von KI-Systemen bei Verstößen gegen die Verordnung belegt werden können. Diese Sanktionen sind entscheidend für die Durchsetzung und sollen sicherstellen, dass KI-Systeme in einer Weise entwickelt und eingesetzt werden, die die Sicherheit, die Grundrechte und die Freiheiten der Bürger schützt.

• Geldbußen: Je nach Schwere des Verstoßes können Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes verhängt werden.
• Verwarnungen und Anordnungen: Die Aufsichtsbehörden können Verwarnungen aussprechen und Maßnahmen zur Wiederherstellung der Rechtskonformität anordnen, z. B. die Änderung oder Einstellung der Nutzung eines KI-Systems.
• Betriebsuntersagungen: Bei schwerwiegenden Gefahren für die öffentliche Sicherheit oder die Grundrechte kann die Nutzung oder der Vertrieb eines KI-Systems untersagt werden.
• Haftungsansprüche und Schadensersatzansprüche: Bei Verstößen gegen die Verordnung können Anbieter zivilrechtlich haftbar gemacht werden. Betroffene haben Anspruch auf Schadenersatz.
• Reputationsschäden: Verstöße können zu erheblichen Reputationsschäden führen, das Vertrauen der Kunden untergraben und sich langfristig negativ auf das Geschäft auswirken.