KI-Akt: Frankreich nimmt den Vorschlag schließlich unter folgenden Bedingungen an

Das KI-Gesetz und seine Inhalte

Der Vorschlag der Europäischen Union für eine Verordnung über künstliche Intelligenz wurde am 21. April 2021 offiziell vorgestellt. Er stellt einen wichtigen Schritt in den Bemühungen der EU dar, einen Rechtsrahmen für KI zu schaffen, der darauf abzielt, Innovationen zu fördern und gleichzeitig die Grundrechte und die Sicherheit der Bürger zu schützen.

Bei dem Dokument handelt es sich um einen Vorschlag für eine Verordnung der Europäischen Union zur Festlegung harmonisierter Regeln für künstliche Intelligenz (KI) und zur Änderung bestimmter Rechtsakte der Union. Der Vorschlag berücksichtigt die Notwendigkeit, die Vorteile der KI zu nutzen und gleichzeitig die damit verbundenen Risiken zu beherrschen, und verfolgt das Ziel, ein vertrauenswürdiges Ökosystem für KI in der EU zu schaffen. Der Vorschlag erkennt die sozioökonomischen Vorteile der KI an, betont aber gleichzeitig die Notwendigkeit, mögliche Risiken und negative Folgen für den Einzelnen und die Gesellschaft anzugehen. Er betont einen ausgewogenen, auf den Menschen ausgerichteten Ansatz, der mit den Werten und Grundrechten der EU in Einklang steht, um die Einführung sicherer und legaler KI-Lösungen zu fördern. Der Vorschlag umfasst Maßnahmen zur Gewährleistung der Sicherheit, der Achtung der Grundrechte und der Transparenz, mit spezifischen Regelungen für KI-Systeme mit hohem Risiko, Transparenzverpflichtungen für bestimmte KI-Systeme und Maßnahmen zur Unterstützung von Innovationen.

Bei den KI-Systemen, die durch die von der Europäischen Union vorgeschlagenen Verordnungen verboten werden, handelt es sich um solche, die unannehmbare Risiken für die Rechte und Freiheiten des Einzelnen darstellen. Diese Verbote zielen darauf ab, den Einzelnen vor dem Einsatz von KI zu schützen, der schädlich oder ethisch fragwürdig sein könnte. Hier sind Beispiele für diese verbotenen Systeme:

1. Systeme zur Massenüberwachung: Der Einsatz von KI zur Überwachung, Analyse und Verfolgung von Personen in großem Maßstab ohne deren Zustimmung ist verboten. Dazu gehören Technologien, die eine flächendeckende Überwachung im öffentlichen oder privaten Raum ermöglichen und für eine weit verbreitete Profilerstellung oder Verhaltensüberwachung eingesetzt werden.

2. Soziale Bewertung: Systeme, die Bürgerinnen und Bürger aufgrund ihres Verhaltens oder ihrer persönlichen Eigenschaften bewerten, was erhebliche Auswirkungen auf den Zugang zu Dienstleistungen oder Möglichkeiten hat, sind ebenfalls verboten. Dies betrifft KI-Anwendungen, die auf der Grundlage der algorithmischen Verarbeitung personenbezogener Daten zu Diskriminierung oder sozialer Ausgrenzung führen könnten.

3. Systeme, die die Schwachstellen von Kindern oder schutzbedürftigen Personen ausnutzen: KI sollte nicht in einer Weise eingesetzt werden, die die psychologische oder soziale Verletzlichkeit bestimmter Gruppen, insbesondere von Kindern, ausnutzt, um ihr Verhalten oder ihre Entscheidungen auf schädliche Weise zu beeinflussen.

4. Technologien zur Verhaltensmanipulation: KI-Systeme, die darauf abzielen, Personen zu manipulieren und ihnen Schaden zuzufügen oder sie zu veranlassen, gegen ihre Interessen zu handeln, sind verboten. Dies gilt auch für Technologien, die Benutzer in die Irre führen oder sie durch subtile Überredungs- oder Manipulationstechniken zu uninformierten Entscheidungen zwingen können.

Diese Verbote spiegeln einen vorsichtigen, auf den Menschen ausgerichteten Ansatz wider, der sicherstellt, dass bei der Entwicklung und dem Einsatz von KI die Grundwerte und Menschenrechte respektiert werden. Sie unterstreichen die Bedeutung von Transparenz, Ethik und Verantwortlichkeit beim technologischen Fortschritt und stellen sicher, dass KI-Innovationen der Gesellschaft zugute kommen und gleichzeitig mögliche Risiken minimiert werden.

Die von der Europäischen Union vorgeschlagene Verordnung über künstliche Intelligenz sieht erhebliche Strafen für Verstöße gegen die festgelegten Regeln vor, einschließlich Geldstrafen, die je nach Schwere des Verstoßes hohe Beträge erreichen können. Die Sanktionen sollen abschreckend wirken und können in den schwersten Fällen Geldbußen von bis zu 4 % des weltweiten Jahresumsatzes des verstoßenden Unternehmens oder 20 Millionen Euro umfassen, je nachdem, welcher Betrag höher ist. Diese Maßnahmen spiegeln den Wunsch der EU wider, die strikte Einhaltung ethischer und sicherheitstechnischer Standards bei der Entwicklung und Nutzung von KI zu gewährleisten.

Frankreich stimmt unter Vorbehalten zu

Das KI-Gesetz hat die Gemüter erregt - und das zu Recht! Heute [2. Februar 2024] haben die 27 Mitgliedstaaten die im Dezember erzielte politische Einigung einstimmig gebilligt und damit das von den Verhandlungsführern gefundene Gleichgewicht zwischen Innovation und Sicherheit anerkannt", schrieb der EU-Kommissar. Thierry Breton.

Frankreich, das letzte Hindernis für den Abschluss eines Abkommens, akzeptiert nun das Projekt, allerdings unter strengen Bedingungen. Zu den von Paris gestellten Bedingungen gehört insbesondere die Wahrung eines ausgewogenen Verhältnisses zwischen Transparenz und Schutz von Betriebsgeheimnissen.

Nach dieser Bestätigung durch die 27 Mitgliedstaaten wird der Text zur endgültigen Abstimmung an die Mitgesetzgeber zurückgehen.

Lesen Sie auch unseren Artikel über ISO 42001:2023 Künstliche Intelligenz - Managementsystem.

Bildquelle: Freepik