Acto del EI: Francia acepta finalmente la propuesta, con condiciones

La Ley de IA y su contenido

La propuesta de reglamento de la Unión Europea sobre inteligencia artificial se presentó oficialmente el 21 de abril de 2021. Supone un paso importante en los esfuerzos de la UE por establecer un marco jurídico para la IA, destinado a fomentar la innovación al tiempo que se protegen los derechos fundamentales y la seguridad de los ciudadanos.

El documento es una propuesta de reglamento de la Unión Europea por el que se establecen normas armonizadas sobre inteligencia artificial (IA) y se modifican determinados actos legislativos de la Unión. Aborda la necesidad de aprovechar los beneficios de la IA al tiempo que se gestionan los riesgos asociados, con el objetivo de establecer un ecosistema de confianza para la IA en la UE. La propuesta reconoce los beneficios socioeconómicos de la IA, al tiempo que subraya la necesidad de abordar los riesgos potenciales y las consecuencias negativas para las personas y la sociedad. Hace hincapié en un enfoque equilibrado y centrado en el ser humano, en consonancia con los valores y derechos fundamentales de la UE, para fomentar la adopción de soluciones de IA seguras y legales. La propuesta incluye medidas para garantizar la seguridad, el respeto de los derechos fundamentales y la transparencia, con una regulación específica para los sistemas de IA de alto riesgo, obligaciones de transparencia para determinados sistemas de IA y medidas de apoyo a la innovación.

Los sistemas de IA prohibidos por la normativa propuesta por la Unión Europea son aquellos que presentan riesgos inaceptables para los derechos y libertades de las personas. Estas prohibiciones pretenden proteger a las personas de usos de la IA que podrían ser perjudiciales o éticamente cuestionables. He aquí algunos ejemplos de estos sistemas prohibidos:

1. Sistemas de vigilancia masiva: Se prohíbe el uso de la IA para vigilar, analizar y rastrear a las personas a gran escala sin su consentimiento. Esto incluye las tecnologías que permiten la vigilancia ubicua en espacios públicos o privados, utilizadas para la elaboración generalizada de perfiles o la vigilancia del comportamiento.

2. Evaluación social: También están prohibidos los sistemas que evalúan a los ciudadanos en función de su comportamiento o rasgos personales, con consecuencias significativas como el acceso a servicios u oportunidades. Esto afecta a las aplicaciones de IA que podrían dar lugar a discriminación o exclusión social basadas en el tratamiento algorítmico de datos personales.

3. Sistemas que explotan las vulnerabilidades de niños o personas vulnerables: La IA no debe utilizarse de forma que explote las vulnerabilidades psicológicas o sociales de grupos específicos, en particular los niños, para influir en sus comportamientos o decisiones de forma perjudicial.

4. Tecnologías de manipulación del comportamiento: Están prohibidos los sistemas de IA diseñados para manipular a las personas, causándoles daño o haciendo que actúen en contra de sus intereses. Esto incluye las tecnologías que pueden inducir a error a los usuarios u obligarles a tomar decisiones desinformadas mediante técnicas sutiles de persuasión o manipulación.

Estas prohibiciones reflejan un enfoque prudente y centrado en el ser humano, que garantiza que el desarrollo y el uso de la IA respeten los valores fundamentales y los derechos humanos. Subrayan la importancia de la transparencia, la ética y la responsabilidad en el avance tecnológico, garantizando que las innovaciones de la IA beneficien a la sociedad al tiempo que se minimizan los riesgos potenciales.

La propuesta de reglamento de la Unión Europea sobre inteligencia artificial prevé importantes sanciones en caso de infracción de las normas establecidas, incluidas multas que pueden alcanzar elevadas cuantías, en función de la gravedad de la infracción. Las sanciones están diseñadas para ser disuasorias y pueden incluir, para los casos más graves, multas de hasta el 4% de la facturación global anual de la empresa infractora, o 20 millones de euros, según la cuantía. superior. Estas medidas reflejan el deseo de la UE de garantizar el estricto cumplimiento de las normas éticas y de seguridad en el desarrollo y uso de la IA.

Francia acepta con condiciones

La Ley de IA ha desatado pasiones... ¡y con razón! Hoy [2 de febrero de 2024] los 27 Estados miembros han aprobado por unanimidad el acuerdo político alcanzado en diciembre, reconociendo el equilibrio encontrado por los negociadores entre innovación y seguridad", escribió el comisario europeo. Thierry Breton.

Francia, último obstáculo para la conclusión de un acuerdo, acepta ahora el proyecto, pero bajo estrictas condiciones. Entre las condiciones fijadas por París destaca el respeto de un equilibrio entre transparencia y preservación de los secretos industriales.

Tras esta validación por parte de los 27 Estados miembros, el texto volverá a los colegisladores para una votación final.

También puede leer nuestro artículo sobre la norma ISO 42001:2023 Inteligencia artificial - Sistema de gestión

Fuente de la imagen: Freepik