Ato da AI: A França aceita finalmente a proposta, sob condições

A Lei da IA e o seu conteúdo

A proposta de regulamento da União Europeia sobre inteligência artificial foi oficialmente apresentada em 21 de abril de 2021. Marca um passo significativo nos esforços da UE para estabelecer um quadro jurídico para a IA, com o objetivo de promover a inovação e, ao mesmo tempo, proteger os direitos fundamentais e a segurança dos cidadãos.

O documento é uma proposta de regulamento da União Europeia que estabelece regras harmonizadas em matéria de inteligência artificial (IA) e altera determinados atos legislativos da União. Aborda a necessidade de aproveitar os benefícios da IA, gerindo simultaneamente os riscos associados, com o objetivo de estabelecer um ecossistema de confiança para a IA na UE. A proposta reconhece os benefícios socioeconómicos da IA, salientando simultaneamente a necessidade de abordar os potenciais riscos e consequências negativas para os indivíduos e a sociedade. A proposta destaca uma abordagem equilibrada e centrada no ser humano, alinhada com os valores e direitos fundamentais da UE, para incentivar a adoção de soluções de IA seguras e legais. A proposta inclui medidas para garantir a segurança, o respeito pelos direitos fundamentais e a transparência, com regulamentação específica para sistemas de IA de alto risco, obrigações de transparência para determinados sistemas de IA e medidas de apoio à inovação.

Os sistemas de IA proibidos pelos regulamentos propostos pela União Europeia são aqueles que apresentam riscos inaceitáveis para os direitos e liberdades das pessoas. Estas proibições têm por objetivo proteger os indivíduos de utilizações da IA que possam ser prejudiciais ou eticamente questionáveis. Eis alguns exemplos destes sistemas proibidos:

1. Sistemas de vigilância em massa: É proibida a utilização de IA para monitorizar, analisar e seguir indivíduos em grande escala sem o seu consentimento. Isto inclui tecnologias que permitem a vigilância omnipresente em espaços públicos ou privados, utilizadas para a definição generalizada de perfis ou a vigilância comportamental.

2. Avaliação social: Os sistemas que avaliam os cidadãos com base no seu comportamento ou caraterísticas pessoais, com consequências significativas, como o acesso a serviços ou oportunidades, também são proibidos. Trata-se de aplicações de IA susceptíveis de conduzir à discriminação ou à exclusão social com base no tratamento algorítmico de dados pessoais.

3. Sistemas que exploram as vulnerabilidades de crianças ou pessoas vulneráveis: A IA não deve ser utilizada de forma a explorar as vulnerabilidades psicológicas ou sociais de grupos específicos, em particular crianças, para influenciar os seus comportamentos ou decisões de forma prejudicial.

4. Tecnologias de manipulação comportamental: São proibidos os sistemas de IA concebidos para manipular indivíduos, causando-lhes danos ou levando-os a agir contra os seus interesses. Isto inclui tecnologias que podem induzir os utilizadores em erro ou forçá-los a fazer escolhas desinformadas através de técnicas subtis de persuasão ou manipulação.

Estas proibições reflectem uma abordagem cautelosa e centrada no ser humano, garantindo que o desenvolvimento e a utilização da IA respeitam os valores fundamentais e os direitos humanos. Sublinham a importância da transparência, da ética e da responsabilidade no avanço tecnológico, garantindo que as inovações da IA beneficiam a sociedade, minimizando os riscos potenciais.

A proposta de regulamento da União Europeia sobre inteligência artificial prevê sanções significativas para as violações das regras estabelecidas, incluindo multas que podem atingir montantes elevados, dependendo da gravidade da infração. As sanções foram concebidas para serem dissuasivas e podem incluir, para os casos mais graves, coimas até 4% do volume de negócios global anual da empresa infrator, ou 20 milhões de euros, consoante o montante mais elevado. Estas medidas reflectem o desejo da UE de garantir o cumprimento rigoroso das normas éticas e de segurança no desenvolvimento e utilização da IA.

A França aceita sob condições

A Lei da IA desencadeou paixões... e com razão! Hoje [2 de fevereiro de 2024], os 27 Estados-Membros aprovaram por unanimidade o acordo político alcançado em dezembro, reconhecendo o equilíbrio encontrado pelos negociadores entre inovação e segurança", escreveu o Comissário Europeu. Thierry Breton.

Último obstáculo à conclusão de um acordo, a França aceita agora o projeto, mas sob condições estritas. Entre as condições impostas por Paris, destaca-se o respeito por um equilíbrio entre transparência e preservação dos segredos industriais.

Após esta validação pelos 27 Estados-Membros, o texto voltará aos co-legisladores para uma votação final.

Pode também ler o nosso artigo sobre a ISO 42001:2023 Inteligência artificial - Sistema de gestão

Fonte da imagem: Freepik