Lei de IA - Garantindo os primeiros passos

A União Europeia está fazendo história com sua inovadora Lei de Inteligência Artificial, a primeira estrutura jurídica abrangente para IA no mundo. Essa legislação, uma pedra angular da estratégia digital da UE, busca estabelecer um ecossistema equilibrado para o desenvolvimento e o uso da IA, garantindo que ela traga inúmeros benefícios sociais e econômicos e, ao mesmo tempo, proteja os direitos fundamentais e a segurança. Na postagem a seguir, analisaremos algumas considerações dessa regulamentação que está começando a moldar o cenário atual.

Uma abordagem baseada em riscos

Em abril de 2023, uma primeira estrutura regulatória para a União Europeia já foi proposta, agora a Lei de IA em desenvolvimento é uma tentativa ambiciosa da União Europeia de regular a inteligência artificial e suas aplicações. Ela reflete o desejo de aproveitar os benefícios da IA - melhorias na saúde, transporte mais seguro, fabricação mais eficiente e soluções de energia sustentável - ao mesmo tempo, em que aborda os riscos e desafios inerentes.

Un Enfoque Basado en el Riesgo

Uma característica importante da legislação é a classificação baseada em risco dos sistemas de IA. Essa abordagem categoriza os aplicativos de IA de acordo com o nível de risco que representam para os usuários, com diferentes graus de regulamentação para cada categoria. A abordagem prioriza a garantia de segurança, transparência, rastreabilidade e respeito ao meio ambiente.

Essa lei também tem o objetivo de estabelecer uma definição uniforme que possa ser aplicada em sistemas futuros.

#0 - Riscos inaceitáveis

A Lei de IA identifica determinadas práticas de IA como "risco inaceitável" e propõe sua proibição como uma ameaça às pessoas.

Isso inclui:

- Manipulação cognitivo-comportamental de grupos vulneráveis (por exemplo, brinquedos que podem colocar as crianças em risco).
- Sistemas de classificação social pelos governos (vimos isso na Netflix e, sim, está sendo regulamentado).
- Sistemas de identificação biométrica remota em tempo real (com exceções específicas para interesse público significativo).

#1 - Sistemas de alto risco

Para sistemas de IA considerados de "alto risco", a lei propõe requisitos rigorosos. Isso inclui a IA usada em áreas críticas de segurança de produtos (como aviação e dispositivos médicos, automóveis, elevadores) e setores importantes, como aplicação da lei, emprego e serviços públicos e privados, educação, migração e fronteiras, assistência jurídica, para os quais será estabelecido um registro.

#2 - IA generativa: transparência e responsabilidade

A lei exige que os sistemas de IA generativa, como o ChatGPT, sigam os padrões de transparência, divulguem o conteúdo gerado pela IA, evitem a geração de conteúdo ilegal e forneçam informações sobre os dados usados em seu treinamento.

#3 - Sistemas de IA de risco limitado

Os sistemas de IA de risco limitado devem atender a requisitos mínimos de transparência para garantir a conscientização do usuário e a tomada de decisões informadas. O usuário deve ser capaz de decidir se quer continuar a usá-los. O usuário deve ser capaz de reconhecer que está interagindo com a IA, inclusive ao usar conteúdo de áudio, vídeo e imagem criado digitalmente (por exemplo, Deepfakes).

Roteiro futuro

Em 14 de junho de 2023, os legisladores da UE estabeleceram sua posição de negociação sobre a lei de IA. As próximas discussões darão forma à lei final, com o objetivo de chegar a um acordo até o final do ano. A Lei de IA representa um equilíbrio delicado entre incentivar a inovação em IA e garantir a segurança e os direitos públicos. Ela estabelece um precedente para a governança global de IA, podendo influenciar futuras regulamentações em todo o mundo.

Conclusão

Embora a lei seja um passo à frente, sua implementação apresenta desafios, incluindo a garantia de conformidade, a adaptação aos desenvolvimentos tecnológicos e o equilíbrio dos interesses de diferentes partes interessadas. A Lei de Inteligência Artificial da UE é um passo importante na regulamentação da tecnologia de IA. Ela reflete um compromisso com o desenvolvimento ético da IA, garantindo que a tecnologia sirva à humanidade e, ao mesmo tempo, proteja-se contra seus possíveis perigos.


Mais informações

- Lei de IA da UE: primeira legislação sobre inteligência artificial (Parlamento Europeu)
- Relatório: Lei de Inteligência Artificial