A nova Lei da IA da União Europeia: quatro níveis de risco e muitas exceções

A nova Lei da IA da União Europeia classifica os usos da inteligência artificial em quatro níveis de risco. Eles vão desde a autorização irrestrita até a proibição total de IA. Vamos explorar como cada nível de risco afeta diferentes aplicações de IA e as exceções que existem em cada categoria.

O processo legislativo da Lei da IA da União Europeia

A Lei da IA se deu oficialmente em 21 de maio de 2024, após três anos de intensas negociações e revisões. Durante esse período, novas tecnologias como o ChatGPT surgiram, forçando os legisladores a reconsiderar suas abordagens. Assim, a necessidade de equilibrar a segurança dos cidadãos, a liberdade individual e a inovação tecnológica tornou o processo legislativo extremamente complexo. Então, as discussões políticas se intensificaram à medida que novos desafios e possibilidades apareciam, exigindo que os legisladores revisassem seus projetos várias vezes.

As negociações entre as instituições europeias foram particularmente intensas. Definir qual sistema de IA deveria se enquadrar em qual categoria de risco envolveu muitas discussões e compromissos. Os negociadores sabiam que estavam caminhando numa corda bamba.

Então, precisavam garantir a segurança e as liberdades individuais sem sufocar a inovação na Europa. Ao mesmo tempo, tinham que evitar que uma regulação excessiva favorecesse os Estados Unidos ou a China, líderes globais em tecnologia. Além disso, os lobbies tecnológicos tiveram um papel significativo neste debate, tentando influenciar as decisões para proteger seus interesses.

Nível de risco baixo ou nenhum

As aplicações de IA que caem na categoria de baixo ou nenhum risco operam com autorização irrestrita, desde que não sofram modificações substanciais. Um exemplo notável são os videogames. Empresas como Nvidia e Ubisoft exploram o potencial da IA generativa, que pode criar novos conteúdos após ser treinada em grandes quantidades de dados.

Esta tecnologia promete revolucionar a experiência dos jogadores, permitindo que interajam verbalmente com personagens virtuais de maneira natural e intuitiva.

Outro exemplo de aplicação de baixo risco são os filtros de spam. Esses programas de software filtram automaticamente e-mails indesejados ou maliciosos, protegendo os usuários contra ataques cibernéticos. O e-mail continua sendo um dos principais alvos de infecções e outros tipos de ataques, tornando esses filtros essenciais para a segurança online.

Nível de risco moderado

As aplicações de IA que se classificam como de risco moderado exigem transparência. Os desenvolvedores precisam indicar claramente que o conteúdo é oriundo de inteligência artificial. Um exemplo são as manipulações de imagens, os deepfakes. Essas tecnologias criam fotos e vídeos falsos extremamente realistas, gerando polêmica devido ao potencial de desinformação e abuso.

Deepfakes podem fazer com que figuras políticas apareçam dizendo coisas que nunca disseram. Além disso, podem retratar indivíduos, especialmente mulheres, em situações comprometedoras sem seu consentimento.

Os chatbots, como o famoso ChatGPT, também se enquadram em risco moderado. Esses agentes conversacionais precisam divulgar os dados usados para seu treinamento. Isto é, poderiam permitir que os titulares de direitos verifiquem se seu conteúdo foi utilizado. Esta medida visa proteger os direitos autorais e garantir a responsabilidade das empresas que desenvolvem essas tecnologias.

Nível de risco alto

As utilizações de IA que se classificam como sendo de alto risco precisam seguir rigorosos procedimentos de conformidade. Isso inclui a verificação da qualidade dos dados de treinamento, a minimização dos riscos de discriminação e a provisão de supervisão humana. Um exemplo é a triagem de currículos (CVs) por software. Ferramentas desse tipo são usadas para filtrar candidaturas de emprego, mas podem carregar preconceitos embutidos. A Amazon, por exemplo, abandonou uma ferramenta de triagem em 2018 porque ela discriminava mulheres candidatas a empregos técnicos.

Outro exemplo de aplicação de alto risco é a justiça preditiva. Esta tecnologia prevê o resultado de disputas legais após a análise algorítmica de grandes corpora jurídicos.

Startups de “legaltech” que oferecem esse serviço proliferaram na França, onde agora existem várias centenas. A justiça preditiva levanta questões éticas e legais significativas, especialmente em relação à imparcialidade e precisão dos algoritmos.

Os veículos autônomos também são classificados como de alto risco. No final da década de 2010, imaginava-se que os motoristas do Uber seriam substituídos por táxis-robôs. No entanto, essa tecnologia ainda está longe de ser aperfeiçoada. Por isso, o foco agora está em projetos menos ambiciosos, como a travagem automática de emergência e a condução mãos-livres a baixa velocidade.

IAs de risco alto não param por aí

A detecção de documentos falsos é outra aplicação de alto risco. Esses detectores são ferramentas importantes para a aplicação da lei, ajudando a identificar documentos falsificados e a combater a imigração ilegal. Mais amplamente, todos os sistemas de IA utilizados para a gestão da migração são considerados de alto risco devido às suas implicações para os direitos humanos e a segurança nacional.

Ademais, os programas de pontuação de crédito, que avaliam a capacidade creditícia de uma pessoa quando ela solicita um empréstimo, também entram nesta categoria. Embora úteis, esses programas podem perpetuar antigos padrões de discriminação com base em fatores como origem, idade e deficiência. Portanto. isso levanta preocupações sobre a equidade e a justiça do sistema financeiro.

Nível de risco inaceitável

Finalmente, há os usos de IA considerados de risco inaceitável, que são proibidos devido a preocupações éticas e de privacidade. No entanto, mesmo nesta categoria, existem algumas exceções. Por exemplo, os sistemas de pontuação social, como os utilizados na China, classificam indivíduos com base em seu comportamento. Cidadãos que não pagam suas dívidas perdem pontos, enquanto aqueles que compram alimentos saudáveis ganham pontos. Estar bem classificado facilita o acesso a serviços como saúde, empréstimos bancários e mobilidade.

As técnicas subliminares, que envolvem a introdução de mensagens abaixo do nível de consciência, também são proibidas. Um exemplo seria a inserção de uma imagem em um anúncio a cada 25 segundos, invisível para o espectador, mas potencialmente manipuladora. No entanto, ainda não há consenso científico sobre a eficácia dessas técnicas.

O reconhecimento facial em tempo real é outro tema controverso. Embora proibido em geral, há isenções para determinadas missões de aplicação da lei, como a prevenção de ameaças terroristas, a identificação de suspeitos de crimes graves e a busca de pessoas desaparecidas.

O reconhecimento de emoções, software que afirma detectar emoções a partir de expressões faciais, é proibido em ambientes educacionais e profissionais, mas permitido no controle de fronteiras. O objetivo é, por exemplo, determinar se um migrante está sendo “honesto” sobre seu pedido de migração.

Por fim, o policiamento preditivo, que avalia o risco de uma pessoa cometer crimes com base em suas características, também enfrenta proibições. No entanto, esses sistemas podem ser autorizados em investigações criminais para complementar avaliações humanas baseadas em fatos verificáveis.

O que busca a regulamentação da IA?

A Lei da IA da União Europeia busca equilibrar a inovação tecnológica com a proteção de direitos individuais. Ela estabelece uma estrutura detalhada de níveis de risco para diferentes usos de IA. Apesar das restrições impostas, as numerosas isenções mostram a complexidade e o desafio de regular uma tecnologia em rápida evolução. O impacto desta lei será significativo, moldando o futuro da inteligência artificial na Europa e servindo como um modelo potencial para outras regiões do mundo.

Fonte: UNISINUS

Previous
Next

Gostou? Compartilhe!

Previous
Next

Últimas notícias

Conteúdos gratuitos

A Digital Agro é uma plataforma completa com várias iniciativas em tecnologia e inovação para o campo. Inscreva-se para receber gratuitamente o conteúdo e ficar por dentro das novidades do agro.