Principal controvérsia gira em torno da exclusão das big techs de sistemas de alto risco

O Senado Federal, em sessão realizada nesta terça-feira (10), aprovou um marco regulatório histórico para a inteligência artificial (IA) no Brasil, o PL 2338/2023. A proposta, que agora segue para análise da Câmara dos Deputados, estabelece um conjunto de normas para o desenvolvimento e utilização de sistemas de IA em todo o território nacional. 

O projeto, apresentado em 2023 pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), integra as prioridades que o parlamentar buscou aprovar antes do término de seu mandato à frente da Presidência da Casa, previsto para fevereiro. A matéria teve relatoria do senador Eduardo Gomes (PL-TO).

Como mostrou a Fórum, organizações da sociedade civil, representada por mais de 30 conjuntos da Coalizão Direitos na Rede, alertaram para a necessidade de aprimoramentos urgentes no texto na última sexta-feira (29). As entidades sinalizaram que a versão atual do projeto continha retrocessos que podiam comprometer a proteção dos direitos dos cidadãos no ambiente digital.

Com a aprovação, a principal divergência ocorre justamente em relação à classificação de algoritmos de redes sociais como sistemas de alto risco, uma das partes mais importantes do projeto e enfatizada pelas entidades. As big techs ou gigantes da tecnologia, como Google, Microsoft e Meta, ficaram de fora da categoria e agora o lobby será favorecido. 

De acordo com Edgard Piccino, analista de dados da Fórum, o PL traz pontos que precisam ser revistos, principalmente quanto à exclusão das empresas de tecnologia dessa classificação. “Essa abordagem é equivocada, porque o que deve definir o risco é a natureza da atividade, não o porte da empresa. Afinal, operações realizadas por gigantes da tecnologia podem ter impactos ainda mais amplos e potencialmente perigosos para a sociedade”, afirma.

A mesma categoria ainda permite regulamentar a identificação biométrica à distância, em tempo real, em locais públicos, o que pode ser bastante problemático, já que, segundo o analista, abre brechas para o racismo algorítmico.

“Sistemas de IA treinados com dados enviesados podem conter discriminações implícitas, comprometendo a imparcialidade que deveria nortear decisões automatizadas. Além disso, a permissão para a ausência de supervisão humana em certos contextos é um risco grave”, acrescenta Piccino.

“Abre uma brecha perigosa para que decisões cruciais, como o atendimento emergencial do SAMU, dos bombeiros ou até a seleção em vestibulares, sejam entregues totalmente a sistemas que, por mais avançados que sejam, podem falhar e impactar diretamente a vida das pessoas”

► Alguns pontos importantes aprovados:

IA generativa

Normas específicas foram definidas para sistemas de inteligência artificial generativos e de propósito geral. Antes de sua comercialização, vai ser obrigatório que os responsáveis realizem uma avaliação preliminar para determinar a classificação de risco. 

Esses sistemas devem demonstrar que medidas foram tomadas para mitigar possíveis impactos sobre direitos fundamentais, o meio ambiente, a liberdade de expressão, a integridade das informações e o processo democrático. Além disso, é necessário que sejam concebidos com foco na eficiência energética, no uso sustentável de recursos e na redução de resíduos. O processamento de dados deverá seguir padrões legais estabelecidos.

A produção ou alteração de textos, imagens, vídeos e áudios por IA deverá ser acompanhada de identificadores — como metadados — que permitam verificar sua origem e autenticidade. A regulamentação dessas práticas será desenvolvida em conjunto com atores da iniciativa privada, do meio acadêmico e da sociedade civil.

Direito Autoral

Artistas participaram nesta terça-feira de uma reunião no Senado com o presidente Rodrigo Pacheco e o senador Eduardo Gomes, relator do texto. Entre os presentes estavam o ator Paulo Betti, os músicos Otto, Paula Lima, Marina Sena e Paula Fernandes, além da produtora cultural Paula Lavigne.

Artistas defenderam, em reunião, a inclusão do direito autoral na proposta, garantindo remuneração justa para os criadores quando suas obras forem utilizadas por plataformas digitais. O pleito foi atendido, e o texto aprovado no Senado mantém essa proteção.

“Ninguém está aqui lutando contra a inteligência artificial, porque a inteligência artificial a gente entende como uma tecnologia que veio também para trazer progresso. Mas a gente entende que, se há empresas ganhando bilhões com isso, essas empresas precisam arcar com as consequências e precisam arcar com essa mineração de dados que fazem com a nossa obra, com a nossa vida. E não só a nossa vida, mas a vida de toda a população brasileira”, comentou Marina Sena.

► As garantias aprovadas incluem:

• Identificação no treinamento de IA: Empresas de tecnologia deverão informar previamente os conteúdos protegidos por direitos autorais usados no treinamento de seus sistemas.
• Controle pelos autores: Os criadores poderão impedir o uso de suas obras, caso desejem.
• Ambiente de negociação: Um espaço será criado pelo órgão regulador da IA para que empresas e autores possam negociar pagamentos.
• Liberação coletiva ou individual: Os autores poderão liberar o uso de suas obras de forma direta ou por meio de associações de titulares de direitos. A remuneração levará em conta fatores como o porte econômico da empresa, a frequência de uso do conteúdo e os impactos sobre a concorrência.
• Uso permitido para pesquisa: Conteúdos protegidos poderão ser usados em pesquisas e no desenvolvimento de IA por instituições acadêmicas, culturais e educacionais, desde que não sejam comercializados nem concorram com a obra original. O direito autoral é garantido como cláusula pétrea da Constituição.

Foto/Crédito: Matheus Bertelli/Pexels 

Fonte: https://revistaforum.com.br/ciencia-e-tecnologia/2024/12/11/ia-senado-aprova-regulamentao-mas-ha-pontos-que-precisam-ser-revistos-analisa-especialista-170761.html