Comissão da Alesp aprova projeto que proíbe criação de ‘nudes’ falsos por inteligência artificial
A Comissão de Finanças, Orçamento e Planejamento (CFOP) da Assembleia Legislativa do Estado de São Paulo (Alesp) deu aval a um projeto de lei que proíbe o uso de inteligência artificial (IA) para a criação de imagens e vídeos falsos que expõem pessoas nuas sem consentimento, conhecidos como deep nudes. A decisão ocorreu na tarde de terça-feira (10) e o projeto agora segue para votação em plenário.
A proposta, de autoria da deputada Marta Costa (PSD), foi protocolada visando combater a disseminação de conteúdo não consensual que ganhou notoriedade recentemente. Usuárias da rede social X (antigo Twitter) denunciaram ter suas fotos manipuladas por IA para aparecerem em trajes íntimos ou sensuais.
Entendendo a tecnologia por trás dos ‘deep nudes’
A criação de deep nudes geralmente envolve o uso de redes neurais, uma técnica de machine learning, para sobrepor o rosto de uma pessoa em um corpo adulto em conteúdo explícito. Algoritmos avançados de IA analisam milhares de imagens para aprender as características faciais e replicá-las de forma convincente em vídeos ou imagens preexistentes. O processo, conhecido como inferência, gera o conteúdo falso com uma latência cada vez menor devido ao avanço da capacidade computacional.
Implicações legais e éticas
O Projeto de Lei 257/2024 busca não apenas proibir o desenvolvimento, distribuição, venda, promoção ou uso de IA voltada para a criação de deep nudes, mas também responsabilizar plataformas digitais. Conforme a justificativa da deputada Marta Costa, o avanço tecnológico exige medidas para proteger a privacidade e a dignidade das pessoas contra a disseminação de conteúdos não consensuais.
“O avanço tecnológico e o surgimento de programas de inteligência artificial cada vez mais sofisticados têm aumentado a preocupação na disseminação de conteúdos não consensuais. Este projeto visa proteger a privacidade e a dignidade das pessoas.”
O texto prevê que as plataformas digitais deverão atuar na detecção e remoção de conteúdos inadequados, além de identificar os aplicativos e programas de IA que violem a legislação.
Outras iniciativas aprovadas pela comissão
Além do PL 257/2024, a CFOP aprovou outras propostas de programas sociais:
- Criação de programas de conscientização sobre trissomia 21 (Síndrome de Down), voltado a pais e responsáveis, conforme PL 124/2024 da deputada Andréa Werner (PSB). A política visa informar sobre a síndrome e os direitos de acesso a serviços essenciais.
- Instituição do Programa de Inclusão Digital para Idosos (PL 314/2022), da ex-deputada Damaris Moura.
- Criação do Programa Aluno Presente (PL 1394/2023), do deputado Leonardo Siqueira (Novo), que propõe o uso de mecanismos de incentivo comportamental para promover o engajamento escolar e prevenir o abandono e a evasão.