Deep nudes e violência digital

Clique aqui e contribua para um jornalismo livre e financiado pelos seus próprios leitores.

Foi com um print de celular que Fernanda (nome fictício) teve o primeiro choque. A filha de 15 anos, estudante de um colégio particular no Rio de Janeiro, aparecia nua em uma imagem que viralizava entre colegas da mesma turma. A foto, porém, era falsa. Criada com o uso de inteligência artificial, a montagem utilizava uma imagem real publicada pela adolescente nas redes sociais. A dor, no entanto, foi real e imediata: vergonha, trauma, abandono escolar e medo. “Ela chorou muito e não queria mais voltar para a escola”, contou a mãe, que desde então acompanha a filha em sessões de psicoterapia.

CLIQUE PARA SEGUIR A SEMANA ON NO INSTAGRAM, NO FACEBOOK E NO WHATSAPP

A história de Fernanda não é única. Casos semelhantes têm se repetido em diferentes cidades do Brasil, envolvendo alunas, professoras e mulheres públicas cujas imagens foram manipuladas para criar o que se convencionou chamar de deep nudes — nudes falsos gerados por IA. A prática, que se alastra com a velocidade das conexões digitais e a sofisticação dos algoritmos, escancara as falhas legais e estruturais de uma sociedade que ainda engatinha na proteção de seus cidadãos diante dos desafios tecnológicos contemporâneos.

Tecnologia a serviço da violência

Com poucos cliques, usuários podem acessar sites e aplicativos que prometem “remover roupas” de qualquer imagem. Essas ferramentas, muitas vezes gratuitas e de uso simplificado, utilizam IA generativa para simular partes íntimas e criar imagens hiper-realistas, geralmente com finalidades de humilhação, vingança ou extorsão.

Foi o que aconteceu com a advogada Rafaela Ferrari Kley, que recebeu uma mensagem de chantagem exigindo pagamento em bitcoins. Em troca, os criminosos prometiam não divulgar uma imagem manipulada dela, criada a partir de uma foto retirada de suas redes. “A imagem tinha imperfeições, então decidi alertar meus seguidores ao invés de pagar”, relatou Rafaela. O episódio evidencia outra faceta do problema: o uso de imagens adulteradas como instrumento de extorsão digital.

O especialista em tecnologia Arthur Igreja alerta que a banalização do uso da IA é um dos fatores que impulsionam esse tipo de crime. “Antes era preciso ser especialista em edição. Hoje, basta descrever o que se quer, e a IA faz o resto”, afirmou, em entrevista ao G1.

O vácuo legal e a reação do Congresso

O ordenamento jurídico brasileiro prevê punição para a divulgação de imagens íntimas não autorizadas, inclusive falsas. O artigo 216-B do Código Penal tipifica como crime a divulgação de cenas de nudez ou ato sexual sem consentimento, com penas de seis meses a um ano de prisão. Quando envolvem menores, a pena sobe para até três anos, com base no Estatuto da Criança e do Adolescente (ECA).

No entanto, especialistas argumentam que tais dispositivos legais são insuficientes frente à sofisticação e à escalabilidade proporcionadas pelas novas tecnologias. Em resposta, o Congresso Nacional analisa propostas para atualizar a legislação. Um dos principais é o Projeto de Lei 3.821/24, que aumenta para até seis anos de reclusão a pena para quem manipula ou divulga conteúdo íntimo falso utilizando IA. O texto ainda prevê agravantes se a vítima for mulher, criança, pessoa idosa ou com deficiência, ou se houver disseminação em massa nas redes.

Outro projeto, o PL 370/2024, aprovado recentemente no Congresso e aguardando sanção presidencial, inclui o uso de IA como agravante no crime de violência psicológica contra a mulher. A proposta insere as deepfakes no rol de formas reconhecidas de violência digital, com respaldo na Lei Maria da Penha.

Lucas Uster, advogado especializado em direito digital, chama atenção para a dificuldade de aplicação das leis existentes: “Mais do que endurecer as penas, é preciso garantir que os autores sejam identificados e punidos. A impunidade ainda é o maior incentivo à continuidade desses crimes”.

Responsabilizar as plataformas?

Diante da disseminação acelerada das imagens falsas, cresce também o debate sobre a responsabilidade das plataformas digitais. Hoje, a maior parte dos sites que hospedam ou facilitam a criação de deep nudes está fora do Brasil, dificultando sua responsabilização. Para Arthur Igreja, corresponsabilizar as empresas de tecnologia poderia ser uma medida eficaz: “Elas detêm os meios e os dados. Poderiam agir preventivamente, mas muitas se omitem”.

Esse ponto também é abordado por especialistas como Rony Vainzof, conselheiro do Comitê Nacional de Cibersegurança (CNCiber), que defende uma atuação mais ativa do Estado, com políticas de educação digital e campanhas de conscientização. “Apenas a repressão penal não resolve. Precisamos ensinar desde cedo o que é cidadania digital, o que é responsabilidade online”, afirmou ao Jota.

Um problema estrutural e de gênero

Embora as ferramentas estejam disponíveis a todos, são majoritariamente as mulheres as vítimas dessa forma de violência. A socióloga Deborah Tannen, da Universidade Georgetown, analisa que a exposição e o controle dos corpos femininos sempre foram mecanismos de opressão social — agora digitalizados. O fenômeno dos deep nudes não foge a essa lógica: é a mesma violência de gênero, com novas vestes tecnológicas.

A filósofa Simone de Beauvoir já alertava, ainda em 1949, que “não se nasce mulher: torna-se mulher”, apontando para a construção social da feminilidade a partir da opressão e do controle. O uso da tecnologia para humilhar e submeter mulheres, especialmente adolescentes, reatualiza esse processo sob um novo tipo de vigilância: a vigilância algorítmica.

Caminhos possíveis

Apesar do cenário alarmante, há caminhos possíveis. O primeiro é o fortalecimento de delegacias especializadas em crimes cibernéticos, que hoje ainda são escassas em muitas regiões do país. O segundo é o incentivo à denúncia — que deve ser feita reunindo provas, notificando as plataformas e registrando boletim de ocorrência, preferencialmente em delegacias especializadas.

Mas o mais urgente, como alertam especialistas, é a construção de uma cultura digital baseada na ética, na empatia e na responsabilidade. Uma sociedade democrática não pode permitir que meninas abandonem a escola por medo de suas próprias imagens. A dignidade humana não é negociável, nem tampouco deve ser tratada como mera variável de software.

NA NOSSA CONTA