Três estados já fazem pré-campanha com uso de deepfake

A temporada de fake news eleitoral já está em andamento no Brasil, mas desta vez, uma modalidade ainda mais difícil de ser identificada vem preocupando as autoridades. Em pelo menos três estados – Amazonas, Rio Grande do Sul e Sergipe – a polícia está investigando suspeitas de uso de inteligência artificial (IA) para criar áudios falsos de prefeitos que planejam tentar a reeleição, assim como de um deputado federal envolvido na pré-campanha da esposa, chefe do executivo municipal, que também buscará a recondução ao cargo.

A técnica em questão, conhecida como “deepfake”, permite a adulteração de sons e vídeos, recriando artificialmente o tom, o timbre e até mesmo a maneira de falar de uma pessoa. Dessa forma, ao receber uma gravação via WhatsApp, o eleitor pode reconhecer a voz do candidato e acreditar que o político disse algo que, na realidade, nunca disse.

Um dos casos identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de um deepfake no final do ano passado. No áudio atribuído a ele, a voz do político, emulada por inteligência artificial, refere-se aos professores da rede municipal de ensino como “vagabundos” e afirma que os servidores “querem um dinheirinho de mão beijada”.

O episódio está sendo tratado pela PF como um tipo de laboratório para possíveis casos futuros relacionados às eleições municipais deste ano. Desde a instauração do inquérito em 22 de dezembro, dois suspeitos já foram ouvidos, e uma perícia no arquivo digital confirmou a manipulação no áudio.

Casos em destaque

1. David Almeida (Avante) – Prefeito de Manaus: O áudio falso atribuído a Almeida durante protestos de professores, que reivindicavam o pagamento de abonos oriundos do Fundeb, criou uma indisposição com a categoria em ano eleitoral. O prefeito classificou o áudio como falso e denunciou o caso à PF.
2. Marco Aurélio Nedel (PL) – Prefeito de Crissiumal (RS): Um áudio com xingamentos atribuído a Nedel, onde ele supostamente menospreza servidores da cidade, foi tratado como deepfake. A investigação da Polícia Civil constatou que o conteúdo indicado pelo prefeito havia sido repassado entre vereadores, sendo considerado uma tentativa de retaliação da oposição.
3. Gustinho Ribeiro (Republicanos) – Deputado Federal e Marido da Prefeita de Lagarto (SE), Hilda Ribeiro: O parlamentar afirma ter sido alvo de montagem por inteligência artificial em uma gravação em que a voz atribuída a ele critica adversários políticos. Ribeiro denunciou o caso às autoridades para investigação.

BUSCA POR SOLUÇÕES

Congresso

Câmara e Senado devem acelerar a tramitação do tema. Ainda não houve, porém, uma conversa entre as duas Casas para definir qual texto terá prioridade. O presidente da Câmara, Arthur Lira (PP-AL) pretende avançar com o tema logo após o recesso. Ele entende que é papel do Congresso tratar da regulação e não vê como positivo o fato de o TSE editar regras.

TSE

O TSE irá realizar audiências públicas este mês para editar uma resolução. A ideia é proibir a manipulação de voz e imagens com conteúdo falso, com previsão até mesmo de cassação do mandato. Segundo minuta, a responsabilidade da retirada do conteúdo do ar será das plataformas. O uso de IA, sem o propósito de gerar desinformação, também precisará ser rotulado.

Governo

O Ministério da Justiça e Segurança Pública acompanha e estuda as medidas em tramitação no Congresso e no TSE. Hoje, a responsável pela gestão é Estela Aranha, secretária de Direitos Digitais, que na semana passada se reuniu com representantes de empresas de softwares para discutir o assunto.

Sem tipificação

Em pesquisas locais, Almeida lidera a corrida para ser reeleito. Entre os seus principais concorrentes estão Coronel Menezes (PL), que tem o apoio do ex-presidente Jair Bolsonaro, e o deputado federal Amom Mandel (Cidadania).

— Não existe anonimato na internet e você pode ser responsabilizado. Esse caso deve servir de parâmetro para o restante do Brasil — disse o prefeito de Manaus.

Sem uma regulamentação, parte dos casos são tratados como difamação, crime de menor potencial ofensivo e sem consequências eleitorais. Foi o que aconteceu com a denúncia feita pelo prefeito de Crissiumal (RS), Marco Aurélio Nedel (PL), que afirmou ter sido vítima, no fim do ano passado, da prática de deepfake após um áudio com xingamentos e frases que denotavam menosprezo a servidores da cidade ser atribuído a ele. Segundo Nedel, sua voz foi manipulada por adversários políticos com a intenção de prejudicá-lo eleitoralmente. A investigação da Polícia Civil constatou que o conteúdo indicado pelo prefeito havia sido repassado entre vereadores.

— Achei que estava ficando famoso, só conhecia o caso de vídeo (feito por inteligência artificial) com (Barack) Obama (ex-presidente dos Estados Unidos). Acho que vem coisa muito pior pela frente. Por isso, é bom colocar o freio logo agora — afirmou o prefeito da cidade gaúcha.

Já em Lagarto, no interior de Sergipe, quem denunciou ter sido vítima de manipulação por IA foi o deputado federal Gustinho Ribeiro (Republicanos-SE). Sua mulher, Hilda Ribeiro (Solidariedade), é candidata a mais um mandato como prefeita da cidade, a quarta maior do estado.

Na gravação, a voz atribuída a Gustinho profere palavrões ao se referir a adversários políticos. O deputado, que presidiu a CPI das Americanas, diz também ter denunciado o caso à polícia. “Criminosos montaram um vídeo com minha imagem e um áudio fake, criado por inteligência artificial”, afirmou, em nota.

O assunto não preocupa apenas pré-candidatos. O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, já declarou ser urgente a regulamentação do uso da inteligência artificial no país e indicou que políticos que forem pegos usando a tecnologia de forma irregular poderão ser cassados.

O TSE marcou para o próximo dia 25 audiência pública para discutir uma resolução que deve regulamentar como o tema deve ser tratado nas campanhas eleitorais. A sugestão da Corte é proibir qualquer manipulação de voz e imagens com conteúdo falso. Segundo minuta do tribunal, caberá às plataformas de redes sociais excluir vídeos e áudios após serem notificadas sobre os “fatos sabidamente inverídicos”.

O tema também mobiliza o Congresso e o governo. Desde o ano passado, o Ministério da Justiça debate internamente uma regulação sobre o tema. Já na Câmara, o presidente da Casa, Arthur Lira (PP-AL), pretende colocar em votação projetos sobre o assunto logo após o recesso. Ele entende que é papel do Congresso Nacional a regulamentação do uso da tecnologia e não vê como positivo o fato de o TSE editar regras.

— Esse movimento cibernético, de redes sociais, vai exigir de nós, congressistas, que algumas modificações aconteçam, para que a Constituição também abrace, acolha, proteja, os direitos individuais de uma vida que muda muito — disse Lira em entrevista no fim do ano passado.

Já o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil (mais detalhes na página 6).

Precedentes

Apesar de novidade no Brasil, o uso de inteligência artificial já gerou polêmica em campanhas eleitorais de outros países. No ano passado, a disputa pela presidência da Argentina foi a primeira a usar a ferramenta em larga escala. A maior parte do conteúdo era de imagens manipuladas, mas também houve vídeos, como a gravação falsa que mostrava o candidato peronista, Sérgio Massa, cheirando cocaína. A gravação foi editado digitalmente para inserir o rosto do político em outro homem.

— O conteúdo em vídeo ainda é algo que requer uma elaboração maior — diz Fernando Ferreira, especialista em inteligência artificial do Netlab, da UFRJ.

Nos Estados Unidos, a ferramenta também já foi testada nas primárias. A campanha do republicano Ron DeSantis, por exemplo, divulgou uma imagem falsa gerada por IA do ex-presidente Donald Trump abraçando um desafeto.

Mas nem todos os usos da IA foram vistos como negativos. Na Coreia do Sul, em 2022, três candidatos a presidente utilizaram avatares criados pela tecnologia para se comunicarem com a população. O recurso permitia que os políticos atingisse o público mais jovem, respondendo a perguntas pré-estabelecidas (os chamados “chatbots”) e interagindo com um maior número de eleitores, que estavam cientes do uso da tecnologia.

— A utilização dessa tecnologia apresenta riscos, problemas, e tem um potencial também benéfico. Está todo mundo tentando se situar. Falando em termos de eleições, algum tipo de regulação precisa acontecer. A grande questão é a dose disso — disse André Gualtieri, fundador da Escola de Ética de Tecnologia (Technoethics).