Um dos casos identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de deepfake

A temporada de desinformação eleitoral já está em curso no país, apresentando uma modalidade de conteúdo ainda mais desafiadora de ser detectada. Em pelo menos três estados - Amazonas, Rio Grande do Sul e Sergipe - as autoridades policiais estão conduzindo investigações sobre suspeitas de utilização de inteligência artificial (IA) para criar áudios falsos de prefeitos que planejam buscar a reeleição, bem como de um deputado federal envolvido na pré-campanha da esposa que também almeja a recondução ao cargo de chefe do executivo municipal.

Essa técnica de manipulação de sons e vídeos, conhecida como "deepfake", permite a recriação artificial do tom, timbre e até mesmo do modo de fala de uma pessoa. Dessa forma, ao receber uma gravação via WhatsApp, o eleitor pode reconhecer a voz do candidato e acreditar que o político expressou algo que, na realidade, não disse.

Um dos casos identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de deepfake no fim do ano passado. No áudio atribuído a ele, a voz do político, emulada por Inteligência Artificial, trata os professores da rede municipal de ensino de “vagabundos” e diz que os servidores “querem um dinheirinho de mão beijada”. 

A Polícia Federal tem abordado esse episódio como um tipo de laboratório, enxergando indícios de crime eleitoral e, por essa razão, assumiu a responsabilidade pelas investigações. A intenção é utilizar esse caso como um modelo para possíveis apurações futuras relacionadas às eleições municipais deste ano. Desde a instauração do inquérito em 22 de dezembro, dois suspeitos já foram interrogados. Adicionalmente, uma perícia no arquivo digital foi conduzida, confirmando a manipulação no áudio. 

"O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.

O áudio manipulado foi divulgado em meio ao protesto de profissionais pelo pagamento de abono oriundo de sobras do Fundeb. Almeida diz que o áudio é falso e tem o objetivo de criar indisposição com a categoria em ano eleitoral.

"Vou falar do aumento ano que vem (2024) (...) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais." 

Em áudio compartilhado, o prefeito xinga funcionários do parque de obras, espaço da prefeitura, e achincalha servidores. O prefeito diz que o caso é uma tentativa de retaliação da oposição na cidade e que visa o processo eleitoral deste ano, quando concorrerá à reeleição.

"Pode arrochar, bote pra f..., eles lá não têm poder nenhum, quem está no poder somos nós"

O parlamentar diz que foi alvo de montagem por inteligência artificial na gravação em que a voz atribuída a ele critica adversários políticos. Rubeiro denunciou o caso a autoridades para investigação.

A Câmara e o Senado têm a intenção de agilizar a tramitação desse assunto. No entanto, ainda não ocorreu um diálogo entre as duas Casas para determinar qual texto será prioritário. O presidente da Câmara, Arthur Lira (PP-AL), planeja avançar com o tema logo após o recesso. Ele enfatiza que é responsabilidade do Congresso lidar com a regulamentação e não considera positivo que o TSE estabeleça regras. 

O TSE planeja conduzir audiências públicas neste mês visando a elaboração de uma resolução. A proposta é proibir a manipulação de voz e imagens com conteúdo falso, incluindo a previsão de cassação do mandato. Conforme o esboço, a responsabilidade pela remoção do conteúdo das plataformas ficará a cargo destas. Além disso, o uso de inteligência artificial, quando não destinado a gerar desinformação, também deverá ser devidamente rotulado. 

O Ministério da Justiça e Segurança Pública está monitorando e analisando as medidas em andamento no Congresso e no TSE. Atualmente, a gestão desse acompanhamento está a cargo de Estela Aranha, secretária de Direitos Digitais, que, na semana passada, realizou uma reunião com representantes de empresas de software para discutir o assunto.

(Com informações de O Globo)