Berliner Tageblatt - 'Foi a IA': confusão em eleições da Colômbia por supostos áudios falsos

Geralmente impossíveis de verificar, os áudios circulam pelo WhatsApp, X (antigo Twitter) e TikTok e são usados como propaganda ou álibi para escapar de um escândalo. No rio revolto de falsificações, alguns candidatos aproveitam para desacreditar denúncias contra eles com o mantra: "Foi feito com inteligência artificial".

A Colômbia, que realizará neste domingo eleições regionais, segue os passos de países como Venezuela, México e Estados Unidos, onde o conteúdo criado com IA já começa a cruzar a linha dos limites entre a realidade e as falsificações digitais.

- "Falsificações baratas" -

“O pagamento e a inflação [dos números] nas pesquisas funcionaram, o povo acreditou. Isso vai colocar (Gustavo) Bolívar e eu no segundo turno, conforme o plano”, ouve-se dizer uma voz falsa, muito parecida com a de o candidato a prefeito de Bogotá, Carlos Fernando Galán.

Favorito nas pesquisas para ir ao segundo turno com o partido governista, Gustavo Bolívar, o candidato centrista negou o áudio: “Agora com a inteligência artificial estão criando minha voz para dizer coisas que nunca disse. É incrível (...), é uma guerra suja", alegou Galán em um vídeo publicado em sua conta X (antigo Twitter), sem especificar quem estaria por trás da peça.

Segundo o editor do portal especializado Muchohacker.lol, Camilo Andrés García, “não se poderia saber exatamente se isso é falso ou não”.

Porém, a entonação robótica e as pausas na dicção levam García a pensar que se trata de uma falsificação "rústica" da voz de Galán criada com alguma ferramenta digital.

Para Juan Felipe Rodrigo, autor de uma pesquisa sobre “deepfakes” – vídeos criados com IA que reproduzem gestos e tom de voz exatos de uma pessoa – “isso é um ‘cheap fake’, ou seja, montagens que são claramente falsas”.

É apenas uma amostra do que pode acontecer mais tarde com os “deepfakes”, como já acontece nos Estados Unidos, onde no início deste ano circulou no TikTok um áudio realista, porém falso do presidente Joe Biden e do seu provável rival nas eleições de 2024, Donald Trump, lançando insultos uns aos outros.

Apesar da má qualidade, o suposto áudio de Galán foi apresentado como real por diversos usuários do TikTok e do Twitter.

“É suspeito, mas quando você ouve você fica com dúvida (...) deve haver pessoas ou agências na Colômbia que estão testando como fazer essas coisas”, diz García, que tentou fazer uma réplica da voz de Galán apresentando amostras de suas intervenções em um programa de IA que custa um dólar.

- Álibi perfeito -

Durante a campanha, uma dezena de políticos atormentados por escândalos alegaram em sua defesa que se tratavam de campanhas difamatórias com áudios supostamente feitos com inteligência artificial.

García, porém, duvida da veracidade de muitas destas afirmações e afirma que pode ser uma estratégia de “marketing político”.

O candidato a prefeito de Sincelejo (norte), Yahir Acuña, é ouvido em um suposto áudio relatando subornos dados a políticos em troca de apoio à sua candidatura.

“O fato de parecer minha voz não me responsabiliza. Existem aplicativos que simulam a voz das pessoas”, defendeu-se na W Radio.

“A inteligência artificial faz maravilhas. Não me lembro de ter tido essas conversas”, enfatizou Acuña, ex-parlamentar investigado por possíveis ligações com traficantes de drogas.

E na sexta-feira, 48 horas antes da abertura dos locais de votação, o governador cessante do departamento de Quindío, Roberto Jaramillo, pediu ao Ministério Público "que comparasse, usando provas forenses, uma transmissão de áudio em redes (sociais) em que a inteligência foi usado"artificial para clonar" sua voz.

A gravação em que Jaramillo coordena atividades de campanha com um dos candidatos à sua sucessão – atividade proibida na Colômbia – foi divulgada pelo jornalista investigativo Daniel Coronell, que defende sua veracidade com base no conceito de especialista em inteligência artificial.

No entanto, García especifica que “até o momento não existe nenhum aplicativo que detecte com total certeza se um som foi criado com IA, como é o caso das imagens”.

G.Schulte--BTB