Levantamento inédito revela perfil e aumento na circulação de fakes envolvendo IA

Mar 18, 2024 в Combate à desinformação
IA e fake news

Este conteúdo foi publicado originalmente pela Lupa e gentilmente cedido para ser compartilhado aqui. 


Um dos poucos dados capazes de jogar luz sobre o tamanho do impacto da inteligência artificial no universo da desinformação vem do Google. Desde 2019 a Fact Check Tool API reúne todas as checagens que a big tech considera como sendo profissionais e permite que não só os produtos e serviços lançados pela própria empresa façam uso de seus resultados como também que pesquisadores extraiam inteligência desse material.

Em 28 de fevereiro, quando o Tribunal Superior Eleitoral (TSE) aprovou uma resolução proibindo o uso de deepfakes e estabelecendo limites para o uso de inteligência artificial na campanha eleitoral deste ano, a Lupa mergulhou na API do Google para entender o problema que a Corte tenta endereçar: seu tamanho, suas características e seus formatos mais populares. 

O volume e o idioma das checagens sobre IA

Entre 1 de março de 2023 e 28 de fevereiro de 2024, 509 checagens profissionais foram publicadas e indexadas pelo Google fazendo menções às expressões "inteligência artificial" ou "deep fake" em suas respectivas traduções para os dez idiomas mais falados do mundo (inglês, mandarim, espanhol, hindu, francês, árabe, bengali, russo, português e urdu). 

Isso significa que, em um ano, uma média de 42 fact-checks foram publicados por mês apontando para falsidades, exageros ou distorções tecnologicamente criadas — ou simplesmente falando de casos em que há relação direta com o tema inteligência artificial. E esse número está em ascensão.

Dados da API do Google indicam que, se observados apenas os dois primeiros meses de 2024, a média de checagens que sinalizam mentiras fabricadas por IA ou que abordam o tema de forma genérica subiu para 70 por mês, numa alta de 62%.

"Deepfakes" e peças fabricadas por IA foram assunto de verificações publicadas e indexadas pelo Google em 30 idiomas no período analisado pela Lupa. Inglês, espanhol e árabe despontaram, nessa ordem, como líderes. Português, que é apenas o nono idioma mais falado no planeta, apareceu em quarto lugar.

Um mergulho no português

No período de 12 meses analisados, os checadores que trabalham em português publicaram 25 verificações que apontavam para falsidades tecnologicamente fabricadas ou que simplesmente mencionavam IA em seus textos. A curva ascendente observada na totalidade dos idiomas entre dezembro de 2023 e fevereiro de 2024 também ocorre na língua portuguesa. 

Se a média mensal de fact-checks relativos à IA do ano passado não chegou a 2 (foi de 1,8), nos dois primeiros meses deste ano pulou para 3,5 checagens desse tipo a cada 30 dias. Há diversas razões para esse crescimento. A principal delas, a inegável popularização do assunto.

Nove organizações de mídia publicaram ao menos uma checagem sobre inteligência artificial no período analisado. Sete delas são brasileiras (Lupa, Aos Fatos, Boatos.org, AFP Checamos, Estadão Verifica, e-Farsas e UOL) e duas são portuguesas (Observador e Polígrafo). Das nove, sete são signatários e seguem o Código de Ética da International Fact-Checking Network (IFCN).

Qual o cenário no Brasil?

Quando excluídos da análise os conteúdos flagrados em Portugal, chega-se a um total de 19 checagens indicando uso controverso de IA ou mencionando esse assunto tendo sido publicadas em língua portuguesa ao longo de um ano. E, nesse universo, chama atenção o fato de seis dessas checagens – ou seja, quase um terço – terem vindo à tona em 2024, comprovando a tendência de alta.

O dado mais relevante, no entanto, vem da análise do conteúdo. Nenhuma das verificações trata de fotos, vídeos ou áudios ligados à política ou a políticos nacionais. Nenhum partido ou coalizão é mencionado nas peças desinformativas fabricadas por IA. A única que menciona eleição não trata de um conteúdo manipulado. Apenas mostra que o fundador do Fórum Econômico Mundial, Klaus Schwab, não defendeu que a inteligência artificial deve substituir processos eleitorais. A checagem comprova que frases ditas por Schwab foram editadas e tiradas de contexto.  

No conjunto, não há qualquer indícios de que a IA foi usada contra o Judiciário nem contra o Legislativo brasileiro. A palavra "governo", seja em referência a qualquer forma de governança, aparece em três checagens que mencionam IA. 

Uma, feita pela Lupa, alerta para um vídeo manipulado em que o apresentador de televisão Luciano Huck aparece. A gravação inclui um áudio que jamais foi gravado por Huck para aplicar o golpe do ‘Saque Esquecido’. Esse áudio foi gerado artificialmente, e o link que acompanha esse material não remete a um site do governo (do tipo gov.br), mas a um domínio suspeito.

As outras duas checagens com a palavra "governo" também não mostram conteúdos manipulados. Apenas tratam do assunto inteligência artificial. Apontam que é falsa a informação de que o Fórum Econômico Mundial tenha ordenado a governos do mundo que a Bíblia fosse reescrita por IA (aqui e aqui).

No universo de falsidades fabricadas por IA e identificadas em português, não foi detectada nenhuma de grande relevância ou impacto – algo que tenha sido capaz, por exemplo, de mudar os rumos de uma política pública. No mar de miudezas, há um "parque demoníaco" produzido por inteligência artificial, uma falsa foto do ativista australiano Julian Assange preso e o suposto lançamento de uma "mulher artificial" na China.

Os dados extraídos da API do Google ainda indicam que conteúdos artificialmente gerados que terminam viralizando em português tratam – na maioria dos casos – de temas vindos de fora do país e com baixa relevância.


 

 

Leandro Becker e Nathallia Fonseca