O lado negro da inteligência artificial

(ASI) NOVA YORK – Fotos recentes do Papa Francisco enrolado em um edredom branco caro ou Donald Trump em uniforme de prisão causaram sensação. Mas este é apenas o começo.

Em ambos os casos, verificou-se que eram imagens falsas, geradas por inteligência artificial (IA). No entanto, isso parece ser apenas a ponta do iceberg. Porque a inteligência artificial de hoje é capaz de ir muito mais longe, por exemplo, processar teses de graduação completas em pouco tempo.

O potencial do software de computador é praticamente ilimitado e está se desenvolvendo dia a dia. O mundo da informação certamente não pode sair ileso, para o bem ou para o mal. Isso é evidenciado por uma interessante pesquisa publicada em 1º de maio pela American NewsGuard, uma organização de jornalistas e especialistas empenhados em combater a disseminação de notícias falsas.

Em abril, analistas pesquisaram várias organizações de notícias online. Para isso, utilizaram os buscadores Google e Bing, este último da gigante Microsoft. Eles navegaram na Internet e inseriram uma série de palavras-chave amplamente usadas por programas de IA. Depois que os portões foram identificados, os artigos de periódicos contidos neles foram digitalizados por uma ferramenta treinada em reconhecimento de linguagem de IA.

O resultado é incrível. O software de inteligência artificial está sendo sistematicamente explorado para criar artigos envolventes de forma brilhante. Cada vez que um usuário desavisado clica para lê-lo, ele não apenas obtém acesso a informações enganosas ou totalmente falsas, mas também enriquece os proprietários do site por meio de anúncios que estão presentes em grandes quantidades nas páginas da web. Atrás do mecanismo malévolo, a mão humana está quase ausente.

Especificamente, o NewsGuard encontrou 49 sites em 7 idiomas diferentes – incluindo chinês, francês, inglês e português – que “parecem ter sido criados inteiramente ou em grande parte por modelos de linguagem baseados em IA projetados para imitar a comunicação humana”. Em outras palavras, apesar dos sites disfarçados de jornais, os jornalistas podem nunca tê-los visto pessoalmente.

Seus nomes à primeira vista parecem confiáveis ​​- quem Notícias ao vivo 79 para Postagem diária de negócios até Relatórios de notícias do mercado – tão reconfortante quanto a ambição de abordar temas importantes em política, saúde, entretenimento, finanças e tecnologia. A actualização dos conteúdos é muito constante, chegando alguns sites monitorizados a produzir “centenas de artigos por dia”.

Aqui está o engano. Os sites são, de fato, repletos de anúncios que geram uma receita significativa para seus proprietários. Por outro lado, o leitor involuntário obtém artigos escritos com “linguagem vulgar e frases repetitivas”. Expressões regulares e mecânicas como Para concluir E É importante lembrar Frequentemente repetido. Muitas vezes, no meio da postagem, aparecem palavras do tipo Não consigo concluir esta solicitação. Todos os sinais claros, esses, são de peças que foram montadas automaticamente pelo software AI.

Mesmo o menor descuido humano está ausente, pois os exemplos acima são consistentes com as respostas dadas pelos assistentes digitais quando não conseguem encontrar as informações solicitadas pelos usuários. As mensagens de erro se alternam com o que os especialistas chamam de “alucinações”, ou seja, informações ou detalhes completamente irrelevantes para o assunto do artigo, embutidos no texto devido a um mau funcionamento do algoritmo de IA. Em outros casos, os sites se limitam a resumir notícias de fontes externas. Uma investigação da NewsGuard, por exemplo, encontrou um portal limitado principalmente a paráfrases de artigos publicados no portal americano da CNN.

Ao analisar 49 sites, os pesquisadores perceberam a complexidade de rastrear os “reais” proprietários. Muitas vezes, de fato, não há indicação da composição do conselho editorial. Artigos assinados por Funcionários E Editores Completamente anônimo. Os especialistas explicam que, quando aparecem os nomes associados às fotos, trata-se de “perfis não autênticos” ou “autores falsos”. Mesmo a seção sobre informações sobre o processamento de dados pessoais do usuário – obrigatória por lei – parece ter sido escrita por algoritmos treinados para escrever avisos de direitos autorais. Prova disso é a generalidade e incompletude das informações fornecidas.

Em suma, por trás dos mecanismos automáticos capazes de simular o trabalho de verdadeiros jornalistas de forma aparentemente convincente, está o desejo de assuntos não especificados de atrair a atenção dos marinheiros para arrecadar dinheiro por meio de anúncios associados a cada artigo. A questão se torna mais séria quando a inteligência artificial é usada para espalhar notícias infundadas. E assim os pesquisadores do NewsGuard encontraram um artigo anunciando a morte do presidente dos Estados Unidos, Joe Biden. Continuando a leitura, a certa altura houve uma referência à linguagem OpenAI, empresa americana que desenvolveu o já conhecido ChatGPT. No entanto, quando os pesquisadores questionaram o CEO da empresa, não obtiveram resposta.

Mesmo os imensamente populares Facebook, Instagram e Twitter não são estranhos a esse fenômeno. Pelo contrário, muitos dos sites examinados durante a pesquisa compartilham conteúdo postado nas redes sociais. Um portal que os pesquisadores visam, por exemplo, tem 124.000 seguidores no Facebook. Também neste caso, o programa de Mark Zuckerberg preferiu opor-se às questões da organização com silêncio religioso.

Sem desistir, os pesquisadores tentaram se comunicar diretamente com os proprietários dos sites ofensivos, usando detalhes de contato encontrados online. Apenas dois responderam, afirmando, pelo menos em parte, que “usaram inteligência artificial para produzir conteúdo”. Em oito casos, os endereços de e-mail fornecidos foram considerados “inválidos”.

Uma coisa é certa: se realmente queremos aproveitar os muitos aspectos positivos da inteligência artificial, devemos ao mesmo tempo nos resignar a conviver com seus aspectos negativos. Talvez o melhor remédio para a disseminação de notícias e imagens enganosas ou falsas seja a nossa inteligência. O que nos leva a verificar cuidadosamente as fontes e a forma gramatical dos textos. O que nos faz pensar duas vezes antes de compartilhar conteúdo que nos deixa desconfiados com nossos amigos. Acima de tudo, aquela que sempre nos leva a consultar mais de uma fonte e nos estimula a pensar, a formar opinião somente depois de comparar diferentes versões de uma mesma notícia.

Marco Lifting – agência de notícias italiana