O aumento da desinformação através da inteligência artificial…

Essa informação e desinformação se entrelaçam de forma cada vez mais densa (e difícil de decifrar) que todos podem ver.

Percebemos isso sobretudo desde 24 de fevereiro, dia da invasão russa da Ucrânia: as notícias falsas se tornaram uma espécie de guerra dentro da guerra.

Não vamos falar sobre os últimos meses, que foram dominados por dois métodos diferentes de IA generativa.. Ou seja, programas capazes de produzir scripts (como o ChatGPT) e os que partem de uma cadeia de texto, geram imagens (como o Midjourney).

Já vimos de tudo: de advogados improvisados ​​que dependiam de chatbots de conversação a jornalistas que se fantasiavam de Papa Francisco em colchas para se divertir ou imaginavam o ex-presidente dos EUA, Donald Trump, atrás das grades.

Mas o uso da inteligência artificial certamente pode ser menos inocente do que isso. O NewsGuard lidou recentemente com a desinformação gerada pela inteligência artificial.

NewsGuard é o centro de controle de informações geradas por inteligência artificial

Desenvolvido por uma equipe de jornalistas e editores, o NewsGuard oferece nove classificações de critérios e pontuações de confiabilidade para sites.

Use ChatGPT com NordVPN – 56% de desconto no plano anual + 3 meses grátis

Além de elaborar um relatório mensal, abre periodicamente centros de monitoramento específicos, como o do conflito russo-ucraniano.

Tendo em vista a onipresença mencionada da IA ​​generativa, com todos os riscos associados a ela (bem como as várias oportunidades, é claro), o NewsGuard também abriu recentemente central de monitoramento informações geradas por inteligência artificial. Onde a informação é investigada, sobretudo a desinformação que vem da inteligência artificial. Vamos dar uma olhada em alguns dos dados.

Pelo menos 150 sites não confiáveis

Na nota introdutória do relatório, lemos que “o NewsGuard identificou até agora 150 sites de notícias e informações gerados por IA que operam com pouca ou nenhuma supervisão humana”. Acrescentamos que, enquanto escrevemos o artigo, a investigação do NwGuard é atualizada a partir de quarta-feira, 7 de junho.

Os sites de desinformação da Anistia Internacional operam atualmente em 12 idiomas: árabe, chinês, tcheco, coreano, francês, indonésio, inglês, holandês, português, tagalo, tailandês e turco.

Embora esses sites geralmente tenham nomes completamente confiáveis, eles operam sem qualquer supervisão humana ou publicam artigos escritos por bots quase como estão.

Esses sites produziram dezenas e, em alguns casos, centenas de artigos sobre vários tópicos, incluindo política, tecnologia, entretenimento e viagens. Os artigos às vezes contêm alegações falsas, como boatos sobre mortes famosas e eventos inventados ou antigos, mas são apresentados como se tivessem acabado de acontecer”.

A receita desses sites geralmente é fornecida por publicidade. O problema, aponta o NewsGuard com razão, é exatamente este: até que as empresas prestem a devida atenção e evitem colocar seus anúncios em sites não confiáveis, elas continuarão a espalhar notícias falsas.

Os quatro requisitos

Os 150 sites de desinformação identificados por Newsuard têm as quatro características a seguirHá evidências contundentes de que uma parte significativa do conteúdo do site é gerada por inteligência artificial; Há muitas evidências de pouca ou nenhuma intervenção humana; A forma como os artigos são apresentados leva a crer que foram escritos por humanos; Não há indicação de que o autor dos artigos seja uma IA.

Sites de desinformação de IA triplicaram em um mês

Em maio de 2023, o Centro de Monitoramento de IA interceptou 49 sites de notícias falsas geradas por IA. Agora, em junho, chegamos a 150: mais de três vezes mais.

Eles estão acima de tudo Mídia estatal na China e na Rússia Usar o ChatGPT para espalhar desinformação por meio de inteligência artificial.

palavra NewsGuard

Os dois CEOs da NewsGuard falaram sobre desinformação por meio de inteligência artificial.

Stephen Brill disse: “Uma das razões pelas quais o NewsGuard foi criado há 5 anos é porque os farms de conteúdo são fáceis de produzir e de baixo custo. Os sites de notícias gerados por IA de hoje são semelhantes aos farms de conteúdo da Macedônia que espalharam desinformação alguns anos atrás, exceto que a produção os custos são mais baixos e podem Que essas novas fontes se tornem mais prolíficas graças aos avanços da tecnologia: “inteligência artificial”.

E Gordon Crovitz volta ao problema da publicidade: “A maioria desses sites é construída em um modelo de negócios que gera receita de anúncios programáticos. As marcas não pretendem colocar anúncios em sites que não são seguros para sua reputação, mas a falta de transparência em um sistema automatizado de gerenciamento de anúncios significa que seus anúncios , fornecidos por empresas de tecnologia de anúncios como o Google, ainda estão aparecendo nesses sites.”