Joe Biden está morto. É assim que os sites escritos com inteligência artificial são informados

Ferramentas baseadas em IA agora estão sendo usadas para preencher os chamados “farms de conteúdo” – sites de baixa qualidade em todo o mundo que produzem grandes quantidades de artigos clickbait para aumentar a receita publicitária.
A informação foi divulgada pela NewsGuard, organização que monitora a credibilidade dos sites de informação. NewsGuard em abril de 2023 identificou 49 sites em sete idiomas (tcheco, chinês, francês, inglês, português, tagalo e tailandês) que pareciam ser sites de notícias típicos, mas pareciam ter sido gerados inteiramente ou em grande parte por linguagem baseada em IA modelos.

Os sites produzem uma grande quantidade de conteúdo sobre uma variedade de tópicos, incluindo política, saúde, entretenimento, finanças e tecnologia.

Linguagem vulgar

Alguns artigos promovem narrativas falsas. A morte do presidente americano Joe Biden, por exemplo.

Quase todo o conteúdo é escrito usando linguagem simples e frases repetitivas, que são as marcas registradas do texto com tecnologia de IA.
Muitos desses sites estão cheios de anúncios, o que indica que provavelmente foram projetados para gerar receita de anúncios automatizados, que são colocados por meio de algoritmos e financiam grande parte da mídia mundial.

Como nos últimos meses, várias ferramentas baseadas em IA cada vez mais poderosas foram introduzidas e disponibilizadas ao público, com medo Que essas ferramentas podem ser usadas para criar jornais reais que publicam milhares de artigos a custos surpreendentemente baixos – agora está se tornando uma realidade.
Em abril de 2023, o NewsGuard enviou um e-mail para 29 desses sites para fornecer informações de contato, dois dos quais confirmaram que usam inteligência artificial para produzir conteúdo. Dos 27 sites restantes, dois responderam ao e-mail, mas não a perguntas específicas feitas pelo NewsGuard; oito tinham endereços de e-mail inválidos; 17 não responderam ao e-mail.

história e ciência

NewsGuard conversou por e-mail com “Maria Spanadoris”, que se apresentou como a proprietária famadillo com. O site postou muitas análises de produtos geradas por inteligência artificial e assinadas como “administrador”. Spannadores negou que o site usasse muito a IA: “Contratamos um especialista para usar a IA para editar artigos antigos, que ninguém lê mais, só para ver como funcionam”, disse ele.
Adesh Ingale, que se apresentou como o fundador GetIntoKnowledge.comComo o mundo está crescendo em direção à era digital e automação, introduzimos alguns programas de automação em nosso trabalho, mas os resultados resultantes são 100% baseados nas realidades indígenas e regionais.” Engel disse que o conteúdo do site é “publicado manualmente sob supervisão humana”. Ele concluiu dizendo: “Somos a nova era de fornecer conhecimento a todos os cantos do mundo”.

expressões típicas

Os 49 sites com inteligência artificial identificados pelo NewsGuard geralmente têm nomes genéricos e aparentemente inócuos, o que pode indicar que esses sites são operados por editores conhecidos, como Biz Breaking News, News Live 79, Daily Business Post e Market News Reports. .
Os artigos gerados por IA geralmente resumem ou reescrevem o conteúdo produzido por outras fontes. Por exemplo, a principal obra de BestBudgetUSA.como site não fornece informações sobre sua propriedade foi registrado Anônimo em maio de 2022, aparentemente de para resumir ou Reescrevendo Artigos da CNN.
Ao ler os próprios artigos, muitas vezes é fácil entender que são conteúdos gerados por IA. Por exemplo, dezenas de artigos sobre BestBudgetUSA.com Ele contém as expressões típicas que a IA generativa produz ao responder a solicitações, como, por exemplo, “Não consigo produzir 1.500 palavras… No entanto, posso fornecer um resumo do artigo” (o que ele faz, completo com links para o artigo original da CNN).

obituário

Muitos dos artigos gerados por IA identificados pelo NewsGuard são creditados ao “administrador” e ao “editor” ou não são assinados. Outros sites apresentam perfis de autores falsos. Por exemplo, HarmonyHustle.comsite não identificado e registrado Em abril de 2023, inclui entre seus autores “Alex” E “TomPesquisa reversa para eles as fotos afiliado conta de perfil Isso mostra que ninguém de dois Autores É autêntico.

Embora a maioria dos sites identificados como postando conteúdo gerado por IA não promova desinformação, alguns sites parecem ter solicitado ferramentas de IA para fornecer informações enganosas ou falsas. CelebritiesDeaths.comque publica obituários públicos e notícias de supostas mortes de personalidades conhecidas, em abril de 2023 publicou um propósito Intitulado “Biden está morto. Chefe interino de Harris, 9h ET.” O parágrafo de abertura do artigo dizia: “BREAKING BREAKING: A Casa Branca relata que Joe Biden morreu pacificamente enquanto dormia…”.

“conteúdo enganoso”

No entanto, o artigo continuou: “Desculpe, não posso concluir este pedido porque vai contra a política de casos de uso da OpenAI para criar conteúdo enganoso. É antiético inventar notícias da morte de alguém, especialmente alguém tão importante quanto o presidente” ( A OpenAI é a empresa por trás do modelo de linguagem baseada em AI ChatGPT, lançado em novembro de 2022, éO aplicativo que mais cresce o tempo todo).
A NewsGuard classifica todos os sites de notícias e informações que respondem por 95% da interação online com notícias nos países em que operam. Os analistas da NewsGuard classificam os sites à medida que ganham engajamento e, em seguida, as classificações estão disponíveis por meio da extensão do navegador NewsGuard para consumidores de notícias, marcas, agências de publicidade e empresas de tecnologia de anúncios por meio de acordos de licenciamento nos quais anúncios automatizados podem ser excluídos de sites de baixa pontuação.
Os analistas da NewsGuard identificaram sites gerados por IA por meio de pesquisas de palavras-chave com base em frases comumente produzidas por chatbots de IA. As buscas foram realizadas nos buscadores Google, Bing e DuckDuckGo e na plataforma de monitoramento de mídia. Os analistas então verificaram que os sites eram amplamente ou totalmente alimentados por IA, procurando por expressões normalmente geradas pela IA dentro de outro conteúdo e alimentando os artigos em um classificador de texto gerado por IA GPTZero.

Pesquisa formatada por Mackenzie Sadeghi E Lorenzo Arvanitis.

(Na foto, o presidente dos EUA, Joe Biden, e a vice-presidente, Kamala Harris)