Como as imagens geradas pela inteligência artificial podem ser reconhecidas?

Ferramentas baseadas em IA capazes de gerar imagens a partir de texto estão se tornando difundidas, mas cada vez mais difíceis de reconhecer. Os erros na produção deste conteúdo estão diminuindo à medida que a tecnologia avança, mas os fornecedores dessas ferramentas estão trabalhando para tornar o conteúdo sintético identificável.

Modelos de Inteligência artificial gerativa Eles não estão mais limitados ao texto e, portanto, à escrita de conteúdo textual, mas estão cada vez mais avançados para poder fazer isso também. Crie imagens E recentemente, Vídeo e áudio. Referimo-nos a aquelas ferramentas, gratuitas ou pagas dependendo do recurso e funcionalidades disponibilizadas, que permitem escrever uma sequência de texto para obter uma imagem, estática ou animada, que satisfaça o pedido efetuado. Por exemplo “Gatos jogam futebolA Microsoft introduziu recentemente a ferramenta gratuita “Designer” em seu software Copilot baseado no modelo Dall-E 3 da OpenAI. Ao mesmo tempo, os erros na produção desse conteúdo estão diminuindo à medida que os recursos dos modelos de IA avançam. Felizmente, os fornecedores dessas ferramentas estão trabalhando para tornar o conteúdo sintético identificável.

A IA também pode gerar imagens, não apenas texto

Se hoje são raras as ferramentas baseadas em IA generativa capazes de criar vídeos sob demanda, como o Sora anunciado recentemente pela OpenAI, aquelas que permitem criar imagens a partir de texto estão cada vez mais no centro das discussões, porque são a razão A propagação de conteúdo falso online. Qualquer pessoa que saiba utilizar estas ferramentas tem potencial para pedir à IA que crie, por exemplo, a imagem de uma pessoa famosa colocada num contexto muito distante da realidade. Tecnologia também conhecida como com.deepfake, que sem medidas de censura adequadas se revela cada vez mais avançado, tornando difícil distinguir entre conteúdos reais e conteúdos falsos. É uma tecnologia cada vez mais perigosa, porque é utilizada por pessoas mal-intencionadas para criar campanhas publicitárias enganosas.

A IA generativa é usada para criar golpes reais para atrair a atenção de possíveis vítimas. Por exemplo, a imagem de uma pessoa famosa – e às vezes a sua voz – é frequentemente usada para criar campanhas que o convidam a investir online para ganhar muito dinheiro com facilidade. É possível observar esse tipo de campanha fraudulenta, principalmente entre anúncios nas redes sociais: por isso você deve ter muito cuidado.
Certa manhã, enquanto ouvíamos a Deejay Radio, ouvimos que Alessandro Cattelan também havia chamado a atenção para este tema, informando que alguém havia criado uma campanha publicitária falsa replicando sua voz usando inteligência artificial. Depois se juntaram a ele outras celebridades, que reclamaram praticamente da mesma coisa: criminosos explorando sua imagem em golpes.

Imagens geradas por IA generativa, como você pode reconhecê-las

Reconhecer anúncios e conteúdos criados com IA generativa está se tornando cada vez mais difícil. “Existem conteúdos que podem ser facilmente percebidos.”Defeitos de produção'. Para conteúdo de áudio, por exemplo, você pode prestar atenção à linguagem: a IA pode ser forçada e não natural, como se o locutor fosse uma máquina que ainda não é capaz de repetir certos tons de tons. Nos últimos meses, alguns programas de rádio de entretenimento para entreter o público criaram conteúdos imitando vozes de celebridades: mesmo um ouvido destreinado é suficiente para reconhecer a presença de inteligência artificial.

Imagens geradas por inteligência artificial podem ser difíceis de reconhecer, à medida que as técnicas de criação se desenvolvem rapidamente. No entanto, isso depende do modelo subjacente à ferramenta geradora. Na verdade, modelos menos avançados podem não ser capazes de gerar detalhes com precisão, portanto, ao analisar imagens que podem conter muitos detalhes, podem ser encontradas pistas. No entanto, modelos mais avançados poderiam ser melhores, tornando assim mais difícil o reconhecimento da intervenção da IA. E então pode haver imagens com conteúdos improváveis ​​que são óbvios sem muita reflexão forjado Sem dúvida: consideremos, por exemplo, a imagem do Papa subindo uma montanha.

As imagens geradas por IA devem ser identificáveis

Se você tem dúvidas sobre a natureza de uma imagem e não consegue encontrar elementos que possam indicar se ela pode ter sido criada por inteligência artificial, as mesmas ferramentas que permitem criar esse tipo de conteúdo estão trabalhando para torná-lo mais ou menos fácil de identificar. . Por exemplo, Meta, OpenAI e Microsoft fizeram esforços para integrar Identificadores e/ou metadados para facilitar a identificação de conteúdo gerado por IA Suas ferramentas incluem MetaAI, Copilot e DALL-E. Depois, existem algumas ferramentas que geram imagens com marca d'água visível ao olho humano em alguma área da própria imagem. Voltando aos identificadores e metadados invisíveis, há necessidade de ferramentas capazes de “ler” essas informações escondidas na imagem. Como veremos a seguir, existem alguns que podem ser acessados ​​online, inclusive de graça.

É importante notar que Meta fez um esforço para reconhecer o conteúdo gerado por IA que os usuários compartilham no Instagram, Facebook e Threads e, em seguida, adicionou um rótulo que informa claramente às pessoas que o conteúdo que estão vendo foi gerado por IA. A Meta também está trabalhando em seu próprio algoritmo que pode reconhecer conteúdo gerado por IA, mesmo que não contenha identificadores padrão. Nós conversamos sobre isso aqui.

Existem ferramentas online para reconhecimento de imagens geradas por inteligência artificial

Quando você tiver dúvidas sobre a natureza da imagem, se ela não possui identificadores ou rótulos visuais que indiquem que foi criada com inteligência artificial e você não percebe nenhum elemento estranho ou erro nela, você pode usar algumas ferramentas online que podem ajudar com isso. Porém, atenção: este tipo de ferramenta pode reconhecer quaisquer identificadores e metadados detectados nas imagens, caso existam, mas na ausência de identificadores, não sabemos se podem gerar ou não. Falsos positivos, ou seja, referindo-se à imagem sendo gerada por meio de inteligência artificial quando na realidade não o é. Dito isto, ao pesquisar na web, Céu TG24 E Página de fã Recomendamos estas ferramentas para identificar imagens falsas: 'Ai ou não“,”Luminarte“,”Abraço facial' E 'Imagens forenses'. Nota-se também queID de síntese(deepmind.google/technologies/synthid/), uma ferramenta do Google DeepMind atualmente em beta que permite adicionar identificadores e identificar conteúdo gerado por IA.