A inteligência artificial é uma ameaça para a humanidade. Ele está pedindo uma pausa de seis meses com Steve Wozniak e Yuval Noah Harari

“Os sistemas de inteligência artificial podem representar sérios riscos para a sociedade e a humanidade” e, portanto, “pedimos a todos os laboratórios de IA que o façam”. Suspensão imediata do treinamento por pelo menos seis meses». Assinado por Elon Musk.

Elon Musk, Steve Wozniak e Yuval Noah Harari

A nova crítica contra Ai vem de figuras proeminentes do setor, em primeiro lugar o dono da Tesla. Ele está entre os fundadores da OpenAI (mas agora deixou o conselho de administração) (a história dele aqui) que deu vida ao ChatGpt, a inteligência artificial que foi a primeira a nos permitir experimentar o poder do pensamento “pseudo-humano”. É ele quem usa inteligência artificial em seus carros para o sistema de autocondução do piloto automático Há dois anos, ele introduziu os bots Tesla Bot e Optimus. Depois, há o fundador da Apple, Steve Wozniak, o autor best-seller Yuval Noah Harari e muitos outros especialistas como Josué BengioDa Universidade de Montreal, H Stuart Russel Berkeley, um dos principais heróis da revolução.

“Vamos parar no Gpt-4”

Os nomes aparecem no arquivo Uma carta aberta publicada online pede uma parada Para todos os sistemas mais fortes que Gpt-4, a versão mais recente do sistema é incrível. Ele transcende textos e também pode criar imagens, e pode criar videogames como pong (antecessora do setor) em menos de um minuto, Desenhe um site a partir de um esboço simples desenhado em um pedaço de papel e crie uma receita que “olha” para a foto dos ingredientes (assim como muitas outras coisas, como contamos aqui).

Motivos do pedido

É justamente o posicionamento cultural dos signatários que dá força à mensagem Leva a melodia clássica de “What Happens If It Falls Into The Wrong Hands” Já vimos muitas inovações. “Sistemas de IA fortes só devem ser desenvolvidos quando temos certeza disso Seus efeitos serão positivos e seus riscos podem ser controladosEle lê o texto, daí o pedido de paralisação do desenvolvimento por seis meses.Até que protocolos de segurança comuns sejam desenvolvidos para tais projetosimplementadas e verificadas por especialistas independentes”.

porque agora

A data de publicação desta carta não é acidental. Por um lado, mesmo os não especialistas já estão cientes do vasto potencial da inteligência artificial e «As dramáticas convulsões econômicas e políticas (especialmente para a democracia) que a IA causaráConforme consta na carta. Experimentamos isso com as fotos sóbrias da falsa prisão de Donald Trump ou da colcha do papa. Muitos pensaram que estava correto (e há quem o descarte como tal), mas foi criado por inteligência artificial.

Alerta Europol

Mais última segunda-feira Europol Publicar um documento Ele mostra abuso de Gpt 3.5 (a versão mais antiga do Gpt-4 na qual o ChatGpt atual é baseado) e Como os cibercriminosos podem usá-lo Para criar e-mails de phishing sem erros ortográficos e gramaticais, para criar scripts confiáveis ​​​​de publicidade e desinformação, para programar software de forma independente compilando código por meio de várias linguagens de programação. Software que também pode incluir malware, é claro.

Sam Altman também pede cautela

Sobre tudo isso, Sam Altman, o extravagante CEO da OpenAI (sua história aqui), não falou, mas basicamente ele já deu sua opinião. Em 24 de fevereiro, ele assinou uma postagem no blog afirmando: “Alto risco de uso indevido, acidentes e distúrbios sociais»De «AJI», a inteligência artificial geral que simula o pensamento humano. Altman admite que os benefícios são “tão grandes que… Não pensamos ser possível ou desejável que a sociedade pare seu desenvolvimento para sempreComo resultado, ele e sua equipe “tornaram-se cada vez mais cautelosos na concepção e publicação desses modelos”.

script do terminador

Suas preocupações são as mesmas da Europol (abuso, crime de computador, desinformação, propaganda) e podem ser resumidas em uma definição maravilhosa, “cenário Terminator”. Teorizado, entre outros, por Altman e Musk, relembrando os cenários apocalípticos do filme de James Cameron, ou seja, O que pode acontecer com a humanidade que se tornou obsoleta Do desenvolvimento da inteligência artificial com consciência e capacidades cognitivas além das nossas.

Depois, há a Microsoft

Há outro aspecto curioso da pontualidade nesta carta. apenas venha Na esteira da aliança entre a OpenAI e a Microsoft 7 de fevereiro (detalhes aqui). Apesar das preocupações de Bill Gates, Satya Nadella investiu $ 10 bilhões na empresa de Altman para vencer claramente a concorrência (especialmente o AI Bard do Google, aqui está a comparação entre os dois). Ele já implementou o ChatGpt no mecanismo de busca Bing (com algumas esquisitices), no Teams e no Windows 11 e agora está trabalhando para trazer a IA também para o Office 365. “Pensar mal” (como dizia Andreotti)…