Uma pesquisa com os principais cientistas de IA sugere que sim Há 5% de chance de que a IA fique fora de controle e destrua a humanidade. Segundo os pesquisadores, Antes de 2030, a inteligência artificial fará grandes progressos, Ele será capaz de alcançar sucessos musicais e literários. Se este cenário horrível se concretizar, pelo menos morreremos nos divertindo.
Uma pesquisa realizada em dezembro por especialistas de Berkeley e da Universidade de Oxford destaca: Embora as previsões destes especialistas não devam ser consideradas fatos absolutos, Eles fornecem uma peça essencial para a compreensão da imagem. Estes investigadores, com um profundo conhecimento da tecnologia e do desenvolvimento histórico da IA, estão bem posicionados para fazer suposições fundamentadas sobre o seu futuro.
A pesquisa pediu aos participantes que compartilhassem suas opiniões sobre possíveis cronogramas para futuros avanços tecnológicos da inteligência artificial, bem como sobre as consequências sociais – boas ou ruins – desses avanços. O questionário foi direcionado a 2.778 cientistas de IA.
O estudo destaca o perigo percebido em torno da criação de uma inteligência artificial forte pelos principais pesquisadores do mundo. Cerca de 68% dos pesquisadores acreditam que é provável um progresso positivo e revolucionário no campo da inteligência artificial, Embora metade destes optimistas ainda considere que a probabilidade de extinção humana é diferente de zero, também dizem que há um consenso para dar prioridade à investigação para mitigar os riscos da inteligência artificial.
É um sinal importante que a maioria dos investigadores de IA não considera implausível que a IA avançada possa destruir a humanidade.
“É um sinal importante que a maioria dos investigadores de IA não considera implausível que a IA avançada possa destruir a humanidade”, diz ele. Kátia Graça Do California Machine Intelligence Research Institute, autor do artigo. “Acho que esta crença geral em riscos não insignificantes é mais evidente do que a percentagem exata de riscos.”
Outros riscos
O potencial desenvolvimento de inteligência artificial capaz de superar os humanos em todas as tarefas tem 50% de probabilidade de ocorrer até 2047. Embora a probabilidade de todos os trabalhos humanos se tornarem totalmente automatizados fosse de 50% até 2116. Estas estimativas são 13 e 48 anos anteriores às indicadas no inquérito do ano passado.
Nos próximos dez anos, a IA terá pelo menos 50% de chance de realizar a maior parte das tarefas analisadas. Isso inclui criar músicas de sucesso como a de Taylor Swift ou programar todo um sistema de processamento de pagamentos do zero. No entanto, tarefas como instalar fisicamente a fiação elétrica em uma nova casa ou resolver quebra-cabeças matemáticos antigos podem levar mais tempo para serem executadas por uma IA.
Mais de 80% dos investigadores de IA expressam preocupação “extrema” ou “substancial” sobre o potencial da IA Para facilitar a disseminação de desinformação. Da mesma forma, existem preocupações sobre a possibilidade de a inteligência artificial ser utilizada por autocratas, exacerbando a desigualdade económica e estando envolvida na criação de vírus geneticamente modificados.
Podemos treinar inteligência artificial para evitar o fim do mundo?
Embora as principais empresas de IA, como OpenAI e Anthropic, tenham estabelecido diretrizes para alinhar a IA com os valores humanos. Mas será que esses métodos realmente funcionam com modelos de IA mais inteligentes que os humanos? Ainda não se sabe quão eficazes serão essas medidas com modelos de IA mais avançados que os humanos, uma vez que a IA atual não é tão inteligente.
No entanto, esta tecnologia tem muito a oferecer. Especialistas estimam que até 2033, a inteligência artificial será capaz de montar peças de Lego, traduzir idiomas recém-descobertos e desenvolver videogames. Até 2063, espera-se que a IA execute tarefas cirúrgicas e até mesmo pesquisas realizadas por especialistas em IA.
Referências para notícias:
Katia Grace, Harlan Stewart e outros. Milhares de autores de IA falam sobre o futuro da IA
“Guru de comida típica. Solucionador de problemas. Praticante de cerveja dedicado. Leitor profissional. Baconaholic.”
More Stories
QUANTUM_NEXUS – Void pois a participação na Cidade da Ciência é um encontro simbólico entre cientistas e artistas de diferentes formações e formações, que estimulará os visitantes a pensar num mundo novo e mais inclusivo
5 sinais de que você está comendo muito açúcar sem perceber: Sua saúde está em risco
MUSE After Hours: Ciência e Sociedade compara robótica, inteligência artificial e a comida do futuro