IA pode causar catástrofe de nível nuclear, acreditam 36% dos pesquisadores da área

Uma pesquisa realizada pelo Instituto de IA Centrado no Ser Humano da Universidade de Stanford mostra que 36% dos pesquisadores acreditam que a inteligência artificial (IA) poderia causar uma “catástrofe de nível nuclear”.

O número é parte do Artificial Intelligence Index Report 2023, um relatório anual de índice de IA do instituto, que representa essencialmente o estado da indústria no setor.

Imagem: Ociacia/Shutterstock.com

Dentre as dez principais conclusões, que incluem os campos de pesquisa e desenvolvimento; desempenho técnico; ética técnica da IA; economia; educação; política e governança; diversidade; e opinião pública, o documento destaca o aumento do interesse dos legisladores e a aceleração do progresso científico com os modelos de IA, a qual a indústria tem assumido o controle sobre os lançamentos de modelos mais significativos em relação à academia – em 2022, enquanto 32 sistemas de aprendizagem de máquina foram produzidas pela indústria, apenas três foram contabilizados em ambiente acadêmico.

IA e a revolução da sociedade

Para a maioria dos pesquisadores de Processamento de Linguagem Natural (NLP) (73%), a IA pode liderar em breve uma mudança revolucionária da sociedade, sendo que 57% deles acreditam que o progresso recente da pesquisa esteja abrindo caminho para a inteligência artificial geral (AGI) — capacidade que tange as tarefas desempenhadas por humanos em relação ao aprendizado, percepção e compreensão.

No entanto, 58% encaram a AGI como importante preocupação, levando aos 36% apontando a possibilidade das decisões tomadas pela IA causarem uma “catástrofe de nível nuclear”.

O número representa apenas as escolhas feitas pela IA, o que pode parecer algo distante, porém já em curso com recentes projetos de código aberto no GitHub, como o Auto-GPT, popularmente chamado de ChaosGPT.

Uma outra preocupação dos pesquisadores se refere ao mau uso feito por humanos, que segundo o relatório, é uma ameaça crescente. “De acordo com o banco de dados do AIAAIC… o número de incidentes e controvérsias de IA aumentou 26 vezes desde 2012”, diz o relatório. “Alguns incidentes notáveis em 2022 incluíram um vídeo deepfake do presidente ucraniano Volodymyr Zelenskyy se rendendo e prisões americanas usando tecnologia de monitoramento de chamadas em seus detentos”.

“Este crescimento é uma evidência, tanto do maior uso das tecnologias de IA quanto da consciência das possibilidades de uso indevido”, escreveram os pesquisadores.

Embora hajam outras formas existentes em que a IA já esteja causando danos, apenas 41% dos pesquisadores de NLP acham que a IA deveria ser regulamentada.

Via Futurism