Para Christopher Nolan, ‘Oppenheimer’ mostra que Vale do Silício deve ter ‘cautela’

O filme ‘Oppenheimer’ conta a história do criador da bomba atômica, que expressou publicamente suas críticas e arrependimento pela sua invenção após vê-la usada nas cidades japonesas de Hiroshima e Nagasaki, durante a Segunda Guerra Mundial. Historiadores estimam aproximadamente 200 mil pessoas impactadas, entre mortos e feridos, no ato dos bombardeios.

Para o diretor Christopher Nolan, o filme não é apenas uma narrativa criada a partir de um fato histórico, mas também uma produção que pode servir de alegoria para que o Vale do Silício tire um certo aprendizado.

“Vale do Silício”, como você provavelmente já sabe, refere-se à região dos EUA que corresponde à instalação da maioria das empresas de tecnologia do país. Agregando escritórios e matrizes de nomes como Alphabet, Apple, NVIDIA e várias outras gigantes do setor, a referência ao nome pelo qual a região ficou conhecida é suficiente para mover a atenção de diversos especuladores, investidores e companhias ao redor do mundo.

Falando ao The Verge durante uma conferência pós-exibição do filme, o diretor de Oppenheimer disse que espera que o Vale do Silício tire da obra “uma lição sobre assumir a responsabilidade”:

“Quando você traz a inovação por meio da tecnologia, você tem que garantir a responsabilidade. [Eu vi] a ascensão de empresas, nos últimos 15 anos, que jogam ao vento termos como ‘algoritmo’, sem saber o que de fato significam dentro de um sentido matemático. Elas simplesmente não assumem a responsabilidade pelo que seus algoritmos fazem.

E se aplicarmos isso à inteligência artificial? Essa é uma possibilidade aterradora. Não apenas porque sistemas de IA são aplicados à infraestrutura de defesa, mas porque eles ficarão encarregados de gerenciar armas nucleares, e se permitirmos que pessoas digam que isso se trata de uma entidade separada dos humanos que operam, programam e usam essas IAs, então estamos condenados. Tem que ter [um senso de] responsabilidade pessoal. Temos que ter pessoas especificamente responsáveis pelo que fazem com as ferramentas que utilizam.” – Christopher Nolan, diretor de Oppenheimer

O cenário imaginado por Nolan não é de todo uma fantasia: o cinéfilo mais velho lembrará que “inteligência artificial virou o arsenal nuclear contra a humanidade” é justamente o pano de fundo da SkyNet, de O Exterminador do Futuro. Claro, as obras de James Cameron e Christopher Nolan são bem diferentes, mas a premissa – considerando as palavras do diretor – é a mesma: a necessidade de cuidado versus quem assume a culpa se as coisas derem errado.

Neste ponto, Oppenheimer também teve um protagonismo semi-acidental: o elenco do filme – junto do diretor – recentemente abandonou uma premiere em apoio às greves de atores e roteiristas nos EUA. Há rumores de que a greve em si começou porque estúdios teriam o desejo de usar a IA para criar réplicas digitais de atores, efetivamente reduzindo suas participações e, consequentemente, seus honorários.

O cientista J. Robert Oppenheimer, à direita, será interpretado pelo ator irlandês Cillian Murphy, à esquerda, em filme biópico (Imagem: Universal Pictures/Los Alamos Public Relations Office/Divulgação)

O próprio Verge cita um relatório da Anistia Internacional, que concluiu que os algoritmos da Meta (à época, chamada “Facebook Inc”) tiveram influência no massacre promovido pelo exército de Mianmar contra a população Rohingya em 2017. Na ocasião, diversas campanhas de desinformação (fake news) atacaram essa parcela da população, inflamando as autoridades a agir drasticamente contra ela. A organização global concluiu que o Facebook sabia da veiculação das campanhas, mas falhou em tomar qualquer atitude de repressão.

E não precisamos lembrar sobre o Threads, o “Twitter do Instagram”, cujo feed de notícias é exclusivamente baseado em algoritmos e exibe muita coisa que nem você, nem seus amigos na rede social seguem. Não à toa, depois de uma semana de vida e engajamento inicial de 100 milhões de pessoas, o novo app teve queda de 20% de audiência, segundo a CNBC.

Segundo Nolan, “pesquisadores no campo da IA literalmente se referem a esse momento como o seu ‘Período Oppenheimer’. Eles estão vendo o desenvolvimento dessa história, a qual conta quais são as responsabilidades de cientistas que criam novas tecnologias, e entendem que elas podem ter consequências não intencionais.”

Questionado sobre o Vale do Silício estar ou não levando isso em consideração, Nolan foi enfático: “eles fazem o que fazem. E isso ajuda, pelo menos abre algumas discussões. Eu espero que esse processo continue. Eu não estou dizendo que a história de Oppenheimer traz uma resposta fácil a tudo isso, mas pelo menos serve como um ponto de cautela.”

Oppenheimer tem estreia prevista nos cinemas em 20 de julho de 2023.