A única testemunha especializada de Elon Musk no julgamento OpenAI teme uma corrida armamentista AGI

Quando levamos a sério os destruidores da IA?

Esse é um subtexto chave da tentativa de Elon Musk de encerrar o negócio de IA com fins lucrativos da OpenAI. Seus advogados argumentam que a organização foi criada como uma instituição de caridade focada na segurança da IA ​​e perdeu o rumo na busca pelo lucro. Para provar isso, eles citam e-mails antigos e declarações dos fundadores da organização sobre a necessidade de um contrapeso de espírito público ao Google DeepMind.

Hoje, eles chamaram seu único especialista: Peter Russell, professor de ciência da computação da Universidade da Califórnia, Berkeley, que estuda IA ​​há décadas. Seu trabalho era oferecer informações básicas sobre IA e estabelecer que essa tecnologia é perigosa o suficiente para se preocupar.

Russell co-assinou um carta aberta em março de 2023, pedindo uma pausa de seis meses na pesquisa de IA. Num sinal das contradições aqui, Musk também assinou a mesma carta, mesmo quando estava lançando o xAI, seu próprio laboratório de IA com fins lucrativos.

Russell disse aos jurados e à juíza Yvonne Gonzalez Rodgers que havia uma variedade de riscos associados ao desenvolvimento da IA, que vão desde ameaças à segurança cibernética até problemas de desalinhamento e a natureza do vencedor leva tudo no desenvolvimento da Inteligência Geral Artificial (AGI). Em última análise, ele disse que havia uma tensão entre a busca pela AGI e a segurança.

As maiores preocupações de Russell sobre as ameaças existenciais da IA ​​irrestrita não foram divulgadas em tribunal aberto depois que objeções dos advogados da OpenAI levaram o juiz a limitar o testemunho de Russell. Mas Russell há muito que critica a dinâmica da corrida armamentista criada por laboratórios fronteiriços em todo o mundo que competem para alcançar a AGI primeiro, e apelou aos governos para regulamentarem o campo de forma mais rigorosa.

Os advogados da OpenAI passaram o interrogatório estabelecendo que Russell não estava avaliando diretamente a estrutura corporativa da organização ou suas políticas de segurança específicas.

Mas este repórter (assim como o juiz e os jurados) irá avaliar o valor a atribuir à relação entre a ganância corporativa e as preocupações de segurança da IA. Praticamente todos os fundadores da OpenAI alertaram vigorosamente sobre os riscos da IA, ao mesmo tempo que enfatizaram os benefícios, tentando construir IA o mais rápido possível – e traçando planos para empresas com fins lucrativos focadas em IA que eles controlariam.

Do lado de fora, uma questão clara aqui é a crescente percepção dentro da OpenAI, após sua fundação, de que a organização simplesmente precisava de mais gastos com computação para ter sucesso. Esse dinheiro só poderia vir de investidores com fins lucrativos. O medo da equipe fundadora de que a AGI estivesse nas mãos de uma única organização os levou a buscar o capital que acabou destruindo a equipe, criando a corrida armamentista que conhecemos hoje – e nos levando a este processo.

A mesma dinâmica já está acontecendo em nível nacional: a pressão do senador Bernie Sanders por uma lei imposição de uma moratória sobre a construção de data centers cita os temores de IA enunciados por Musk, Sam Altman, Geoffrey Hinton e outros. Hoden Omar, que trabalha na organização comercial Center for Data Innovation, opôs-se a Sanders citando os seus medos sem as suas esperanças, dizendo ao TechCrunch que “não está claro por que o público deveria desconsiderar tudo o que os bilionários da tecnologia dizem, exceto quando suas palavras podem ser recrutadas para preencher lacunas em um argumento precário”.

Agora, ambos os lados do caso pedem ao tribunal que faça exactamente isso: leve a sério parte dos argumentos de Altman e Musk, mas desconsidere as partes que são menos úteis para o seu argumento jurídico.