Pouco mais de um semana atrás, participei de um grande inteligência artificial conferência em Zhongguancun, o movimentado distrito de alta tecnologia de Pequim.
Foi repleto de sessões fascinantes abordando tudo, desde autoaperfeiçoamento recursivo – a ideia de que os modelos podem ajustar seu próprio código e avançar indefinidamente – até robôs humanóides. E apresentava algumas lendas da computação, incluindo Whitfield Diffie, co-inventor da criptografia de chave pública, e Andrew Barto, que ganhou o Prêmio Turing com Rich Sutton por seu trabalho pioneiro em aprendizagem por reforço.
Mas saí com uma conclusão acima de tudo: os EUA e a China deveriam deixar de lado a sua feroz rivalidade em matéria de IA.
Os riscos sistémicos e de cibersegurança da Frontier AI são demasiado graves para serem ignorados, e modelos de agentes cada vez mais capazes poderão em breve causar o caos, a menos que as superpotências mundiais da IA possam trabalhar em conjunto. “A IA é uma tecnologia global com benefícios globais, danos globais e uma tendência consistente para a proliferação de novas capacidades”, Stephen Casperum cientista da computação do MIT que falou na conferência por vídeo me contou depois.
Até agora, os EUA têm visto em grande parte os avanços da IA da China como uma ameaça económica e à segurança nacional. Washington impôs restrições rígidas aos chips e equipamentos de fabricação de chips para impedir o desenvolvimento de uma IA poderosa no país. Mais recentemente, o governo dos EUA encomendado Antrópico para impedir que estrangeiros tenham acesso aos seus modelos mais poderosos, Mythos e Fable 5, ao longo de preocupações de segurança nacional. Em resposta, a Anthropic revogou o acesso para todos. Uma empresa que era particularmente preocupante, conforme revelado anteriormente pela WIRED, era uma Gigante sul-coreano de telecomunicações com supostas ligações com a China.
Mas a conferência, organizada pela Academia de Inteligência Artificial de Pequim, reforçou a ideia de que tanto os EUA como a China têm a perder se a IA for desenvolvida demasiado rápida e imprudentemente. À medida que a IA se torna mais poderosa, mais agente e mais interligada com a vida quotidiana, os riscos de que possa ser utilizada para conduzir ataques cibernéticos ou falhar de forma catastrófica só aumentarão. Como as duas potências dominantes da IA no mundo são responsáveis pelos modelos mais avançados, a cooperação entre elas parece ser crucial.
Casper apontou para pesquisar mostrando que os benefícios da colaboração internacional sobre os perigos da IA superam quaisquer riscos à segurança nacional decorrentes do trabalho conjunto. Ele comparou a situação actual à forma como os EUA e a União Soviética foram forçados a trabalhar juntos em relação aos perigos nucleares, mesmo quando procuravam acumular-se mutuamente.
“Uma coisa com a qual quase todos na IA podem concordar agora é que a IA não precisa de um momento Chernobyl”, disse Casper.
Uma sessão de um dia destacou a universalidade dos desafios cibernéticos levantados pela IA mais avançada. Isto inclui novos tipos de vulnerabilidades em Código gerado por IAnovas formas de atacar sistemas possibilitadas pelo uso de ferramentas ativas e métodos automatizados para realizar engenharia social ataques.
Após outra sessão, conversei com Lin Yun, professor da Universidade Jia Tong de Xangai que faz um excelente trabalho sobre IA e segurança de computadores. Yun me disse que espera que os hackers obtenham uma vantagem no curto prazo, mas que novas contramedidas, incluindo novos usos de IA, devem inclinar a balança de volta para a defesa ao longo do tempo.
Yun disse que mesmo que a cooperação internacional seja complicada pela concorrência, deve continuar a ser uma prioridade. “Se diferentes países compreenderem os riscos de forma semelhante, será mais fácil desenvolver princípios de segurança e normas técnicas partilhados”, disse-me ele. “A chave é encontrar áreas onde a partilha possa reduzir o risco sistémico sem expor detalhes operacionais sensíveis.”
Talvez a questão mais premente para ambas as nações seja como equilibrar a abertura com o risco. Os modelos de peso aberto tornaram-se cruciais para a investigação e inovação, com os modelos chineses a revelarem-se populares nos EUA. Mas à medida que estes modelos avançam, será mais difícil garantir que não ajudem os hackers a identificar vulnerabilidades de segurança e que não possam ser utilizados como armas cibernéticas.
