O principal futurista da OpenAI, Joshua Achiam notificou os colegas na terça-feira que deixará a empresa no final deste mês, após quase nove anos, descobriu a WIRED. Achiam, que anteriormente liderou uma equipe encarregada de defender o missão sem fins lucrativosdisse à equipe da OpenAI que sua saída não foi motivada por nenhum motivo específico, mas é algo em que ele vem pensando há algum tempo.
“O mundo agora sabe do segredo e parece possível trabalhar na missão fora dos muros de um laboratório de fronteira”, disse Achiam em nota à equipe obtida pela WIRED. “Acredito que podemos chegar a um mundo de paz, prosperidade sem precedentes e possibilidades inimagináveis, sociais e científicas. Independentemente do que eu fizer a seguir, continuarei a trabalhar convosco para tornar esta visão real.”
A OpenAI ainda não anunciou se alguém preencherá a função de Achiam, que ocupava a interseção das equipes de segurança e política de IA da empresa e envolvia o estudo dos possíveis danos e benefícios causados pela ascensão da inteligência artificial. Achiam trabalhou com líderes seniores da empresa, incluindo o chefe de assuntos globais Chris Lehanepara defender regulamentações governamentais alinhadas com a missão da OpenAI: garantir que a AGI beneficie toda a humanidade.
OpenAI reorganizou suas equipes de segurança, produtos e pesquisa numerosos vezes desde o lançamento do ChatGPT em 2022, após o qual a empresa cresceu rapidamente de um pequeno laboratório de pesquisa para uma grande empresa de tecnologia. Em 2024, a OpenAI anunciou a formação de uma “equipe de alinhamento de missão” liderada por Achiam que teria a tarefa de defender a missão da empresa. OpenAI dissolveu o grupo em fevereiro e anunciou que Achiam assumiria uma nova função como futurista-chefe.
No último ano, a OpenAI trabalhou para colmatar a lacuna entre as suas equipas de investigação e políticas de IA, como parte de um esforço para desenvolver regras e padrões que antecipam o rumo que a sua tecnologia está a tomar. À medida que os dois departamentos começaram a colaborar mais estreitamente, vários investigadores da OpenAI, incluindo Boaz Barak, Noam Brown e Adrien Ecoffet, dizem que se envolveram mais no trabalho político.
Ex-conselheiro de IA da Casa Branca, Dean Ball iniciado na OpenAI esta semana como chefe de futuros estratégicos da empresa, e ele se sobreporá brevemente a Achiam. Espera-se também que Ball trabalhe com pesquisadores e líderes políticos em sua função.
Achiam é o mais recente líder focado em segurança a deixar a OpenAI, juntando-se a uma lista crescente de saídas à medida que a empresa se prepara para ir a público. Jan Leike, que co-liderou a equipe de Superalignment da OpenAI pesquisando como manter modelos avançados de IA sob controle humano, saiu para ingressar na Anthropic em 2024.
Nesse mesmo ano, o chefe de pesquisa política Miles Brundage e Steven Adler, que lideraram pesquisas sobre capacidades perigosas de modelos de IA, deixaram a OpenAI para fundar organizações sem fins lucrativos que defendem que os laboratórios de IA aderissem a fortes padrões de segurança e proteção. Andrea Valloneque liderou a pesquisa da OpenAI sobre como o ChatGPT deveria responder a usuários que sofrem de sofrimento mental ou emocionalsaiu para se juntar à equipe de Leike na Anthropic no final de 2025.
Depois de ingressar na OpenAI como estagiário em 2017, Achiam tornou-se um cientista pesquisador focado na segurança da IA. Ele era conhecido internamente como um forte defensor da missão focada na segurança da OpenAI, mas também era controverso por seu críticas ocasionais da comunidade mais ampla de segurança de IA.
No início deste ano, ele testemunhou no tribunal federal que interrompeu o discurso de despedida de Elon Musk quando este deixou a OpenAI em 2018, observando que o plano do então bilionário de desenvolver AGI na Tesla poderia ocorrer às custas da segurança. Musk supostamente respondeu chamando Achiam de “idiota”, um momento que Dario Amodei (agora CEO da Anthropic) e David Luan (que se tornou chefe do laboratório AGI da Amazon) comemoraram com presentes Achiam, uma estátua da traseira de um burro douradoinscrito com as palavras: “Nunca deixe de ser um idiota por segurança”.
