Dois ex-OpenAI funcionários e um grupo de organizações sem fins lucrativos de segurança de IA estão alertando que o laboratório de IA de Elon Musk, xAIpoderia tornar-se um passivo para potenciais investidores em EspaçoX, que se prepara para apresentar o que se espera ser a maior oferta pública inicial da história de Wall Street.
Em um carta direcionado aos investidores publicado na terça-feira, os ex-funcionários destacaram o que descrevem como “riscos não precificados” relacionados ao xAI que poderiam complicar os planos relatados da SpaceX de levantar até US$ 75 bilhões como parte de seu IPO. A avaliação privada da empresa de foguetes disparou para mais de US$ 1 trilhão depois que adquiriu xAI no ano passado. Musk afirmou que sua empresa de foguetes poderia lançar centros de dados no espaço para seu laboratório de IA, mas os autores da carta argumentam que o histórico ruim da xAI em questões de segurança poderia complicar a forma como os investidores veem a empresa combinada enquanto ela se prepara para apresentar seu Apresentação de prospecto de IPO.
Um dos signatários e coautores da carta é uma nova organização sem fins lucrativos chamada Guidelight AI Standards, que foi cofundada pelo ex-pesquisador de segurança da OpenAI Steven Adler e o ex-conselheiro de políticas da OpenAI, Page Hedley. O grupo, que é apoiado por doadores privados, visa melhorar as práticas de segurança das empresas fronteiriças de IA. Outras organizações sem fins lucrativos de segurança de IA também aderiram, incluindo Legal Advocates for Safe Science and Technology, Encode AI e The Midas Project.
Hedley disse à WIRED em uma entrevista que acredita que xAI tem as piores práticas de segurança “quase generalizadas” em comparação com outros desenvolvedores de IA de ponta, incluindo OpenAI, Google DeepMind e Anthropic. Como resultado, argumenta ele, a SpaceX pode enfrentar um risco maior de regulamentação e litígio do que outros laboratórios de IA.
Os autores da carta argumentam que a SpaceX deveria fazer várias divulgações aos investidores, incluindo se a xAI pretende continuar a desenvolver modelos de IA de fronteira. SpaceX recentemente fechou um acordo para vender uma parte significativa de sua capacidade de GPU para a Antrópicae a carta afirma que o acordo “não deixa claro se a xAI ainda é um concorrente de ponta da IA dentro de uma holding maior”. Se a xAI continuar a desenvolver modelos de IA de fronteira, dizem os autores, deverá ser obrigada a publicar um plano de segurança pública e governação.
SpaceX e xAI não responderam imediatamente ao pedido de comentários da WIRED.
A carta também descreve exemplos de como a xAI não acompanhou as práticas de segurança padrão da indústria, como a publicação de estruturas detalhadas para mitigar os riscos em torno de seus modelos de IA usados em ataques cibernéticos. Os autores também descrevem incidentes de segurança específicos no xAI que, segundo eles, merecem um exame mais minucioso. Entre os mais notáveis está quando o principal chatbot de IA da xAI, Grok, espontaneamente trouxe à tona o genocídio branco em suas respostas. Em outro caso, o xAI permitiu que Grok gerasse milhares de imagens sexualizadas de mulheres e criançasque se espalhou amplamente pela plataforma de mídia social X de Musk. pelo menos 37 procuradores-gerais dos EUA para enviar uma carta exigindo que o laboratório de IA de Musk tome medidas para proteger mulheres e crianças em sua plataforma.
Hedley diz que o número de incidentes de segurança que a xAI sofreu e a atenção regulatória que recebeu é “muito desproporcional à sua participação no mercado”. À medida que os legisladores ficam cada vez mais alarmados com as capacidades cibernéticas dos modelos avançados de IA, como Claude Mythos da Antrópiconovas regulamentações de segurança podem estar no horizonte. A administração Trump supostamente já está pesando uma ordem executiva isso daria às agências de inteligência dos EUA mais supervisão sobre os modelos de IA.
“É necessário um investimento sério para controlar os riscos (de segurança da IA), e parece que a xAI tem historicamente subinvestido aqui”, diz Adler. A carta cita reportagens do The Washington Post que diziam que xAI tinha acabado de “dois ou três” pessoas que trabalham com segurança a partir de janeiro. “Uma questão que os investidores deveriam estar se perguntando é se o xAI permanecer na fronteira, quão caro pode ser, de fato, gerenciar esses (riscos) de forma responsável? Se não o fizerem, quais poderão ser as consequências?”
