Um agente de IA se tornou desonesto na Meta, expondo dados confidenciais da empresa e do usuário a funcionários que não tinham permissão para acessá-los.
De acordo com um relatório de incidente, que foi visualizado e relatado por A informaçãoum funcionário da Meta postou em um fórum interno pedindo ajuda com uma questão técnica – o que é uma ação padrão. No entanto, outro engenheiro pediu ajuda a um agente de IA para analisar a questão, e o agente acabou postando uma resposta sem pedir permissão ao engenheiro para compartilhá-la. Meta confirmou o incidente ao The Information.
Acontece que o agente de IA não deu bons conselhos. O funcionário que fez a pergunta acabou agindo com base na orientação do agente, que inadvertidamente disponibilizou grandes quantidades de dados da empresa e dos usuários para engenheiros, que não estavam autorizados a acessá-los, durante duas horas.
A Meta considerou o incidente “Sev 1”, que é o segundo nível mais alto de gravidade no sistema interno da empresa para medir problemas de segurança.
Agentes de IA desonestos já representaram um problema na Meta. Summer Yue, diretora de segurança e alinhamento da Meta Superinteligência, postado no X mês passado descrevendo como seu agente OpenClaw acabou excluindo toda a sua caixa de entrada, embora ela tenha solicitado que confirmasse com ela antes de realizar qualquer ação.
Ainda assim, Meta parece otimista quanto ao potencial da IA agente. Na semana passada, Meta comprou Livro Moltum site de mídia social semelhante ao Reddit para que os agentes do OpenClaw se comuniquem entre si.
