A Meta anunciou na quinta-feira que agora notificará os pais se seu filho adolescente discutir suicídio ou automutilação com o chatbot Meta AI da empresa. Meta diz que também está trabalhando na capacidade de entrar em contato com serviços de emergência se as conversas de alguém sugerirem que ele pode estar em risco de automutilação.
Essas mudanças ocorrem no momento em que a Meta e outras empresas de tecnologia enfrentam o escrutínio de reguladores e pais sobre como os chatbots de IA funcionam. responder aos usuários em criseespecialmente os adolescentes – uma questão de responsabilidade que está a moldar cada vez mais a forma como as empresas de IA concebem e comercializam os seus produtos.
A Meta diz que construiu um sistema de IA dedicado para identificar conversas em que um adolescente faz uma referência clara a se machucar.
“Entendemos como esses alertas podem ser angustiantes para os pais receberem”, escreveu Meta em um blog. “É por isso que, à medida que continuamos a melhorar nossa detecção, todos os bate-papos sinalizados por nossa IA serão revisados manualmente antes que um alerta seja enviado. Se a intenção de um adolescente for ambígua, agiremos com cautela e alertaremos os pais. Embora isso signifique que às vezes podemos notificar os pais quando pode não haver motivo real para preocupação, sentimos que este é o ponto de partida certo e continuaremos monitorando para ajudar a garantir que estamos no lugar certo.”
Esses alertas agora estão disponíveis para pais que usam o Instagram Supervisão Parental nos EUA, Reino Unido, Austrália e Canadá, e será lançado globalmente até o final do ano, diz Meta.
Esta atualização baseia-se no alertas que Meta já envia aos pais quando seus filhos adolescentes pesquisam repetidamente termos de suicídio ou automutilação no Instagram. Ele também se baseia em um recurso que permite que os pais vejam os tópicos seu filho adolescente discutiu com Meta AI na semana passada.
Meta também anunciou que seu “Conteúdo limitado”A configuração – que permite que os pais coloquem seus filhos adolescentes em uma experiência mais restritiva no Instagram – agora também se aplica ao Meta AI. O Meta AI já está treinado para evitar conversas sexuais ou românticas ou discussões relacionadas ao álcool com adolescentes, e a configuração Conteúdo limitado expande essas proteções, fazendo com que o chatbot recuse uma gama mais ampla de solicitações. Meta não especificou o que essas solicitações adicionais incluem, mas o TechCrunch solicitou mais informações à empresa.
Além disso, a Meta afirma que entrará em contato com os serviços de emergência se a conversa de alguém com a Meta AI, seja o usuário adulto ou adolescente, sugerir que alguém está em risco de suicídio. É importante notar que o Meta já dá esse passo quando alguém posta algo no Facebook ou Instagram que sugere que está em risco, então isso estende a mesma prática às conversas com seu chatbot.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
