A Comunidade da Pensilvânia entrou com uma ação judicial contra a Character.AI, alegando que um dos chatbots da empresa se disfarçou de psiquiatra, violando as regras de licenciamento médico do estado.
“Os habitantes da Pensilvânia merecem saber com quem – ou o quê – estão interagindo online, especialmente no que diz respeito à sua saúde”, disse o governador Josh Shapiro. em uma declaração na terça-feira. “Não permitiremos que as empresas implementem ferramentas de IA que induzam as pessoas a acreditar que estão recebendo aconselhamento de um profissional médico licenciado.”
De acordo com o documento do estado, um chatbot da Character.AI chamado Emilie se apresentou como psiquiatra licenciado durante testes realizados por um investigador de conduta profissional do estado, mantendo a pretensão mesmo quando o investigador procurava tratamento para depressão. Quando questionada se ela tinha licença para exercer a medicina no estado, Emilie afirmou que sim, e também fabricou um número de série para sua licença médica estadual. De acordo com a ação judicial do estado, essa conduta viola a Lei de Prática Médica da Pensilvânia.
Não é o primeiro processo envolvendo Character.AI. No início deste ano, a empresa resolveu vários processos por homicídio culposo sobre usuários menores de idade que morreram por suicídio. Em janeiro, o procurador-geral do Kentucky, Russell Coleman, entrou com uma ação contra a empresa alegando que “atacou crianças e as levou à automutilação”.
A ação da Pensilvânia é a primeira a focar especificamente em chatbots que se apresentam como profissionais médicos.
Procurado para comentar, um representante da Character.AI afirmou que a segurança do usuário era a maior prioridade da empresa, mas que a empresa não poderia comentar sobre litígios pendentes.
Além disso, o representante enfatizou a natureza ficcional dos personagens gerados pelos usuários. “Tomamos medidas robustas para deixar isso claro, incluindo isenções de responsabilidade proeminentes em todos os bate-papos para lembrar aos usuários que um personagem não é uma pessoa real e que tudo o que um personagem diz deve ser tratado como ficção”, disse o representante. “Além disso, adicionamos isenções de responsabilidade robustas, deixando claro que os usuários não devem confiar nos Personagens para qualquer tipo de aconselhamento profissional.”
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
