Julie Carpenter não culpar os usuários humanos por antropomorfizar os chatbots. O especialista de longa data em interação humano-IA e autor de O andróide nu vê ferramentas generativas de IA, como Bate-papoGPTprojetado intencionalmente para provocar essas reações nos usuários por meio de memórias e interações altamente personalizadas que reproduzem experiências sociais.
Estas ligações unilaterais podem tornar-se ainda mais complicadas e potencialmente desastrosas, quando Erótica gerada por IA é adicionado como uma opção. Carpenter está apreensivo com os próximos planos da OpenAI para permitir que adultos façam sexo com ChatGPT. “Sou a favor das pessoas que exploram sua sexualidade, mas quero isso de uma forma que seja segura para elas e também divertida”, diz ela. “As pessoas precisam estar muito conscientes de que há um aspecto de vigilância nos dados.”
OpenAI primeiro sugerido ao permitir que usuários adultos gerassem erotismo usando o ChatGPT há dois anos em um documento oficial que descreve como seus modelos são projetados para se comportar. Embora a empresa ainda pareça estar planejando seu eventual lançamento, o cronograma é obscuro. Nos últimos meses, o conselho consultivo de especialistas externos da OpenAI expressou preocupação sobre os riscos desta libertação iminente, incluindo a possibilidade de um “treinador suicida sexy”, de acordo com um relatório de O Wall Street Journal. A OpenAI se recusou a comentar quando contatada pela WIRED.
Pessoas falando mal com máquinas, como ChatGPT, não é novidade. “Eles querem monetizar algo que veem e que as pessoas vão tentar fazer de qualquer maneira”, diz Kate Devlinprofessor de IA e sociedade no King’s College London, cuja pesquisa envolve sexo digital.
O que é diferente aqui é a potencial adoção de obscenidades pela OpenAI em uma plataforma convencional. Os chatbots eróticos são um negócio que gera receita, mas muitas vezes são relegados a sites de nicho com nomes comuns ou Grok de Elon Musk, conhecido por imagens deepfake não consensuais e entrando em um Modo “MechaHitler”.
Quando o modo adulto for lançado, será interessante ver o que exatamente o ChatGPT lembrará sobre as tendências sexuais dos usuários. Nos últimos anos, a OpenAI continuou a melhorar o chatbot recurso de memóriaque registra as preferências do usuário e responde com resultados personalizados. Você é vegano? ChatGPT não recomendará uma churrascaria quando solicitado sobre ideias de restaurantes. Quer fazer uma caminhada? Ele sabe que você está em São Francisco por meio de bate-papos anteriores e sugerirá trilhas razoavelmente próximas, mesmo que o contexto do local não esteja incluído no prompt.
Mas, o que acontece quando esse tipo de registro de dados e personalização hiperespecífica atende aos hábitos de sexting de milhões de usuários adultos do ChatGPT? As interações eróticas com o ChatGPT aumentarão ainda mais os riscos para a privacidade do usuário.
Em vez de lembrar suas preferências alimentares ou que tipo de filme você mais gosta, o ChatGPT pode lembrar o quanto você fantasiou sobre pornografia peluda, sexo a três na praia e brincadeiras de urina, além de adaptar suas respostas diárias com esses detalhes sexuais em mente. Ainda não está claro como a OpenAI planeja lidar com essas conversas maduras.
As pessoas que optarem por interagir com a versão obscena do ChatGPT no lançamento podem encontrar consolo no recurso “bate-papos temporários”. Quando ativadas, essas conversas não são mostradas no histórico de log do usuário nem usadas para melhorar os modelos do OpenAI.
Mas esses bate-papos não são tão efêmeros quanto podem parecer para os usuários. “Por motivos de segurança, ainda podemos manter uma cópia por até 30 dias”, diz Site da OpenAI. Há também um aviso de isenção de responsabilidade incluído na página do site, alegando que “a retenção de dados para determinados serviços pode ser afetada por desenvolvimentos legais recentes”.
