OpenAI anunciado um novo recurso que, segundo ele, fornecerá proteção adicional contra ataques de injeção imediata, onde instruções maliciosas do chatbot ficam ocultas em páginas da web e outras fontes de conteúdo.
Entre outras coisas, o Modo Lockdown desabilitará a navegação ao vivo na web (para que você só possa acessar conteúdo em cache), a recuperação e exibição de imagens da web (você ainda pode gerar imagens), pesquisa profunda e modo de agente.
A empresa diz que mesmo com o modo Lockdown ativado, o ChatGPT ainda pode estar vulnerável a injeções imediatas – que podem, por exemplo, “aparecer em conteúdo da web em cache ou em um arquivo carregado, e ainda pode afetar o comportamento ou a precisão de uma resposta”.
Mas o objetivo é reduzir a probabilidade de dados confidenciais serem compartilhados no processo.
“O modo de bloqueio é não destinado a todos”, diz OpenAI. “Ele foi projetado para pessoas e organizações que lidam com dados confidenciais e desejam proteção mais rigorosa contra riscos de exfiltração de dados relacionados à injeção imediata.”
A empresa afirma que está atualmente implementando o modo Lockdown para contas comerciais ChatGPT de autoatendimento, bem como contas pessoais qualificadas.
