A OpenAI anunciou um novo recurso que, segundo a empresa, fornecerá proteção adicional contra ataques de injeção de instruções, nos quais instruções maliciosas de chatbots são ocultadas em páginas da web e outras fontes de conteúdo.
Entre outras coisas, o Modo de Bloqueio desativará a navegação na web em tempo real (de modo que você só poderá acessar conteúdo em cache), a recuperação e exibição de imagens da web (você ainda poderá gerar imagens), a pesquisa avançada e o modo agente.
A empresa afirma que, mesmo com o Modo de Bloqueio ativado, o ChatGPT ainda pode ser vulnerável a injeções de prompts — que podem, por exemplo, “aparecer em conteúdo da web armazenado em cache ou em um arquivo carregado e ainda afetar o comportamento ou a precisão de uma resposta”.
Mas o objetivo é reduzir a probabilidade de que dados sensíveis sejam compartilhados durante o processo.
“O Modo de Bloqueio não se destina a todos”, afirma a OpenAI. “Ele foi projetado para pessoas e organizações que lidam com dados sensíveis e desejam uma proteção mais rigorosa contra os riscos de exfiltração de dados relacionados à injeção imediata.”
A empresa afirma que está implementando o Modo de Bloqueio para contas comerciais do ChatGPT com autoatendimento, bem como para contas pessoais elegíveis.
