A OpenAI começou a implementar um novo Modo de Bloqueio no ChatGPT para contas pessoais elegíveis, a fim de reduzir o risco de exfiltração de dados decorrente de ataques de injeção rápida.

O recurso foi desenvolvido principalmente para pessoas e organizações que lidam com dados confidenciais e exigem garantias de proteção mais rigorosas. O Modo de Bloqueio está disponível para usuários conectados nos planos Free, Go, Plus e Pro, além do plano ChatGPT Business de autoatendimento.

"O Modo de Bloqueio é uma configuração de segurança avançada opcional que limita muitas ferramentas e recursos dos produtos OpenAI que podem se conectar à web ou a serviços externos", disse a OpenAI.

"Ele foi projetado para reduzir o risco de exfiltração de dados por meio de ataques de injeção rápida, limitando as solicitações de rede de saída, à custa da desativação ou limitação de alguns recursos úteis."

As medidas de segurança visam fortalecer a superfície de ataque contra injeções imediatas, que continuam sendo um problema "de vanguarda" que afeta todos os grandes modelos de linguagem (LLMs).

Especificamente, eles se baseiam em sandboxing e controles existentes para combater mecanismos de exfiltração de dados baseados em URL, limitando as solicitações de rede de saída que poderiam potencialmente transmitir dados confidenciais para infraestrutura controlada por invasores.

A ideia não é impedir que injeções de dados ocorram. Tampouco altera o funcionamento do compartilhamento de memória ou de arquivos, ou a capacidade de compartilhar uma conversa. Em vez disso, o objetivo é eliminar possíveis caminhos pelos quais os dados possam ser exfiltrados. Para isso, o Modo de Bloqueio desativa os seguintes recursos:

  • Navegação web em tempo real, que se limita ao acesso apenas a conteúdo em cache.
  • Suporte a imagens, para exibir imagens em respostas regulares ou recuperar imagens da web.
  • Pesquisa aprofundada
  • Modo agente
  • Rede Canvas, que impede os usuários de aprovarem o código gerado pelo Canvas para acessar a rede.
  • Downloads de arquivos, que bloqueiam o download de arquivos para análise de dados.

A OpenAI ressaltou que o recurso não é "destinado a todos" e também observou que o Modo de Bloqueio e o Modo Desenvolvedor não podem ser usados simultaneamente, acrescentando que ativar um desativa o outro.

"O Modo de Bloqueio foi projetado para reduzir substancialmente o risco de exfiltração de dados por injeção imediata no ChatGPT e em produtos OpenAI compatíveis, mas não garante que a exfiltração de dados não possa ocorrer", afirmou a empresa. "O risco pode persistir por meio de aplicativos habilitados, combinações imprevistas de recursos ou técnicas recém-descobertas."

"O Modo de Bloqueio também não impede todos os outros efeitos de ataques de injeção de prompts. Por exemplo, uma instrução maliciosa oculta em um arquivo carregado ainda pode afetar o comportamento do ChatGPT e causar uma resposta incorreta."

Essa novidade surge no momento em que a OpenAI também lançou um novo recurso de gerenciamento de contas que permite aos usuários revisar as sessões ativas do ChatGPT e encerrar sessões individuais ou todas elas caso sejam detectados sinais de atividade não autorizada na conta. As sessões listadas incluem informações sobre o dispositivo, o aplicativo usado, a localização aproximada, a data e a hora de login, se o dispositivo é confiável e se é a sessão atual.