A OpenAI anunciou novos recursos de segurança para usuários do ChatGPT, com foco na proteção de contas e na redução dos riscos associados a ataques de injeção de prompts e comprometimento de credenciais.
Uma das novidades é o Lockdown Mode, recurso desenvolvido para organizações e usuários que lidam com informações altamente sensíveis. A funcionalidade busca reduzir o risco de exfiltração de dados em cenários nos quais agentes maliciosos utilizam técnicas de prompt injection para induzir modelos de IA a divulgar informações indevidas.
Segundo a OpenAI, o modo restringe ou desabilita funcionalidades que podem ser utilizadas para transferir dados para ambientes externos, incluindo navegação na web, suporte a imagens, pesquisas avançadas, modo agente, recursos de rede do Canvas e downloads de arquivos.
A empresa destaca que o Lockdown Mode não impede que conteúdos maliciosos sejam processados pelo ChatGPT, mas dificulta a etapa final do ataque, que consiste na extração dos dados obtidos indevidamente. O recurso pode ser ativado em Settings > Security > Advanced Security.
Outra novidade é o Active Sessions, mecanismo que permite aos usuários visualizar todas as sessões ativas vinculadas à conta. Com a funcionalidade, é possível verificar os dispositivos conectados e encerrar acessos não reconhecidos ou suspeitos.
O recurso está disponível para a maioria dos tipos de contas e ambientes de trabalho do ChatGPT, com exceção de contas vinculadas a implementações de Single Sign-On (SSO) gerenciadas por organizações. O acesso é realizado por meio de Settings > Security.
As novas funcionalidades complementam o lançamento recente do Advanced Account Security, conjunto de controles voltado para usuários com maior exposição a ataques direcionados.
Entre as medidas implementadas estão a eliminação do login baseado apenas em senha, exigindo o uso de passkeys ou chaves físicas de segurança para autenticação. O mecanismo também fortalece os processos de recuperação de conta, substituindo métodos tradicionais baseados em e-mail e SMS por alternativas mais seguras, como passkeys de recuperação e chaves de segurança.
Além disso, a OpenAI reduziu o tempo de duração das sessões autenticadas, medida que visa diminuir os riscos de sequestro de contas em casos de comprometimento de dispositivos ou sessões já autenticadas.
As novidades refletem uma tendência crescente de adoção de controles de segurança mais robustos em plataformas de inteligência artificial, especialmente diante do aumento das preocupações relacionadas à proteção de dados sensíveis e ao uso indevido de credenciais de acesso.
Para saber mais, clique aqui.