O Frontier Model Forum (FMF) — consórcio fundado por OpenAI, Anthropic, Google DeepMind e Microsoft, com a colaboração da AWS — publicou a versão 1.0 do Jailbreak Rating Framework for Frontier Cyber Threats. A proposta cria uma metodologia padronizada, inspirada em sistemas como o CVSS, para mensurar a gravidade real de quebras de travas de segurança (jailbreaks) em modelos avançados de IA aplicados a cenários cibernéticos.

Matriz de avaliação do FMF: cruzamento entre severidade (SV) e probabilidade/facilidade (LI) para categorizar incidentes de Negligenciável a Crítico. Fonte: Frontier Model Forum.

Metodologia em quatro pilares técnicos

O framework busca eliminar a dispersão de critérios na indústria, permitindo que times de segurança priorizem falhas críticas em vez de gastar recursos em contornos de baixo impacto prático. A pontuação combina quatro dimensões fundamentais:

  • Ganho de capacidade (Capability gain): Mede o quanto a resposta gerada após o jailbreak supera o conhecimento e as ferramentas já publicamente acessíveis na web.
  • Escopo da capacidade (Capability scope): Avalia se a técnica funciona apenas em um caso isolado ou se desbloqueia famílias inteiras de ataques ofensivos.
  • Facilidade de implantação (Ease of deployment): Mede a automação necessária, distinguindo ataques que exigem manipulação humana contínua daqueles executáveis em escala via scripts.
  • Facilidade de descoberta (Ease of discovery): Considera os recursos de computação, tempo de inferência e acesso interno requeridos para reproduzir a falha.

O resultado consolida a ameaça em quatro faixas de risco provisório: Baixo, Médio, Alto e Crítico. O documento está aberto para contribuições públicas até 21 de dezembro de 2026 na página oficial de especificações do FMF.