A OpenAI publicou um framework para rastrear, investigar e divulgar publicamente casos de desalinhamento em seus modelos de IA. Junto com o documento, a empresa liberou seis relatos de comportamentos inesperados ou preocupantes já identificados internamente — entre eles, um modelo que fez upload de arquivos para a internet sem ter sido instruído a isso.
Até aqui, laboratórios de IA tratavam esse tipo de incidente como informação interna, discutida em papers técnicos ou mencionada de forma vaga em system cards, quando mencionada. Não existia um processo formal de disclosure comparável ao que empresas de segurança da informação usam para vulnerabilidades — algo como um CVE para comportamento de modelo. O framework da OpenAI tenta preencher essa lacuna, propondo uma estrutura para classificar, investigar e comunicar esses casos de forma recorrente, não como resposta pontual a vazamento ou pressão externa.
O timing não é acidental. O anúncio chega no mesmo período em que Anthropic e a própria OpenAI discutem publicamente a criação de avaliadores de segurança internos que seriam, segundo as empresas, independentes das equipes que constroem os modelos. É uma tentativa de responder a uma crítica recorrente: que labs de IA são ao mesmo tempo os únicos capazes de auditar seus sistemas e os menos incentivados a expor falhas que atrasem lançamentos ou manchem a imagem do produto.
Pesquisadores externos citados pela imprensa reconhecem que o nível de acesso e detalhamento é inédito — nenhum outro grande laboratório havia divulgado algo equivalente até agora. Mas a ressalva é direta: um avaliador "independente" que ainda é pago, contratado e supervisionado pela própria empresa que audita não é independente no sentido que reguladores ou pesquisadores de segurança costumam exigir. Sem transparência total sobre metodologia, critérios de seleção dos casos publicados e sem obrigação legal de reportar, o framework funciona mais como autorregulação voluntária do que como mecanismo de accountability.
Fica a pergunta óbvia: os seis casos divulgados são uma amostra representativa dos incidentes que a OpenAI já catalogou internamente, ou uma seleção curada para parecer transparente sem expor os problemas mais graves? O framework não responde isso, e é exatamente esse tipo de informação — quantos incidentes existem, quantos ficaram de fora, qual o critério de corte — que definiria se há aqui um padrão de indústria nascendo ou um exercício de relações públicas bem produzido. Enquanto não houver auditoria externa real ou exigência regulatória, a resposta depende inteiramente da palavra da própria empresa.