A Anthropic incluiu em seu prospecto preliminar de IPO uma advertência de que o desenvolvimento contínuo de seus modelos de IA pode aumentar o risco de que eles causem dano — incluindo cenários descritos no próprio documento como risco existencial para a humanidade. A informação foi obtida por The Verge e TechCrunch antes da publicação oficial da oferta.

O mesmo prospecto detalha perdas de dezenas de bilhões de dólares por ano, acompanhadas de crescimento acelerado de receita — o retrato financeiro padrão de uma empresa de IA generativa em fase de escala pesada de infraestrutura. Até aí, nada muito diferente do que se esperaria de qualquer concorrente do setor prestes a abrir capital.

O que chama atenção é a combinação dos dois elementos no mesmo documento regulatório. Prospectos de IPO existem para que investidores avaliem riscos antes de colocar dinheiro em uma empresa, e é comum haver seções de "fatores de risco" genéricas sobre concorrência, regulação ou dependência de fornecedores. É bem mais raro uma empresa declarar formalmente que seu produto principal pode, em cenários extremos, representar ameaça à existência da espécie humana — e ainda assim pedir bilhões de dólares em capital para acelerar exatamente o desenvolvimento desse produto.

A Anthropic construiu sua identidade pública em torno da ideia de ser a "IA segura", posicionamento que a distingue de rivais como OpenAI e Google DeepMind desde sua fundação, em 2021, por ex-funcionários da OpenAI preocupados com trajetória de segurança. Manter essa narrativa é parte do valor de marca da empresa — inclusive para justificar sua avaliação de mercado. Mas um prospecto de IPO é um documento legal, sujeito a escrutínio da SEC e a potenciais ações judiciais de investidores caso a empresa omita riscos conhecidos. Isso cria um incentivo direto para a linguagem de risco existencial aparecer ali, independentemente de quanto isso contraste com o discurso de marketing.

O documento também detalha estruturas de governança que permitiriam à liderança da Anthropic manter poder de controle mesmo após a empresa se tornar pública — um arranjo comum em IPOs de tecnologia (ações com direitos de voto diferenciados, por exemplo), mas que aqui ganha peso extra: significa que as pessoas que assinam o alerta de risco existencial também são as que continuarão decidindo, sozinhas, o ritmo do desenvolvimento desses modelos depois que o dinheiro dos novos acionistas entrar.

Falta saber como o mercado vai precificar isso. Investidores institucionais toleram riscos regulatórios e riscos de execução o tempo todo — mas risco existencial é uma categoria que praticamente nenhuma outra empresa de capital aberto declara sobre si mesma. A pergunta em aberto é se essa linguagem vai funcionar como blindagem jurídica de baixo custo ou se vai virar munição para quem questiona se uma empresa deveria mesmo buscar bilhões em capital privado para acelerar algo que ela própria descreve como potencialmente catastrófico.