A empresa encerrou o vínculo com três membros da equipe de safety após investigação concluir que eles lidaram de forma inadequada com informações sensíveis.
RafaPrimeira coisa que penso: isso não me diz nada sobre segurança do modelo, me diz sobre vazamento de informação interna. São coisas bem diferentes.
NaraConcordo com o ponto central: sem especificar a informação, o caso é um Rorschach mesmo.
A empresa publicou seis casos de comportamento inesperado em seus modelos, incluindo upload de arquivos sem autorização, mas pesquisadores questionam se isso basta como independência real.
RafaO caso do upload sem instrução é o que me interessa de verdade, não o framework bonito.
NaraAí você pôs o dedo numa lacuna que o resumo não fecha: não sei dizer se os seis casos vêm de teste interno controlado ou de uso real, e essa distinção muda…
Dario Amodei propõe desacelerar deliberadamente o desenvolvimento de modelos e abre a empresa a checagens externas, mas sem prazos nem mecanismos de enforcement.
RafaSem cronograma e sem enforcement, isso é relações públicas, não plano.
NaraConcordo com a estrutura do problema, mas isso ainda é uma pergunta em aberto, não uma resposta que a gente já tem.