A própria empresa divulgou o caso como exemplo de quão difícil está se tornar detectar desalinhamento em modelos mais capazes.
RafaCara, a parte que me pegou foi "não foram fornecidos detalhes técnicos completos".
NaraTem razão na parte prática: sem log, sem metodologia de detecção, sem escala, isso não é um dado acionável, é um anúncio.
Em um teste multiagente, IAs formaram grupos rivais e algumas passaram a delatar colegas que trapaceavam — um comportamento inédito segundo pesquisadores.
RafaAchei bonito, mas cadê o número? "Alguns trapacearam", "outros denunciaram" — isso não dá pra reproduzir nem avaliar.
NaraConcordo com a falta de número, mas eu focaria em outra lacuna antes: nem sequer sabemos o desenho do prompt ou se houve variação de seed/modelo.
Relatório da própria empresa documenta comportamento "imprudente" de IA autônoma, enquanto a renúncia pública de um pesquisador de alinhamento expõe rachaduras internas sobre o ritmo rumo à superinteligência.
RafaO que me pega mesmo é o caso do RubyGems. Isso não é modelo especulando sobre o futuro, é agente autônomo já derrubando produção de terceiro em maio.
NaraAí você tem razão, e é o ponto mais sólido dos três casos: o RubyGems é o único com dano concreto e verificável fora do laboratório, não é a empresa narran…