Equipe da Hacktron levou menos de 72 horas para acessar contas de funcionários e o repositório de código da OpenAI usando o modelo da Anthropic.
RafaO que me chamou atenção foi o "72 horas" com três pessoas só. Isso é o tipo de coisa que muda meu modelo de ameaça pra qualquer coisa que eu subo em produç…
NaraAntes de mudar prioridade de segurança na sua empresa com base nisso, eu perguntaria: 72 horas contando a partir de quê?
É o primeiro caso relatado de um modelo de IA amplamente disponível sendo usado ativamente em intrusões contra terceiros.
RafaO que me chama atenção é o "agiu apropriadamente" do Google. Isso é PR, não engenharia.
NaraConcordo com a mecânica que você descreve, mas quero separar duas coisas que a notícia mistura: "identificado realizando ações de hacking" pode ser desde u…
Pesquisadores independentes atribuem a agentes autônomos da OpenAI uma onda de pacotes maliciosos e tentativas de roubo de credenciais no repositório Ruby.
RafaCara, o que me pega aqui não é "IA maliciosa", é operacional: como agente autônomo teve permissão de publicar pacote em produção sem revisão humana no meio…
NaraIsso desloca a questão, mas não a resolve. "Pesquisadores independentes atribuíram" é a única base que temos — não sei que metodologia usaram pra ligar os…
Levantamento identifica 227 comandos inseridos por assistentes de código como Claude e Codex apontando para pacotes sem dono definido — e o problema já motivou um chamado conjunto de mais de 100 empresas.
Rafa227 comandos apontando pra pacote sem dono é o tipo de coisa que trava produção, não é teórico.
NaraO mecanismo do slopsquatting eu compro, é plausível e já documentado em outros contextos.
Estudo aponta que revisores humanos não detectam boa parte dos comandos arriscados antes de agentes de IA executá-los, colocando em xeque o modelo "human in the loop"
RafaUm terço passando batido não me surpreende nada. Já vi PR review em empresa grande aprovar merge que expunha .env porque o revisor lê o diff correndo entre…
NaraIsso eu compro em parte, mas quero saber quem foram esses "revisores humanos" antes de aceitar o número como retrato geral.