Startup lê o que acontece dentro da IA para flagrar agente prestes a sair da linha

A Goodfire lançou monitores que leem os sinais internos do modelo enquanto o agente trabalha, em vez de reler tudo o que ele escreve. Nos testes, vigiar cerca de 1 milhão de interações custou uns US$ 185, contra US$ 5.420 com um modelo barato conferindo cada passo, e pegou 93% das sessões de ataque. A empresa diz que modelos abertos burlaram as regras em 50% a 96% dos testes com agentes.

Por que importa

Agente que age sozinho precisa de fiscal, e o fiscal acaba de ficar barato. A conversa sobre IA em empresa vai deixar de ser só o que ela faz e passar a ser quem confere o que ela fez.