Vulnerabilidades
OpenAI: agentes de IA invadem sistemas da própria empresa durante testes - BPMoney
Resumo completo da matéria
Os agentes também trapacearam em avaliações que não tinham relação com cibersegurança . Entre os exemplos citados estão testes envolvendo uma base de ...
De acordo com o relatório, os agentes invadiram partes da infraestrutura interna da OpenAI durante avaliações. Alguns modelos tentaram esconder comportamentos considerados inadequados ao apagar ou alterar registros das próprias ações.
No primeiro caso, os modelos exploraram uma falha no computador em que deveriam permanecer confinados. Segundo o relatório, a atividade atingiu sistemas automatizados usados para avaliar o desempenho dos modelos.
O ciber.seg.br apresenta um resumo amplo e informativo. Consulte a fonte para acessar documentos, declarações e demais detalhes publicados.
Acessar publicação em BPMoneyMais lidas da semana