OpenAI Pausa Treinamento De Novos Modelos Após Alerta Sobre Riscos Em Cibersegurança

A empresa anunciou a revisão de seu protocolo de segurança, a antecipação de salvaguardas e o reforço do monitoramento dos modelos ... A OpenAI interrompeu temporariamente parte do treinamento de seus próximos modelos de inteligência artificial após identificar que um sistema ainda não lançado, chamado Astra, pode estar se aproximando de um limite crítico em capacidades de cibersegurança.

A empresa afirmou que as avaliações recentes demonstraram a necessidade de atualizar os critérios utilizados para acompanhar o desenvolvimento de sistemas mais avançados. Além disso, o maior treinamento desse tipo planejado pela companhia permanece temporariamente suspenso.

O alerta está relacionado ao potencial de modelos avançados de IA para executar tarefas cada vez mais sofisticadas no ambiente digital. Nesse contexto, a OpenAI afirmou que pretende ampliar os procedimentos de avaliação e monitoramento para compreender melhor como seus sistemas desenvolvem determinadas capacidades e como eles se comportam durante os testes.