"Risco crítico": como é a nova IA da OpenAI criada com "técnica secreta" - UOL

OpenAI diz que Astra cruza patamar crítico de cibersegurança , com acesso limitado e mais monitoramento. A OpenAI diz que seu próximo modelo, chamado Astra, é o primeiro da empresa a atingir um nível "crítico" de capacidade em cibersegurança - ou seja, bom o bastante para achar falhas inéditas e explorar essas brechas sem alguém guiando passo a

*A OpenAI afirma que vai lançar uma versão do Astra "em breve", mas que o acesso às capacidades mais avançadas de cibersegurança será mais limitado no começo. *A abordagem consiste em fazer a informação circular várias vezes pelas mesmas camadas internas do sistema antes de gerar uma resposta - na prática, o modelo ganha um poder computacional efetivo muito maior a cada etapa, sem a necessidade de adicionar uma quantidade gigantesca de novos parâmetros.

*A OpenAI também afirma que criou testes inspirados no caso Hugging Face para ver se o Astra tentaria "sair da caixa" em ambiente controlado e que, nesses experimentos, ele não tentou burlar as barreiras. O ponto mais sensível aqui não é só o que o Astra faz, mas como ele faz.