OpenAI reforça segurança antes de lançar novo modelo de IA - G1

As ferramentas mais avançadas de cibersegurança terão acesso ainda mais restrito, voltado a testadores e, posteriormente, a usos defensivos. Empresa afirma que Astra é significativamente mais avançado que o atual modelo mais sofisticado disponível ao público e tem capacidade de executar tarefas sofisticadas de cibersegurança de forma autônoma.

Por isso, a OpenAI diz que adotou controles mais rígidos durante o desenvolvimento e pretende limitar inicialmente o acesso às funções mais avançadas do sistema. Essas falhas podem estar presentes em sistemas considerados protegidos contra ataques.

A empresa diz estar trabalhando para comunicar essas vulnerabilidades aos responsáveis pelos sistemas afetados. A preocupação da OpenAI não é apenas com uma pessoa usando deliberadamente o modelo para cometer um ataque.