Invasão feita pelo ChatGPT sugere que validação da AGI será no campo da cibersegurança

Dois modelos de IA removeram as próprias travas, acharam falhas inéditas, chegaram à internet e atacaram a empresa Hugging Face em busca do ... Entre os dias 11 e 12 de julho, modelos de inteligência artificial da OpenAI escaparam do ambiente isolado em que estavam sendo testados, ganharam acesso à internet e invadiram os servidores da Hugging Face , uma das principais plataformas de código aberto de IA do mundo.

Essa faceta hacker da IA, apesar de assustar, está em sintonia com os avanços da tecnologia OpenAI. A prova reúne 898 casos baseados em falhas reais de software: o modelo recebe um programa com um bug conhecido e precisa transformar aquilo em um ataque funcional, provando o feito ao capturar uma sequência aleatória de caracteres guardada no sistema invadido.

Já on-line, os modelos deduziram algo correto: como o ExploitGym é um benchmark público e a Hugging Face é a maior hospedeira de modelos e bases de dados de aprendizado de máquina, era provável que as respostas estivessem lá. O comportamento é o que deu a pista de que ali não havia gente: o cofundador e diretor científico da Hugging Face, Thomas Wolf, contou ao Wall Street Journal que estranhou ver o invasor interessado apenas em bases de dados de cibersegurança.