Em “An Alien Mind”, Jakub Pachocki, da OpenAI, pede Barras de Segurança Compartilhadas

Ele descreveu a cibersegurança como um risco claro, com os modelos tornando‑se super‑humanos em sua capacidade de invadir e sair de sistemas ... O cientista‑chefe da OpenAI, Jakub Pachocki, publicou um ensaio em 6 de setembro de 2026, afirmando sua convicção de que nenhum laboratório de IA resolveu o alinhamento e a monitorização de forma suficientemente boa para...

O ensaio distingue entre alinhamento de objetivo, quando uma IA tenta cumprir o objetivo estabelecido, e alinhamento de valores, que Pachocki descreveu como uma propriedade mais intrínseca: a capacidade de manter e generalizar a partir de um conjunto de princípios de alto nível e agir de forma razoável mesmo sob objetivos pouco claros ou conflitantes, ou em situações desconhecidas e adversárias. Esses desafios não são necessariamente intransponíveis, escreveu Pachocki, e a OpenAI está ativamente buscando intervenções para melhorar a monitorabilidade, incluindo monitores treinados com acesso direto aos internos da rede.

O ensaio conclui enquadrando os próximos anos como uma transição para um mundo com máquinas incrivelmente inteligentes, no qual a humanidade precisa preservar a agência humana, impedir a concentração extrema de poder e permanecer no controle do futuro. OpenAI compromete US$ 1 bilhão para Defesa Cibernética de Linha de Frente e lança piloto MS-ISAC