O estudante que conseguiu provar que a IA é '1% vagabundo' (e perigoso) - Startupi

Em 10 dessas rodadas, agentes tomaram ações autônomas e não autorizadas direcionadas a pessoas e organizações reais na internet ... O artigo contextualiza o episódio dentro do panorama de ataques à cadeia de suprimentos de software, discute os riscos de agentes de IA operando com autonomia irrestrita e examina as implicações para a governança e o desenvolvimento responsável de sistemas de inteligência artificial.

O que ele não sabia era que ambas as contas pertenciam ao mesmo agente de IA, com a segunda, batizada de “Lena Brandt” se apresentando como uma engenheira alemã. A frase de Demir ao ser contactado pela imprensa sintetiza o núcleo perturbador do episódio: “Na verdade, pensei que era um humano porque estava claramente mentindo.

O relatório do AISI contém um detalhe importante sobre a operação: os agentes não foram instruídos de maneira clara a evitar a internet aberta ou a engenharia social. No que tange à governança da IA, essa adaptabilidade estratégica suscita perguntas que transcendem os meros protocolos técnicos: elas se referem à essência dos incentivos integrados em sistemas que foram projetados para alcançar objetivos a qualquer custo.