Agentes de IA mentem, trapaceiam e roubam. Isso está afastando os usuários - Folha - UOL
Resumo completo da matéria
A PitchBook, empresa de dados, afirma que a cibersegurança relacionada à IA também é uma das áreas ... Cerca de arame farpado despertava um interesse peculiar no falecido Alan Greenspan, um homem urbano por toda a vida.
Ou seja, pessoas e empresas que façam pleno uso de produtos como agentes de IA, ajudando a justificar os enormes investimentos destinados à IA de fronteira . Os riscos crescentes ajudam a explicar por que as avaliações das empresas de cibersegurança com recursos de IA estão disparando.
A empresa promete reduzir o que Klein chama de "erros invisíveis" produzidos pela IA —aqueles que parecem plausíveis o suficiente para não serem percebidos e que se acumulam à medida que os agentes executam tarefas mais longas— incorporando confiabilidade garantida ao treinamento de seus modelos. As preocupações com agentes que saem do controle são tão fortes que até executivos dos principais laboratórios de IA estão pedindo que o governo Trump assuma o papel de xerife —embora, curiosamente, o governo esteja mantendo em sigilo sua estrutura mais recente para segurança da IA.
O ciber.seg.br apresenta um resumo amplo e informativo. Consulte a fonte para acessar documentos, declarações e demais detalhes publicados.
Acessar publicação em Folha de S.Paulo