100 empresas, incluindo OpenAI e Anthropic, alertam para a escalada de ciberataques de IA

A cibersegurança em IA tem um duplo significado: por um lado, as empresas precisam se defender contra ciberataques impulsionados por IA; por outro, ... Mais de 100 empresas, incluindo OpenAI, Anthropic, Google e Microsoft, assinaram uma carta aberta alertando que ciberataques impulsionados por IA podem se tornar mais prevalentes e sofisticados nos próximos meses.

A carta alerta que, à medida que as capacidades dos modelos globais de IA continuam a avançar, os ataques cibernéticos impulsionados por IA se tornarão mais disseminados e complexos nos próximos meses. A cibersegurança refere-se, em geral, à proteção de redes, sistemas, softwares, dispositivos e dados contra acessos não autorizados, danos, roubos ou interrupções.

Lado da governança: à medida que códigos gerados por IA, agentes de IA e fluxos de trabalho automatizados entram nas empresas, surgem novas questões em torno de autenticação de identidade, controle de permissões, rastreamento de operações e responsabilização. Antes do lançamento da carta aberta, a OpenAI revelou um incidente de segurança de IA envolvendo a Hugging Face.