IA da Anthropic identifica e une falhas de segurança em sistemas

Uma inteligência artificial (IA) da Anthropic, ainda não lançada, demonstrou a capacidade de identificar falhas de segurança em sistemas amplamente utilizados, como Chrome, Safari, Windows e Linux. A IA conseguiu unir essas vulnerabilidades para criar códigos de invasão (exploits) funcionais em um ambiente de laboratório, conforme revelado pela equipe de segurança da empresa, o Frontier Red Team, em um relatório publicado nesta terça-feira (27).

Os especialistas explicaram que os códigos de ataque foram construídos após comandos iniciais dados ao modelo, sem que houvesse registro de ataques reais explorando essas falhas na internet. Um dos exemplos citados foi um experimento em que a tecnologia abriu a calculadora em um Mac com Chrome após o carregamento de uma página web, sem qualquer interação do usuário. A autonomia demonstrada pelo sistema chamou a atenção da comunidade de segurança digital, pois a combinação de falhas para invadir um sistema geralmente exige equipes altamente especializadas.

Correções e impacto nos sistemas

Apesar da preocupação gerada, todas as vulnerabilidades relatadas já foram corrigidas pelas empresas responsáveis. A Anthropic destacou que a intenção por trás da pesquisa é fortalecer a defesa dos sistemas. No caso do navegador Chrome, o modelo utilizou quatro falhas diferentes em sequência para executar comandos fora do ambiente seguro do navegador. A Google corrigiu os problemas na versão 156 do Chrome, liberada em 20 de outubro, e creditou os pesquisadores envolvidos.

“Recebemos relatórios de pesquisadores utilizando inteligência artificial e trabalhamos rapidamente para blindar a plataforma antes que qualquer exploração mal-intencionada ocorresse”, destacou a equipe de segurança do Google. Para a Apple, a falha identificada no Safari permitia que sites mal-intencionados contornassem políticas de segurança para ler dados de outras páginas abertas pelo usuário. A empresa corrigiu a falha no final de junho e incluiu os nomes dos pesquisadores da Anthropic nos registros públicos.

“A colaboração com pesquisadores externos e o uso de novas ferramentas de auditoria nos ajudam a antecipar cenários complexos de risco para os usuários”, pontuou a fabricante do iPhone. Nos sistemas operacionais Windows e Linux, as falhas envolviam brechas na pilha de rede capazes de causar quedas de servidores ou permitir acesso root remoto. As correções foram distribuídas pelas respectivas comunidades e desenvolvedores ao longo deste ano.

IA como ferramenta de defesa

Diante do cenário, a Anthropic reforçou que o acesso a modelos avançados de IA com capacidades cibernéticas deve ser regulado para auxiliar profissionais de defesa. Para tal ação, a companhia expandiu o programa de verificação de segurança com o objetivo de que equipes de empresas e órgãos governamentais utilizem versões avançadas da tecnologia para auditar códigos e antecipar falhas antes que cibercriminosos possam agir.

A empresa não detalhou as etapas do processo nem revelou qual era o modelo exato utilizado, o que dificulta a compreensão completa do nível de autonomia humana envolvido. No entanto, a demonstração aponta para um futuro onde a IA pode ser tanto uma ferramenta para ataques quanto para defesa cibernética, exigindo novas abordagens regulatórias e de segurança.