Parece o início de um filme de ficção científica, mas aconteceu durante um teste de cibersegurança. A Meta confirmou à Reuters que um dos seus modelos de inteligência artificial teve acesso à Internet e explorou uma vulnerabilidade num serviço externo.
Mas há um pormenor importante: a IA não “escapou” sozinha de uma caixa fechada.
A avaliação estava a ser realizada pela empresa independente Irregular e foi uma configuração incorreta que deu, inadvertidamente, acesso à Internet ao modelo. Foi depois dessa porta ficar aberta que tudo se complicou.
A IA encontrou uma falha e aproveitou-a
Com acesso à Internet, o modelo explorou uma vulnerabilidade num serviço de terceiros. Segundo informações avançadas inicialmente pelo The Information, terá conseguido entrar nos sistemas de uma empresa não identificada e fazer alterações internamente.
O modelo envolvido terá sido o Muse Spark 1.1, embora a Meta não tenha confirmado oficialmente qual foi a versão utilizada neste incidente. Sabemos, no entanto, que o relatório oficial de avaliação do Muse Spark 1.1 mostra que o modelo foi sujeito a testes avançados de cibersegurança e tem capacidades para trabalhar de forma autónoma com ferramentas.
O caso ganha ainda mais peso porque o Muse Spark pertence à mesma geração de IA que a Meta está a levar para serviços como WhatsApp, Facebook e Instagram, com capacidades cada vez mais avançadas.
A Irregular esclareceu à Reuters que não houve uma fuga da sandbox nem um ciberataque particularmente sofisticado. O ambiente de avaliação estava simplesmente mal configurado e permitia uma ligação à Internet que não deveria estar disponível.
Mas que dados podem realmente ficar em risco?
Aqui é importante não criar alarmismo. Não há qualquer indicação de que contas, palavras-passe ou dados de utilizadores do Facebook, Instagram ou WhatsApp tenham sido afetados por este incidente.
A preocupação é outra: o que pode acontecer quando ligamos um agente de IA aos serviços que utilizamos diariamente.
Um agente com acesso ao email pode, dependendo das permissões, consultar mensagens e anexos ou até enviar emails. Com acesso a armazenamento na cloud, poderá interagir com documentos e outros ficheiros. Num ambiente profissional, as permissões podem ainda chegar a bases de dados, repositórios de código ou sistemas internos.
E há outro ponto sensível: as credenciais. O NIST alerta que agentes podem reutilizar credenciais ou tokens encontrados no contexto, memória ou respostas de outras ferramentas, podendo assim obter mais acesso do que aquele que inicialmente se pretendia.
Isso não significa que Gmail, Google Drive, Dropbox ou outros serviços estejam em risco por causa da IA da Meta. O risco existe quando um agente recebe acesso a um serviço e permissões suficientes para realizar ações nesse serviço.
Não é por acaso que um guia conjunto da CISA, NSA e outras agências de cibersegurança recomenda que estes agentes nunca recebam acesso amplo ou desnecessário a dados sensíveis e sistemas críticos.
E este não foi um caso isolado. A própria Anthropic revelou três incidentes em que modelos Claude chegaram a infraestruturas reais durante avaliações de cibersegurança. Mais recentemente, o Instituto de Segurança de IA do Reino Unido registou ações autónomas não autorizadas na Internet durante testes com modelos da Anthropic e OpenAI.
Por isso, não precisas de mudar já as palavras-passe por causa deste incidente da Meta. O cuidado deve estar sobretudo nas permissões que concedes a ferramentas de IA. Se um agente não precisa de aceder aos teus emails, ficheiros ou determinada conta para executar uma tarefa, não há vantagem em dar-lhe essa liberdade.
