A Check Point Software Technologies alertou para os riscos crescentes associados à integração de sistemas de Inteligência Artificial em processos críticos de autenticação, recuperação de contas e suporte ao cliente, após um alegado incidente envolvendo um chatbot da Meta.
De acordo com informações divulgadas pelo site especializado 404 Media, os atacantes terão utilizado o chatbot de suporte da Meta para solicitar alterações aos endereços de email associados a contas de Instagram de elevado perfil. Entre os casos reportados encontram-se contas ligadas à antiga administração Obama, à marca Sephora e a responsáveis da Space Force norte-americana.
Embora os detalhes do incidente não tenham sido oficialmente confirmados pela Meta, a Check Point considera que o episódio evidencia um desafio mais amplo relacionado com a crescente autonomia atribuída a sistemas baseados em IA.
Para a empresa de cibersegurança, o problema não se resume à possibilidade de manipulação de modelos através de técnicas como prompt injection ou jailbreaks, mas prende-se sobretudo com o papel que estes sistemas passam a desempenhar em processos de negócio sensíveis.
“A pergunta que as equipas de segurança devem fazer não é apenas se o chatbot pode ser manipulado, mas se deveria ter tido aquele nível de influência no processo desde o início”, afirma Rui Duro, country manager da Check Point Software Technologies em Portugal.
Segundo a análise da empresa, a recuperação de contas é um processo que envolve verificação de identidade e controlo de acesso, pelo que qualquer sistema automatizado que participe nesse fluxo deve ser considerado parte integrante da superfície de ataque da organização.
A Check Point sublinha que a evolução dos sistemas de IA, cada vez mais capazes de executar ações, aprovar pedidos, alterar dados ou acionar fluxos de trabalho, exige uma abordagem de segurança mais abrangente.
Em vez de analisar apenas os riscos associados às respostas produzidas pelos modelos, as organizações devem avaliar também as permissões atribuídas, os mecanismos de validação de identidade, os níveis de autorização e os processos que podem ser desencadeados por estes sistemas.
A empresa alerta ainda para o crescimento dos chamados sistemas de IA agentic, capazes de interagir com aplicações e ferramentas externas de forma autónoma, aumentando a necessidade de controlos rigorosos sobre as ações que podem executar.
“À medida que as organizações integram IA em processos de negócio, precisam de aplicar o mesmo rigor que aplicam a qualquer outro sistema com capacidade de alterar dados, conceder acesso ou acionar fluxos críticos”, acrescenta Rui Duro.
Entre as recomendações deixadas pela Check Point estão a limitação das permissões atribuídas aos sistemas de IA, a implementação de mecanismos independentes de verificação de identidade para ações sensíveis e a monitorização contínua de comportamentos anómalos ou alterações de contexto inesperadas.
Para a empresa, a segurança da Inteligência Artificial passa agora não apenas pela proteção dos modelos, mas também pela gestão das ferramentas, permissões e fluxos de trabalho que estes sistemas conseguem influenciar ou controlar.
