O setor da cibersegurança tem recorrido à IA para desenvolver aspetos como a melhoria das técnicas de phishing e a capacidade de criar mais facilmente malware sofisticado. No entanto, até à data, o risco de exposição ou extração de informações sensíveis devido a erros ou ataques maliciosos aos sistemas de IA tem sido negligenciado. A Mimecast indica como reduzir o risco de exposição.
Dentro dos sistemas de TI de uma empresa, normalmente, as informações são compartimentadas por meio de políticas que garantem que os usuários só possam acessar os dados de sua competência. Embora esse tipo de abordagem também possa ser replicado com as ferramentas de IA generativa, sua introdução aumenta significativamente tanto o risco de compartilhamentos involuntários causados por erros humanos quanto a superfície de ataque à disposição de possíveis cibercriminosos.
“O que esperamos nos próximos meses é um cenário em que as empresas darão acesso a um número cada vez maior de informações aos sistemas de IA generativa”, explica Ricard Torres, Senior Sales Engineer da Mimecast. “Na prática, os chatbots e agentes de IA terão uma grande liberdade de ação e o risco de que isso resulte em uma exposição de informações confidenciais crescerá exponencialmente”.
Entre as ameaças mais relevantes estão técnicas como o jailbreak e a injeção de prompts. O jailbreak é normalmente definido como uma técnica que permite contornar ou superar os limites e controles de segurança implementados em um modelo de IA, para fazer com que ele execute ações ou produza conteúdos que vão além dos seus parâmetros normais de funcionamento. Na prática, o uso de técnicas de jailbreak pode permitir que um usuário legítimo acesse informações que excedem seus privilégios.
Os ataques baseados em injeção de prompts, por sua vez, envolvem a “injeção” de comandos ocultos que podem levar a IA a realizar ações indesejadas, como inserir informações confidenciais em comunicações dirigidas a partes externas. Uma das estratégias potencialmente úteis para alcançar esse objetivo é inserir as instruções em um documento, tornando-as invisíveis para os humanos (por exemplo, inserindo texto branco sobre fundo branco), mas relevantes para os sistemas de IA.
O papel da Prevenção de Perda de Dados
Em um cenário extremamente “verde” e em constante evolução, confiar exclusivamente nos controles de segurança internos dos sistemas de IA não é suficiente. Para implementar uma proteção eficaz, é necessário intervir em todas as ferramentas de comunicação e colaboração, começando pelo e-mail. “O e-mail é a principal ferramenta por meio da qual as informações sensíveis podem ser divulgadas”, destaca Ricard Torres. “As tecnologias da Mimecast utilizam algoritmos de correspondência de padrões e análise semântica para identificar dados sensíveis dentro de e-mails e anexos”.
O sistema, explica Ricard Torres, também pode ser configurado para criptografar automaticamente determinados conteúdos ou impedir o envio desses conteúdos caso haja violação das políticas corporativas. Da mesma forma, é necessário controlar as plataformas de colaboração, como Microsoft Teams, Slack e Zoom. Nesse caso, a tarefa é atribuída a filtros avançados capazes de identificar palavras-chave, expressões regulares e comportamentos atípicos para prevenir a fuga acidental de dados confidenciais.
“A eficácia da Mimecast é garantida pelo uso de sistemas de inteligência artificial, que permitem analisar com extrema precisão os conteúdos. Nesse caso, é basicamente combater o fogo com o fogo”, conclui Torres.
“A velocidade com que as empresas portuguesas estão adotando o uso da IA”, diz Nuno Martins, Country Manager da Ingecom Ignition para Portugal, “torna indispensável oferecer aos nossos mercados as ferramentas adequadas para se proteger contra os riscos associados a uma tecnologia poderosa, mas ainda pouco explorada do ponto de vista da segurança. A Ingecom permite que todas as empresas do nosso país aproveitem o poder da IA, reduzindo os riscos com o mínimo esforço”.
