El sector de la ciberseguridad ha utilizado la IA para desarrollar aspectos como la mejora de las técnicas para luchar contra el phishing y la capacidad de crear antimalware sofisticado con mayor facilidad. Sin embargo, hasta la fecha, se ha pasado por alto el riesgo de exposición o extracción de información sensible debido a errores o ataques maliciosos en los sistemas de IA. Mimecast muestra cómo reducir el riesgo de exposición.
Dentro de los sistemas informáticos de una empresa, la información suele estar compartimentada mediante políticas que garantizan que los usuarios solo puedan acceder a los datos de los que son responsables. Aunque este tipo de enfoque también puede reproducirse con herramientas de IA generativa, su introducción aumenta significativamente tanto el riesgo de compartición involuntaria causada por errores humanos como la superficie de ataque disponible para los posibles ciberdelincuentes.
“Lo que esperamos en los próximos meses es un escenario en el que las empresas darán a los sistemas de IA generativa acceso a cada vez más información”, explica Ricard Torres, Ingeniero de Ventas Senior de Mimecast. “En la práctica, los chatbots y los agentes de IA tendrán una gran libertad de acción y el riesgo de que esto derive en una exposición de información confidencial crecerá exponencialmente”.
Entre las amenazas más relevantes se encuentran técnicas como el jailbreaking y la inyección de prompt. El jailbreaking suele definirse como una técnica que permite saltarse o superar los límites y controles de seguridad implementados en un modelo de IA, para hacer que realice acciones o produzca contenidos que van más allá de sus parámetros normales de funcionamiento. En la práctica, el uso de técnicas de jailbreak puede permitir a un usuario legítimo acceder a información que excede sus privilegios.
Los ataques basados en la inyección de comandos, por su parte, implican la “inyección” de comandos ocultos que pueden llevar a la IA a realizar acciones no deseadas, como insertar información confidencial en comunicaciones dirigidas a partes externas. Una de las estrategias potencialmente útiles para conseguirlo es insertar las instrucciones en un documento, haciéndolas invisibles para los humanos (por ejemplo, insertando texto blanco sobre fondo blanco) pero relevantes para los sistemas de IA.
El papel de la prevención de la pérdida de datos
En un escenario extremadamente “verde” y en constante evolución, no basta con confiar exclusivamente en los controles de seguridad internos de los sistemas de IA. Para aplicar una protección eficaz, es necesario intervenir en todas las herramientas de comunicación y colaboración, empezando por el correo electrónico. “El correo electrónico es la principal herramienta a través de la cual se puede divulgar información sensible”, subraya Ricard Torres. “Las tecnologías de Mimecast utilizan algoritmos de concordancia de patrones y análisis semántico para identificar datos sensibles dentro de correos electrónicos y archivos adjuntos”.
El sistema, explica Torres, también puede configurarse para cifrar automáticamente determinados contenidos o evitar su envío en caso de violación de las políticas corporativas.
De igual forma, es necesario controlar las plataformas de colaboración, como Microsoft Teams, Slack y Zoom. En este caso, la tarea recae en filtros avanzados capaces de identificar palabras clave, expresiones regulares y comportamientos atípicos para prevenir la fuga accidental de datos confidenciales.
“La eficacia de Mimecast está garantizada por el uso de sistemas de inteligencia artificial, que permiten analizar con extrema precisión los contenidos. En este caso, se trata prácticamente de luchar contra el fuego con el fuego», concluye Torres.
“La rapidez con la que las empresas portuguesas están adoptando el uso de la IA”, dice Jorge Puerta, Country Manager de Ingecom Ignition en España, “hace imprescindible poder ofrecer a nuestros mercados las herramientas adecuadas para protegerse de los riesgos asociados a una tecnología potente, pero aún poco explorada desde el punto de vista de la seguridad. Ingecom permite a todas las empresas de nuestro país aprovechar el poder de la IA reduciendo los riesgos con el mínimo esfuerzo”.
