La inteligencia artificial está acelerando el descubrimiento de vulnerabilidades a una velocidad que dificulta la capacidad de respuesta de las empresas. Al mismo tiempo, está ampliando la superficie de ataque al incorporar modelos, agentes y procesos de inferencia a las infraestructuras corporativas.
De acuerdo con Iván Ramos, CTO de F5 Latinoamérica, en entrevista con Mobile Time Latinoamérica, explicó que la IA ha generado un aumento de tres veces el número de vulnerabilidades descubiertas que son susceptibles de ser explotadas. «Un modelo de inteligencia artificial es capaz de ejecutar millones de pruebas, mientras que un humano solo es capaz de ejecutar cientos de pruebas», explicó.
Según el ejecutivo, esto permite identificar vulnerabilidades a una velocidad que puede superar la capacidad de reacción de las organizaciones.
IA contra IA
Iván Ramos, CTO de F5 Latinoamérica
El avance de estas capacidades también está generando escenarios en los que una IA puede utilizarse para atacar a otro sistema de IA. Ramos aseguró que F5 ha observado múltiples casos y mencionó como ejemplo un incidente reciente en el que un modelo de inteligencia artificial utilizado para descubrir vulnerabilidades, que operaba en un sandbox, logró comprometer otra IA y extraer información relacionada con su operación.
El ejecutivo no reveló los nombres de los modelos involucrados, pero señaló que este tipo de escenario representa una evolución respecto de los ataques tradicionales. «Ya tenemos inteligencia artificial utilizando otra inteligencia artificial para perpetrar un ataque», afirmó.
Ramos también mencionó el caso de Mythos, un modelo de IA desarrollado para descubrir vulnerabilidades. Según el experto, este caso refleja uno de los principales desafíos de la IA aplicada a ciberseguridad.
Mythos fue desarrollado inicialmente con fines de seguridad, pero posteriormente se decidió restringir su acceso debido a que las mismas capacidades que permiten identificar vulnerabilidades podrían ser utilizadas con fines maliciosos. Ante esa situación, Mythos quedó detrás de un proyecto denominado Glass Wind, cuyo acceso está limitado a determinadas empresas de seguridad.
La seguridad ya no es solo proteger el modelo
La incorporación de múltiples modelos de IA también está modificando la estrategia de seguridad de las empresas. Las organizaciones utilizan en promedio siete modelos especializados para diferentes procesos, debido a que un modelo puede ofrecer mejores resultados para determinadas tareas que otro.
Para Ramos, uno de los principales errores en esta estrategia consiste en asumir que todos los deben contar con exactamente los mismos controles de seguridad. “Lo que debes de proteger es que el modelo se comporte de manera adecuada para cada operación (…) Ya no hablamos nada más de atacar al modelo y de extraer datos, hablamos del buen comportamiento de los modelos. Y esa también es la razón por la cual se usan en promedio siete modelos”.
En ese sentido, explicó que la protección debe considerar la función que desempeña cada modelo dentro del negocio. Un sistema utilizado para apoyar procesos de recursos humanos, por ejemplo, debe tener un comportamiento diferente al de un modelo utilizado en operaciones.
De esta manera, la seguridad de IA también debe buscar garantizar que este actúe de acuerdo con las políticas y objetivos establecidos por la organización.
Adicionalmente, Ramos recomendó incorporar la seguridad desde las primeras etapas de implementación y no como una medida posterior. El experto propone una estrategia de seguridad en cuatro frentes: control de acceso, protección de la aplicación frontal, blindaje de las APIs y, por último, seguridad específica para el modelo de IA.
El objetivo no es reducir la superficie de ataque, ya que la incorporación de IA implica por naturaleza una ampliación de los elementos que deben protegerse, sino establecer controles de seguridad sobre cada componente.
Por otro lado, F5 señala que 78% de las organizaciones ejecuta la inferencia (el proceso mediante el cual un modelo entrenado genera respuestas a partir de datos nuevos) dentro de su propia infraestructura. En estos casos, las empresas deben controlar quién puede acceder al proceso de razonamiento del modelo y qué herramientas puede utilizar un agente de IA durante ese proceso.
«Esta decisión, aunque otorga control total sobre los datos, también traslada a la empresa la responsabilidad de asegurar el proceso de razonamiento, algo que en la nube administrada suele estar delegado al proveedor”, detalló.
Los datos siguen siendo el principal activo
Aunque los riesgos pueden variar entre industrias, Ramos mencionó la necesidad de proteger los datos utilizados por los sistemas de IA. Según el ejecutivo, mientras mayor sea la cantidad y calidad de los datos utilizados para entrenar una inteligencia artificial, mayor puede ser su eficiencia.
Por ello, uno de los principales riesgos consiste en evitar que los modelos expongan información interna o proporcionen datos que no deberían estar disponibles para determinados usuarios. La protección debe abarcar tanto los datos utilizados durante el entrenamiento como la información procesada durante la operación de los modelos.
Empresas mexicanas todavía están aprendiendo
Respecto a la preparación de las empresas mexicanas frente a estas amenazas, Ramos consideró que el mercado todavía se encuentra en una etapa de aprendizaje. En ese sentido, señaló que, desde su perspectiva, ninguna organización puede considerarse completamente preparada frente a las amenazas de ciberseguridad debido a la velocidad con la que evolucionan los ataques.
El ejecutivo consideró que la velocidad de adopción de la IA ha llevado a algunas organizaciones a priorizar la implementación de estas tecnologías antes de establecer mecanismos adecuados de protección.
“Seguridad como premisa de diseño”, concluyó Ramos. Es decir, incorporar la protección desde el primer día, no como un parche posterior. Para las PYMES, el experto recomienda no intentar resolver la seguridad por cuenta propia, sino aliarse con proveedores especializados.
