Hasta hace poco, la IA empresarial se centraba principalmente en ayudar a las personas a trabajar más rápido. Los empleados utilizaban copilotos para escribir código, resumir información, generar contenido y responder a preguntas. Después, la IA se integró más profundamente en las empresas, impulsando asistentes internos y aplicaciones orientadas al cliente.
Ahora estamos entrando en una fase radicalmente distinta. Los sistemas de IA agéntica no se limitan a responder preguntas. Pueden navegar por la web, recuperar datos, realizar llamadas a API, utilizar herramientas, ejecutar flujos de trabajo y llevar a cabo acciones, en ocasiones con poca o ninguna intervención humana.
Es un salto extraordinario en cuanto a capacidades. También supone una ampliación extraordinaria de la superficie de ataque, un tema que abordo en mi presentación «Proteger la IA en producción», en el evento F5 Post-Mythos Security Summit, que F5 ofrece bajo demanda hasta el 31 de octubre.
“La IA es cada vez más capaz, está más conectada y es más autónoma. La cuestión no es si eso ampliará tu superficie de ataque, sino si tu estrategia de seguridad crecerá al mismo ritmo.”
Cuando la IA puede actuar, su comportamiento se convierte en la superficie de ataque
Las aplicaciones tradicionales son relativamente predecibles. Si reciben los mismos datos de entrada en las mismas condiciones, por lo general se espera que produzcan el mismo resultado. Los equipos de seguridad llevan décadas desarrollando formas de proteger la infraestructura, las aplicaciones, las API, las identidades y los datos que rodean esas interacciones.
La IA cambia las reglas del juego porque su comportamiento puede ser no determinista. En las aplicaciones de IA, el propio comportamiento pasa a formar parte de la superficie de ataque.
Piensa en todo lo que interviene en una interacción moderna con la IA: prompts, modelos, datos empresariales, API, sistemas de generación aumentada por recuperación (RAG), herramientas, agentes y las acciones que realizan esos agentes. Cada conexión crea un nuevo punto en el que algo puede fallar o en el que un atacante puede intentar manipular el sistema.
Los riesgos son numerosos. La inyección de prompts puede influir en el comportamiento de un sistema de IA, una autonomía excesiva puede permitir que un agente lleve a cabo acciones más allá de lo previsto, y los servidores inseguros del protocolo de contexto de modelos (MCP) y el uso no autorizado de herramientas pueden abrir nuevas vías de acceso a sistemas y datos sensibles. Por su parte, los flujos de trabajo de RAG pueden manipularse, y las aplicaciones de IA pueden revelar información sensible o generar contenido dañino o inapropiado.
Todos estos riesgos se suman a los retos de seguridad a los que ya se enfrentan las organizaciones. A medida que la IA evoluciona de copilotos a aplicaciones orientadas al cliente y a agentes autónomos, las organizaciones siguen arrastrando los riesgos existentes al tiempo que incorporan otros nuevos.
Un cambio tecnológico, dos superficies de ataque en expansión
Hay otro motivo por el que este problema se está volviendo tan complejo: las organizaciones no se enfrentan a una única superficie de ataque de IA.
La primera es la IA que las personas, y cada vez más los agentes, ya están utilizando. Los servicios de IA de terceros han puesto modelos y herramientas potentes al alcance de toda la empresa. Los empleados se ven presionados a utilizar la IA para trabajar más rápido y de forma más eficiente, a menudo sin comprender qué información pueden estar exponiendo o qué riesgos conlleva un determinado servicio de IA.
Limitarse a bloquear la IA no es una solución realista. Las personas encuentran formas de eludir las restricciones, y las organizaciones corren el riesgo de que el uso de la IA escape aún más a la supervisión de los equipos de seguridad y TI.
La segunda superficie de ataque es la IA que las propias organizaciones están desarrollando y desplegando. En este caso, la exposición potencial abarca las aplicaciones, los modelos, los prompts, los agentes, las API, las herramientas, los datos empresariales y las interacciones entre todos estos elementos.
Algunos fallos pueden producirse sin que llegue a intervenir ningún atacante: una respuesta insegura, la revelación involuntaria de información sensible o un agente que utiliza una herramienta que no debería. Otros son ataques deliberados diseñados para manipular modelos, contaminar fuentes de conocimiento, extraer información o hacer que los agentes realicen acciones no previstas.
Desde la perspectiva de un cliente, un organismo regulador o un equipo de seguridad, las consecuencias pueden parecer sorprendentemente similares.
La seguridad de la IA no puede ser el precio que haya que pagar por innovar en IA
Esto plantea un reto complejo para los responsables de seguridad. Las organizaciones quieren avanzar rápidamente con la IA y, cada vez más, necesitan hacerlo. Pero cada nueva aplicación, agente, modelo, herramienta y conexión de IA puede introducir riesgos para los que los enfoques de seguridad tradicionales no estaban preparados.
Para abordar estos problemas, las organizaciones necesitan una mayor visibilidad y control sobre estas superficies de ataque de IA en expansión, sin frenar la actividad empresarial. Deben proteger las interacciones con la IA allí donde se produzcan, hacer frente tanto a los comportamientos accidentales como a los malintencionados y aplicar los controles adecuados sin crear un obstáculo más para la adopción de la IA.
En F5, creemos que hay una forma de lograrlo. Hemos desarrollado un enfoque diseñado para ayudar a las organizaciones a descubrir, probar, gobernar y proteger la IA tanto en las aplicaciones que desarrollan como en las herramientas de IA que utiliza su plantilla, al tiempo que proporciona controles en los puntos donde realmente se producen las interacciones con la IA.
Profundizaré en este enfoque en mi sesión «Tu IA es ahora una superficie de ataque», que tendrá lugar en el evento virtual Post-Mythos Security Summit de F5. Analizaremos cómo está cambiando el panorama de amenazas de la IA, qué deben proteger las organizaciones a medida que la IA adquiere mayor capacidad de actuación autónoma y cómo F5 puede ayudarlas a proteger las aplicaciones, los modelos, los agentes, las herramientas, las API y los datos de IA sin obstaculizar su adopción.
La IA es cada vez más potente, está más conectada y es más autónoma. La cuestión no es si esto ampliará tu superficie de ataque, sino si tu estrategia de seguridad se ampliará al mismo ritmo.
Acompáñame en el F5 Post-Mythos Security Summit para descubrir cómo tomar el control de la nueva superficie de ataque de la IA.
Sobre el autor
Artículos relacionados del blog
IA agéntica en ciberseguridad: promesas y riesgos
Descubre por qué el uso de la IA agéntica en ciberseguridad es esencial para combatir las amenazas impulsadas por IA y por qué los agentes también generan nuevos riesgos empresariales.
Cómo los clientes de F5 del sector financiero abordan la soberanía digital sin frenar la innovación
¿Cómo se materializa la soberanía digital en el mundo real? Dos proyectos recientes de F5 con clientes muestran cómo distintas empresas están afrontando estos retos.
Soberanía operativa: cómo desarrollar resiliencia en un mundo impredecible
Para muchas organizaciones, la cuestión ya no consiste únicamente en controlar los datos, sino en mantener la capacidad de operar, adaptarse y recuperarse a medida que evolucionan las leyes y las circunstancias.
No se puede proteger una conversación con un cortafuegos: cómo el red teaming de IA se volvió esencial
Dado que las implementaciones de IA avanzan a la velocidad de las máquinas, los métodos tradicionales de prueba de software ya no resultan adecuados.
Protege tu canalización de datos de IA sin ralentizarla
Proteger el flujo de datos de la IA no es opcional. Eso está claro. Lo que resulta mucho menos evidente —y mucho más difícil— es cómo protegerlo adecuadamente.
Las extranets no están muertas; solo necesitan una actualización
Modernice su extranet: descubra cómo F5 y Equinix ofrecen una conectividad para partners repetible, segura y escalable, sin la complejidad de las redes tradicionales.