Ahora que hemos llegado al ecuador de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA.
El uso de la IA generativa en las empresas ya es la norma
En general, las empresas tienen al menos unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede utilizarse. Si trabajas en un puesto que no tiene acceso a la IA generativa, ahora mismo te estás quedando atrás.
El desarrollo de aplicaciones basadas en IA generativa se está convirtiendo rápidamente en una práctica habitual en las empresas. Vemos de primera mano cómo nuestros clientes ponen en producción aplicaciones de IA, tanto para uso interno como externo.
En lo que respecta a la adopción de agentes, existen dos vías: adoptarlos a través de terceros y desarrollar agentes propios. La adopción de agentes a través de terceros está bastante avanzada, pero las empresas no siempre son conscientes de haberlos adoptado. Es posible que las organizaciones que empezaron utilizando la interfaz de un modelo de IA generativa en un navegador no sepan que también están utilizando IA agéntica.
Por ejemplo, cuando se lanzó Google Gemini, no incorporaba ningún elemento agéntico; ahora Deep Research es un agente integrado en Gemini. Cuando Deep Research recibe una instrucción, determina qué tareas debe realizar y qué búsquedas web debe llevar a cabo, recopila información y crea informes. Del mismo modo, Microsoft 365 Copilot también incluye agentes.
El desarrollo de agentes propios se encuentra principalmente en la fase de creación de prototipos y experimentación, pero los agentes avanzan mucho más rápido que la IA generativa. En 2024, las preguntas eran: ¿Va a ocurrir esto? ¿Existe realmente una diferencia en cuanto al riesgo? Ahora esas preguntas han desaparecido. Las empresas no tienen ninguna duda.
Por eso es tan importante comprender los agentes y la resistencia agéntica.
MCP no es sinónimo de seguridad
Muchas empresas han empezado a considerar el Model Context Protocol (MCP) como la forma de introducir la IA agéntica. Las organizaciones están llegando casi a sustituir la palabra «agente» por MCP y hablan de «crear un MCP».
Eso no es del todo exacto. En la práctica, MCP representa el menú de opciones que un agente puede utilizar para realizar tareas. Es como si el servidor MCP dijera «esto es lo que hay en el menú» y el cliente MCP decidiera «voy a utilizar esta opción de esta manera». A continuación, utiliza un modelo de IA para determinar qué hacer y cómo hacerlo.
En esa estructura, el riesgo sigue procediendo del modelo. Otros riesgos residen en el software del servidor. MCP no elimina automáticamente esos riesgos. El protocolo es muy bueno, pero no es seguro por defecto ni mucho menos, como hemos visto en incidentes de seguridad recientes. Por ejemplo, Asana identificó y reveló recientemente un fallo que podría haber expuesto datos de usuarios de MCP de Asana a usuarios de otras cuentas.
Al asumir que MCP minimiza el riesgo, las empresas pueden, en realidad, aumentar su exposición a este. Muchos de nuestros clientes actuales y potenciales nos preguntan ahora: «Explíquennos cómo protegen MCP». Deben adoptar una visión integral que tenga en cuenta y someta a pruebas de estrés el caso de uso, el modelo, los patrones de despliegue y las interacciones con herramientas a través de MCP y otros estándares.
Con la IA agéntica, el «cómo» es crucial
“La mayoría de las empresas que utilizan IA se centran demasiado en lo que consigue un modelo o una aplicación de IA. Se fijan en el resultado del trabajo, en el producto final. Cuando los agentes trabajan de forma autónoma, los niveles de riesgo son mucho mayores y el cómo adquiere una importancia crucial.”
Esto se debe a que hay muchas formas de lograr un objetivo concreto, pero muchas de ellas son inadecuadas o incorrectas. Imaginemos que se encarga a un agente mantener actualizada una base de datos y que este tiene acceso y permisos para eliminar o insertar datos. Por ejemplo, podría eliminar las entradas relacionadas con F5 localizando y borrando con precisión las coincidencias exactas del nombre de la empresa.
Sin embargo, el agente también podría decidir emitir una instrucción para «eliminar los registros F*», borrando así los registros de todas las empresas cuyo nombre empiece por F. Esta acción rudimentaria lograría el mismo objetivo, pero provocaría una cascada de consecuencias imprevistas que podrían no ser fáciles de subsanar. En la era de los agentes, cuando las acciones están impulsadas por modelos no deterministas, el comportamiento involuntario es la brecha de seguridad, especialmente si las medidas de protección son insuficientes. Comprender el comportamiento de los agentes es absolutamente esencial para que se adopten con éxito.
La infraestructura de seguridad empresarial tiene dificultades
Proteger la IA implica una forma de operar completamente nueva, no solo introducir pequeños cambios en las soluciones de seguridad existentes. Con el tiempo, todo el software tradicional que utilizan las empresas empezará a transformarse y adoptar otras formas. Y, por ahora, no está del todo claro cómo protegerlas.
En las organizaciones que cuentan con una arquitectura de seguridad tradicional, ya hay indicios de que esta está llegando al límite de su capacidad. Esto se debe a que fue diseñada y desarrollada para una era anterior a la IA. En la era de la IA, el volumen de información nueva que se genera —desde datos inservibles hasta datos de alta calidad y esenciales para las operaciones— está creciendo de forma exponencial.
Los sistemas que durante las últimas décadas analizaban el tráfico generado por personas ahora tienen que lidiar con el tráfico generado por personas que utilizan IA. Esto ya supone un enorme factor multiplicador. Ahora imaginemos cuando el tráfico sea información generada por agentes. El crecimiento será exponencial.
La infraestructura de seguridad tradicional no está diseñada para esa realidad; tendrá que cambiar radicalmente para mantenerse al día, y más pronto que tarde.
Un vistazo al futuro: agentes atómicos
Hoy en día, un agente necesita un modelo de IA que actúe como su cerebro. Ese cerebro suele estar alojado en algún lugar centralizado, y el entorno de trabajo del agente plantea preguntas al modelo y recibe sus respuestas. Ese es el ciclo: un intercambio continuo entre el agente y el modelo.
Si un agente se descontrola en ese escenario, una organización puede aplicar una sencilla regla de red para impedir que el agente acceda al modelo. En el peor de los casos, se puede desactivar el modelo.
En el futuro, los modelos serán lo bastante pequeños como para no necesitar GPU ni tener que alojarse en salas de servidores o en la nube. El «cerebro» se ejecutará en el mismo lugar que el agente, de modo que este podrá operar de forma eficiente en cualquier entorno y ampliar o reducir su capacidad según sea necesario. Cuando eso ocurra, el riesgo para la seguridad se disparará.
El gran concepto aquí son los agentes atómicos, y hay indicios de que están en camino. BitNet b1.58 2B4T de Microsoft, un modelo de 1 bit que se ejecuta en una CPU, demuestra lo que es posible. Todavía no es lo bastante pequeño ni rápido, y probablemente tampoco lo bastante bueno. Pero, en la era de la IA, ese «todavía» se convierte en realidad muy rápidamente.
Sobre el autor
James White es un ingeniero y líder empresarial de reconocido prestigio, con casi dos décadas de experiencia en el sector del software empresarial.
Más artículos de James WhiteArtículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]