A medida que las expectativas en torno a los agentes de IA se convierten en realidad, organizaciones de todo el mundo están desarrollando casos de uso para que estos agentes trabajen en su seno. Al conectar modelos fundacionales con herramientas y fuentes de datos, y asignarles tareas que puedan completar de forma autónoma, las empresas esperan reducir costes y operar de manera más eficiente.
En primera instancia, los CISO tratan de identificar los equivalentes agénticos de los cortacéspedes y robots de limpieza, que ofrecen una ventaja clara con un nivel de riesgo relativamente bajo. La atención al cliente es un caso de uso inicial evidente y sirve como banco de pruebas para soluciones basadas en IA de empresas como Intercom, Zendesk y ServiceNow, así como para sistemas internos.
Gartner prevé que, para 2029, la IA agéntica resolverá de forma autónoma el 80 % de las incidencias habituales de atención al cliente sin intervención humana, lo que supondrá una reducción del 30 % en los costes operativos. Con cifras así, es solo cuestión de tiempo que los agentes empiecen a encargarse de un volumen considerable de otras tareas empresariales y acaben integrándose en las funciones principales de los productos.
Mientras tanto, dos políticas revisadas de Estados Unidos, relativas al uso de la IA en las agencias federales, ofrecen una perspectiva útil sobre el futuro de la IA. El Memorando M-25-21 de la Oficina de Gestión y Presupuesto (OMB) de la Casa Blanca, publicado el 7 de abril de 2025, afirma: «Las agencias deben centrarse en mejorar la eficacia de sus misiones mediante el uso de la IA, aprovechando sus capacidades actuales para impulsar la innovación responsable en materia de IA, reforzar su talento especializado en IA y en tecnologías que la hacen posible, y mejorar su capacidad para desarrollar y adquirir IA». En las empresas, los objetivos son, sin duda, los mismos.
El memorando exige a todas las agencias federales que mantengan o designen, en un plazo de 60 días, a un responsable de IA con «amplia experiencia en IA» y que publiquen, en un plazo de 180 días, una estrategia para impulsar la IA. También incluye una lista de categorías en las que el uso de la IA como fundamento principal de una decisión o actuación se considera de «alto impacto». A modo de ejemplo, incluye:
- Funciones críticas para la seguridad de infraestructuras o instalaciones gubernamentales, incluidos los servicios de emergencia, la seguridad alimentaria y los sistemas de control del tráfico;
- En el ámbito sanitario, las funciones de los productos sanitarios que sean relevantes desde el punto de vista médico; el diagnóstico o tratamiento de pacientes; el control de los costes de los seguros médicos y la suscripción de pólizas;
- Control del acceso a instalaciones gubernamentales o de su seguridad;
- En el ámbito de las fuerzas de seguridad, elaboración de evaluaciones de riesgos sobre personas; identificación de sospechosos; predicción de delitos; seguimiento de personas y vehículos; aplicación de la identificación biométrica; vigilancia de las redes sociales; detección de armas o actividades violentas; decisiones relacionadas con la detención, la imposición de penas, la libertad condicional o la libertad bajo fianza
- Capacidad para solicitar servicios, trámites y prestaciones federales esenciales, incluidos los préstamos y el acceso a viviendas públicas, o para resolver dichas solicitudes;
- Determinar los términos o las condiciones del empleo federal, incluidos la remuneración o los ascensos, la gestión del rendimiento, la contratación o el despido, o las medidas disciplinarias.
Precaución: agentes trabajando
La lista no exhaustiva sugiere que la Casa Blanca considera estas y otras actividades de gran impacto como casos de uso realistas para la IA. Aunque el memorando no hace referencia específica a los agentes de IA, la mayoría de los casos de uso —como la toma de decisiones sobre el acceso a la vivienda, los préstamos o las prestaciones— implicaría claramente conectar los modelos con otras herramientas y bases de datos que probablemente contengan información sensible y de identificación personal.
Esto supone un problema, ya que se ha demostrado que todos los principales modelos de IA, que actúan como el «cerebro» de los agentes de IA, presentan vulnerabilidades, algo que, en el ámbito empresarial, debe tenerse muy en cuenta al aprovechar la IA para las actividades de negocio. El último informe de OWASP sobre incidentes de seguridad y exploits de IA generativa, por ejemplo, pone de relieve cómo los actores maliciosos eluden las restricciones de los modelos y utilizan la IA para cometer fraudes de phishing y clonación de voz. Si a esto se suman la interconectividad y la interoperabilidad, surgen nuevos vectores de ataque que elevan considerablemente los riesgos de seguridad.
Para agravar el problema, el nivel de amenaza está directamente relacionado con el número de herramientas vinculadas a los agentes. Si un agente tiene acceso a bases de datos, todas las bases de datos de la organización son potencialmente vulnerables; si tiene acceso al correo electrónico y al navegador, el sistema de correo podría llegar a estar conectado a un agente malicioso capaz de intentar acceder sin descanso a la organización mediante phishing. (A diferencia de los atacantes humanos, los agentes nunca se cansan y pueden responder en tiempo real, lo que aumenta su credibilidad.)
Ahora, consideremos el factor de la combinación: un agente que tenga acceso tanto a la base de datos como al correo electrónico podría ser utilizado como arma por un actor malicioso para extraer datos o llevar a cabo un ataque de infiltración, introduciendo nuevos datos en el sistema. Además, existe el riesgo de que personas de la propia organización hagan un uso indebido del agente, ya sea de forma accidental o malintencionada, causando aún más daños, puesto que ya se encuentran dentro de las defensas de la organización.
A medida que los modelos se convierten cada vez más en productos básicos, queda claro que la seguridad, y no el rendimiento, es el principal factor diferenciador a la hora de evaluar sistemas y agentes de IA para el entorno laboral. Un sistema de alto rendimiento que sea vulnerable a ataques o usos indebidos no tiene cabida en un entorno empresarial ni en la Administración federal.
Por su parte, el memorando insta a las agencias federales a implantar una «IA fiable» y aplicar unas prácticas mínimas de gestión de riesgos para la IA de alto impacto. Si la IA de alto impacto no funciona a un nivel adecuado, las agencias deben contar con un plan para interrumpir su uso hasta que se adopten las medidas necesarias para garantizar el cumplimiento. Las empresas que estén considerando el uso de agentes deberían contar con planes similares.
Una nueva respuesta de seguridad
Sin embargo, una gestión eficaz de los riesgos debe comenzar antes de que se produzca el incidente, en lugar de centrarse en sus consecuencias. Comprender la amenaza que representa el agente es el primer paso para hacerle frente. Es fundamental evaluar adecuadamente el nivel de amenaza de cualquier agente: en primer lugar, para determinar si es necesario tomar alguna medida y, en segundo lugar, para decidir con conocimiento de causa cuál es la actuación más adecuada.
Si la respuesta de seguridad es excesiva, puede frenar la innovación; si es insuficiente, no logrará reducir eficazmente la amenaza. Sin embargo, las herramientas tradicionales, como los ejercicios manuales de red teaming, y las métricas poco precisas, como la tasa de éxito de los ataques —que considera que todos los ataques son iguales—, resultan inadecuadas para hacer frente a las amenazas que plantea la IA, dada su capacidad para aprender y adaptarse.
Un nuevo y complejo vector de amenaza exige una nueva respuesta de seguridad. En estas circunstancias, la mejor manera de que las organizaciones refuercen eficazmente su seguridad es comprender adecuadamente el tipo y la complejidad del ataque y adoptar las medidas oportunas.
La mejor forma de lograrlo es combatir el fuego con fuego, utilizando agentes de IA inteligentes y personalizables para simular interacciones adversarias y automatizar las pruebas de seguridad ofensivas de los sistemas de IA antes de su lanzamiento. F5 AI Red Team proporciona a las empresas un equipo de agentes de prueba que permite a los responsables de seguridad cuantificar el nivel de amenaza que plantea la IA y aplicar las medidas correctivas pertinentes.
Además de ofrecer la aproximación más fiel a la actividad del mundo real, el red teaming automatizado reduce el margen de tiempo que tradicionalmente favorece a los atacantes, proporcionando a las empresas la cobertura de seguridad más eficaz en el menor tiempo posible. En F5, hemos desarrollado métricas únicas de puntuación de seguridad: el Índice Integral de Seguridad de la IA (CASI) y la Puntuación de Resistencia Agéntica (ARS), que evalúan la seguridad de los modelos de IA y sirven de base para las clasificaciones de sus respectivos rankings.
Por supuesto, la seguridad nunca es algo que se haga una sola vez, y los agentes no son una excepción. La supervisión continua es fundamental para garantizar que la exposición a las amenazas siga siendo reducida y que se mantenga una postura de seguridad adecuada. A medida que la IA agéntica gana terreno, un enfoque proactivo de la seguridad ofrece la mejor oportunidad para adoptar los agentes de forma segura y acelerar el uso de la IA para los fines previstos.
Sobre el autor
James White es un ingeniero y líder empresarial de reconocido prestigio, con casi dos décadas de experiencia en el sector del software empresarial.
Más artículos de James WhiteArtículos relacionados del blog
El imperativo empresarial de la IA en un mundo de nube híbrida y multinube
Cómo la IA redefine los patrones de tráfico, el riesgo de las API y el cumplimiento normativo, y por qué el paquete Distributed Cloud Services Enterprise ofrece la profundidad necesaria en entornos híbridos multicloud.
STIG de F5 NGINX: un plan de seguridad para el sector público y los entornos regulados
Descubra cómo las STIG de F5 NGINX proporcionan un modelo de seguridad para el Departamento de Defensa de EE. UU. y los entornos regulados, ayudándole a cumplir la normativa mientras crea una infraestructura sólida de confianza cero con mayor visibilidad y resiliencia.
Cómo el marco AEGIS de Forrester valida un enfoque centrado en la inferencia
El auge de la IA agéntica está transformando el panorama de la seguridad empresarial. Estos agentes de IA autodirigidos funcionan de forma autónoma, toman decisiones en tiempo real y pueden interactuar entre distintos sistemas de maneras para las que las arquitecturas tradicionales de ciberseguridad no fueron diseñadas. Aunque esto abre nuevas posibilidades, también introduce riesgos sistémicos: fallos en cascada, secuestro de objetivos y superficies de ataque hasta ahora invisibles. El reciente […] de Forrester
La nueva superficie de riesgo de la IA: invisible, autónoma y ya está dentro
James White, vicepresidente de Ingeniería de F5 A mediados de 2025, es un buen momento para hacer balance de la adopción de la IA en las empresas y del estado de la seguridad de la IA. El uso de la IA generativa ya es habitual en las empresas En general, las empresas cuentan al menos con unos conocimientos básicos sobre la IA generativa. Entienden qué es y dónde puede […]
Protegiendo el futuro: cómo CalypsoAI se alinea con el Top 10 de OWASP para los LLM
Cuando OWASP publicó su Top 10 de 2025 para grandes modelos de lenguaje (LLM), proporcionó al sector un referente de seguridad muy necesario. Pero los referentes no sirven de nada si no se actúa. CalypsoAI aborda el 80 % del Top 10 de OWASP, dando prioridad a los riesgos reales más urgentes. La plataforma combina protección en tiempo real durante la ejecución y pruebas adversariales exhaustivas, ofreciendo una cobertura inigualable frente a las […]
Implementación de LLM en la empresa: mediante una API local
Por sí solos, sin medidas de protección ni protocolos adicionales de seguridad para la IA, el despliegue de modelos de IA generativa —en particular, modelos de lenguaje de gran tamaño (LLM)— en toda la empresa supone una oportunidad de alto riesgo y grandes beneficios para cualquier organización. Sin embargo, determinar exactamente cómo debe dar su organización este gran paso hacia el ámbito de la IA generativa requiere una planificación minuciosa. Quizá […]