La inteligencia artificial tiene el potencial de cambiar nuestras vidas y, de hecho, ya lo ha hecho de manera profunda. Desde acelerar los avances en medicina y educación hasta transformar el trabajo y la vida cotidiana, la IA está cambiando nuestra forma de vivir y desenvolvernos. Pero, junto con estos avances, la IA ofrece grandes oportunidades a los ciberdelincuentes.
Hoy en día, los sistemas de IA son blanco activo de agentes maliciosos que explotan sus vulnerabilidades mediante el envenenamiento de datos, la manipulación de resultados, el robo no autorizado de modelos mediante destilación y la exposición de datos privados. No se trata de riesgos hipotéticos: son reales, evolucionan rápidamente y pueden tener consecuencias económicas devastadoras. Los modelos también se utilizan para mejorar enormemente los ataques por correo electrónico y el fraude por SMS o voz, mientras que las ultrafalsificaciones son cada vez más difíciles de detectar y algunas ya han provocado pérdidas multimillonarias.
“«Para seguir aprovechando las ventajas de la IA, las organizaciones deben abordar su seguridad con la misma urgencia que aplican a las redes, las bases de datos y las aplicaciones».”
Según el Informe sobre el Índice de IA de Stanford de 2025, el número de incidentes de seguridad relacionados con la IA aumentó un 56,4 % en 2024, hasta alcanzar los 233 casos notificados. No se trató de simples fallos o contratiempos técnicos, sino de vulneraciones graves, desde violaciones de la privacidad y la amplificación de la desinformación hasta la manipulación de algoritmos y fallos que pusieron en riesgo decisiones delicadas.
Pero, como siempre, una de nuestras estadísticas favoritas es el tiempo de permanencia, es decir, el tiempo que transcurre entre la brecha de seguridad y su detección. El informe de IBM del primer trimestre de 2025 reveló que las brechas específicas de IA tardan una media de 290 días en detectarse y contenerse, mucho más que la media de 207 días de las brechas de datos tradicionales. Son casi 10 meses de exposición, lo que deja a estos atacantes potenciados por la IA tiempo de sobra para causar graves daños.
Por qué la mayoría de las empresas no están preparadas
Para seguir aprovechando las ventajas de la IA, las organizaciones deben abordar su seguridad con la misma urgencia que aplican a las redes, las bases de datos y las aplicaciones. Sin embargo, el desequilibrio actual entre la adopción y la protección refleja una realidad muy distinta.
Informe de F5 sobre el estado de las aplicaciones de IA en 2025 pone de relieve este aspecto. Solo el 2 % de las organizaciones encuestadas se consideraban altamente seguras y preparadas para ampliar el uso de la IA de forma segura. Mientras tanto, el 77 % se enfrentaba a importantes retos relacionados con la seguridad y la gobernanza de la IA.
El informe también reveló que solo una pequeña parte de las empresas con un nivel de preparación moderado ha implementado medidas de protección básicas. Apenas el 18 % había implantado cortafuegos de IA y solo el 24 % aplicaba un etiquetado continuo de los datos, un método clave para detectar comportamientos maliciosos. A esto se suma el uso creciente de la IA en la sombra: herramientas de IA no autorizadas o no aprobadas que generan peligrosos puntos ciegos en los entornos empresariales.
En la carrera por implantar la IA para obtener una ventaja competitiva, muchas organizaciones están ampliando involuntariamente su superficie de ataque.
Qué hace vulnerable a la IA
Las características únicas de la IA la exponen a nuevas formas de ataque. Algunas de las vulnerabilidades más preocupantes son:
- Envenenamiento de datos: Los atacantes introducen de forma sutil datos corruptos o engañosos en los conjuntos de entrenamiento, lo que compromete el comportamiento de los modelos de IA. En 2024, investigadores de la Universidad de Texas demostraron cómo el contenido malicioso insertado en documentos de referencia podía influir en los resultados de los modelos, incluso después de eliminar dichos documentos.
- Inversión y extracción de modelos: Estos ataques permiten a los adversarios reconstruir datos de entrenamiento confidenciales o replicar modelos propietarios. Entre los casos reales se incluyen la recuperación de imágenes de pacientes a partir de sistemas de diagnóstico y la reconstrucción de grabaciones de voz privadas y textos internos a partir de modelos de lenguaje.
- Ataques de evasión: Al realizar cambios mínimos, a menudo imperceptibles, en los datos de entrada, los atacantes pueden engañar a los modelos de IA para que generen resultados incorrectos. Por ejemplo, unos investigadores consiguieron que el sistema de visión de un vehículo autónomo clasificara erróneamente una señal de stop como una señal de límite de velocidad añadiéndole pegatinas de apariencia inofensiva.
- Inyección de instrucciones: Los modelos de lenguaje de gran tamaño (LLM) son vulnerables a entradas cuidadosamente diseñadas para manipular su comportamiento. En un caso, se engañó a un chatbot basado en ChatGPT y utilizado por concesionarios Chevrolet para que aceptara vender un coche por 1 dólar, lo que puso de manifiesto riesgos tanto reputacionales como legales.
Estas amenazas no son teóricas. Son reales y ya están socavando la seguridad y la fiabilidad de la IA en todos los sectores.
Desarrollar una estrategia sólida de defensa de la IA
Para hacer frente a estos retos, las organizaciones deben adoptar una estrategia de defensa integral que aborde tanto la ciberseguridad general como los riesgos específicos de la IA. Los cinco pasos siguientes pueden ayudar a las empresas a proteger sus sistemas de IA:
- Refuerce la gobernanza de los datos
Elabore un inventario claro de los activos de IA —incluidos los modelos, las API y los conjuntos de datos de entrenamiento— y aplique políticas estrictas de control de acceso. Los datos son la base de la IA y su integridad debe protegerse en todos los niveles. - Realiza pruebas continuas
Ve más allá de las revisiones de código tradicionales e implementa pruebas adversariales y ejercicios de red teaming. Estos métodos ayudan a detectar vulnerabilidades como la inversión de modelos y la inyección de prompts antes de que los atacantes las exploten. - Adopta un diseño que priorice la privacidad
Incorpora técnicas de cifrado, minimización de datos y privacidad diferencial. Estos enfoques limitan el riesgo de exposición de datos sensibles, incluso si se produce una brecha de seguridad. - Adopta una arquitectura de confianza cero
Aplica una filosofía de «nunca confiar, verificar siempre» en todos los sistemas de IA. Concede a cada componente y usuario el acceso mínimo necesario y verifica rigurosamente toda la actividad. - Supervise el comportamiento de la IA en tiempo real
Implemente herramientas y sistemas que detecten anomalías en el comportamiento del modelo o en los patrones de entrada. Preste atención a aspectos como un número excesivo de llamadas a la API, instrucciones sospechosas o resultados anómalos, ya que todos ellos podrían indicar amenazas activas.
El enfoque de F5 sobre la seguridad de la IA
A medida que más organizaciones adoptan entornos híbridos y multinube, F5, a través de nuestra Plataforma de Entrega y Seguridad de Aplicaciones (ADSP), ofrece funcionalidades de seguridad nativas de IA diseñadas para proteger las infraestructuras modernas.
Como parte de esta plataforma, F5 AI Gateway ofrece protección frente a la inyección de instrucciones y la filtración de datos mediante la inspección y el enrutamiento inteligentes de las solicitudes a los LLM. Las soluciones avanzadas de seguridad de API, disponibles a través de F5 Distributed Cloud API Security y NGINX App Protect, protegen las API frente al uso indebido, la exfiltración y el abuso.
También como parte de F5 ADSP, F5 Distributed Cloud Bot Defense utiliza el aprendizaje automático para detectar y bloquear amenazas automatizadas, como el relleno de credenciales, con un mínimo de falsos positivos. Además, las soluciones F5 BIG-IP Advanced WAF protegen las aplicaciones y las API, al tiempo que descargan las tareas de seguridad de las GPU, lo que mejora el rendimiento en cargas de trabajo con un uso intensivo de IA.
Además, la arquitectura de referencia de IA de F5 ofrece un modelo para crear una infraestructura de IA segura y fiable en entornos híbridos y multinube. F5 también colabora con empresas líderes en innovación de IA, como Intel, Red Hat, MinIO y Google Cloud Platform, entre muchas otras, para ayudar a sus clientes a escalar de forma segura y eficiente.
Reflexiones finales: IA segura, futuro seguro
La IA está transformando todos los sectores en los que se introduce, pero su potencial conlleva riesgos sin precedentes. A medida que las amenazas se vuelven más sofisticadas, los responsables de seguridad deben actuar con urgencia y visión de futuro, adoptando herramientas proactivas, arquitecturas más inteligentes y una protección basada en políticas.
La seguridad de la IA debe integrarse en el núcleo mismo de la estrategia empresarial. Con la combinación adecuada de regulación, tecnología y cultura —basada en marcos de eficacia probada, como el Marco de Gestión de Riesgos de la IA del Instituto Nacional de Estándares y Tecnología de Estados Unidos, y respaldada por plataformas como F5 ADSP—, las organizaciones pueden aprovechar todo el potencial de la IA y, al mismo tiempo, protegerse frente a su lado más oscuro.
La frontera de la IA ya está aquí. Es el momento de protegerla.
Asiste a la mesa redonda en Black Hat
Si tiene previsto estar en Las Vegas esta semana para asistir a Black Hat USA 2025, acompáñenos en una mesa redonda con Chuck Herrin, CISO de campo de F5, y otros expertos durante la Cumbre de IA, en la que debatirán cómo reforzar las defensas digitales en la era de la IA.
Además, no deje de visitar nuestra página web para obtener más información sobre las soluciones de F5 para la entrega y la seguridad de la IA empresarial.
Sobre el autor
Artículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.