A medida que cada vez más organizaciones apuestan por la IA, dependen en mayor medida de las API para conectar los modelos de IA con aplicaciones y datos destinados al entrenamiento y la inferencia. Sin embargo, cuantas más conexiones mediante API haya, mayor será el riesgo. Los actores maliciosos pueden aprovechar las API para extraer datos, eludir las restricciones de los modelos de IA e incluso robar los propios modelos.
Una sola aplicación de IA puede tener cientos de endpoints de API que resultan difíciles de supervisar para los equipos de seguridad, y las configuraciones son cada vez más complejas. Según Gartner, más del 30 % del aumento de la demanda de API procederá de la IA y de las herramientas que utilizan modelos de lenguaje de gran tamaño (LLM) de aquí a 2026.1
No descuide la infraestructura de seguridad de las API utilizadas para la IA. Estas API requieren una diligencia debida adicional para ayudarle a protegerse, tanto a usted como a sus inversiones en IA, frente a vulnerabilidades avanzadas, además de medidas específicas de supervisión y autenticación.
Por qué necesitas una seguridad sólida para las API
Sin seguridad para las API, tus modelos de IA se enfrentan a numerosas amenazas, como las inyecciones de prompts, la extracción de modelos o el caos absoluto de las API en la sombra, es decir, API que escapan a tu visibilidad y control. Las API en la sombra suelen surgir cuando miembros del equipo con buenas intenciones crean nuevos endpoints de API sin la debida supervisión de seguridad, lo que genera puntos ciegos que dificultan saber quién o qué accede a cada modelo de IA.
“Sin seguridad de las API, tus modelos de IA se enfrentan a numerosas amenazas, como las inyecciones de prompts, la extracción de modelos o el caos absoluto de las API en la sombra.”
También debes tener en cuenta que, sin las medidas de protección adecuadas, los endpoints de las API pueden filtrar información de identificación personal (PII) o propiedad intelectual durante las interacciones y revelar más de lo previsto a partir de prompts aparentemente inocentes. Si las API no cuentan con limitación de solicitudes, también pueden verse saturadas y quedar expuestas a ataques de denegación de servicio (DoS), lo que puede provocar una degradación del servicio y elevados costes de computación.
Cinco elementos clave que buscar en la seguridad de las API
Proteger sus modelos y aplicaciones de IA requiere un enfoque integral de la seguridad de las API que abarque el descubrimiento, la autenticación y el mayor riesgo que plantean las amenazas específicas de la IA. Conviene priorizar las siguientes capacidades:
- La detección continua supervisa la aparición de nuevos endpoints de API que se conecten a servicios de IA, lo que permite obtener visibilidad en tiempo real.
- Los controles de acceso garantizan que los nuevos endpoints de API sigan el proceso de autenticación establecido y apliquen el principio de mínimo privilegio, sin conceder más acceso del necesario.
- Validación de entradas y salidas comprueba todos los datos que se envían a los modelos de IA y se reciben de ellos para impedir la entrada de instrucciones maliciosas o la salida de datos confidenciales.
- La limitación de solicitudes establece umbrales para las llamadas a la API, lo que evita que los sistemas se sobrecarguen, como ocurre en un ataque de denegación de servicio (DoS).
- Detección de anomalías, al igual que en cualquier software de monitorización, comprueba si hay comportamientos sospechosos en los patrones habituales de tráfico.
Cómo habilitar una protección integral de la IA en AWS
El éxito de la IA depende tanto del desarrollo como de la seguridad. Servicios como Amazon Bedrock, Amazon SageMaker y Amazon CodeWhisperer permiten utilizar modelos fundacionales populares o crear y escalar modelos propios mediante el desarrollo asistido por IA. F5 complementa estos servicios de AWS con un conjunto de soluciones que proporciona una seguridad esencial para las API e integra las cinco capacidades analizadas en la sección anterior.
La primera solución que debería considerar es F5 Distributed Cloud API Security, que identifica y mapea automáticamente nuevos endpoints de API, incluso si se crearon mediante TI en la sombra. Esto proporciona una mayor visibilidad, lo que facilita la aplicación de políticas de seguridad y la protección de las API frente a usos indebidos, filtraciones de datos y accesos no autorizados.
A continuación, F5 Managed Rules for AWS WAF es una colección de conjuntos de reglas preconfigurados disponibles en AWS Marketplace y diseñados para integrarse con AWS WAF. Estos conjuntos de reglas específicos para API proporcionan una capa de defensa adicional y los expertos en seguridad de F5 los actualizan continuamente para hacer frente a las amenazas más recientes.
Ambas soluciones ayudan a impedir el acceso no autorizado a los modelos, proteger sus datos confidenciales y su propiedad intelectual, y garantizar que la IA siga estando disponible para usos legítimos, ya sea por parte de personas o de entidades automatizadas.
Innova más rápido con mayor confianza y control
En lo que respecta a sus iniciativas de IA, AWS proporciona la base y F5 aporta la seguridad. Las soluciones de F5 se integran con el pipeline de CI/CD, lo que permite a sus equipos avanzar con rapidez y, al mismo tiempo, obtener la protección que necesitan. Reduzca su preocupación por amenazas como la inyección de prompts y la manipulación de modelos, o por la posibilidad de que la IA revele datos confidenciales.
Estas soluciones son fáciles de implementar en la nube de AWS y mejoran la visibilidad de su infraestructura, lo que le permite abordar las prácticas de TI en la sombra antes de que se descontrolen. Juntos, AWS y F5 le ayudan a desenvolverse en la creciente complejidad de la IA para que pueda añadir todas las fuentes de datos y API que necesite para alcanzar sus objetivos.
Más información en F5 en Amazon Web Services (AWS).
También puedes leer mi anterior entrada del blog, «Crea canalizaciones de datos rápidas y seguras para entrenar IA en AWS».
GARTNER es una marca comercial y de servicio registrada de Gartner, Inc. y/o sus filiales en Estados Unidos y a nivel internacional, y se utiliza en el presente documento con autorización. Todos los derechos reservados.
1Gartner, «Gartner predice que, para 2026, más del 30 % del aumento de la demanda de API procederá de la IA y de herramientas que utilizan modelos de lenguaje de gran tamaño», 20 de marzo de 2024
Sobre el autor
Artículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.