Protección de API para fábricas de IA: El primer paso hacia la seguridad de la IA

Anteriormente en nuestra serie sobre fábricas de IA, definimos una fábrica de IA como una inversión masiva en almacenamiento, redes y computación que satisface requisitos de inferencia y capacitación de alto volumen y alto rendimiento. Al igual que las plantas de fabricación tradicionales, las fábricas de IA aprovechan modelos de IA previamente entrenados para transformar datos en bruto en inteligencia. Las aplicaciones de IA son simplemente las aplicaciones más modernas entre las modernas, fuertemente conectadas a través de API y altamente distribuidas.

Comenzamos con la premisa de que una aplicación de IA es una aplicación moderna, con los mismos desafíos familiares de entrega, seguridad y operación, y que los modelos de IA aumentarán radicalmente la cantidad de API que necesitan entrega y seguridad. 

Entonces, ¡misión cumplida! Lo tenemos, ¿verdad? Sabemos cómo entregar aplicaciones modernas de forma segura. Contamos con las mejores prácticas de seguridad de aplicação bien establecidas y entendemos las complejidades de proteger las API. Contamos con soluciones que brindan protección integral y seguridad consistente en entornos distribuidos.

¡No tan rápido! Conserve sus GPT mientras profundizamos brevemente en los detalles.

Si bien las aplicaciones de IA comparten los mismos riesgos y desafíos que las aplicaciones modernas (ambas son esencialmente sistemas basados en API), las aplicaciones de IA tienen implicaciones específicas: entrenamiento, ajuste, inferencia, recuperación, generación aumentada (RAG) y puntos de inserción en fábricas de IA.

Entonces sí, las aplicaciones de IA, al igual que las aplicaciones modernas, tienen una naturaleza altamente distribuida, generan una proliferación de herramientas y complican los esfuerzos para mantener una visibilidad consistente, la aplicación uniforme de políticas de seguridad y la remediación universal de amenazas en arquitecturas híbridas y multicloud. Además de lidiar con esta “ bola de fuego ” de riesgo y complejidad, los defensores deben lidiar con la naturaleza aleatoria de las solicitudes humanas y la naturaleza altamente variable del contenido adquirido por IA que puede llevar a respuestas de IA impredecibles, así como consideraciones para la normalización de datos, la tokenización, la incrustación y el llenado de bases de datos vectoriales.

Reunir datos en fábricas de IA crea un ecosistema empresarial holístico y conectado, y la integración y las interfaces entre todas estas partes móviles requieren una postura de seguridad de API sólida.

Proteger las API que son puertas de acceso a las funcionalidades de las aplicação de IA y a los intercambios de datos frente a riesgos de seguridad es crucial. Si bien se aplican las mismas vulnerabilidades, ataques a la lógica empresarial, abuso de bots y riesgos de denegación de servicio (DoS), hay consideraciones adicionales para los puntos de inserción nuevos y modificados dentro de las fábricas de IA y los riesgos para los LLM a través de interfaces de procesamiento del lenguaje natural (NLP), complementos, conectores de datos y servicios posteriores, durante el entrenamiento, el ajuste fino, la inferencia y la RAG. Además, los ataques conocidos como DoS tienen consideraciones adicionales; las mitigaciones para DDoS volumétrico y DoS de aplicação L7 no compensan completamente los riesgos de DoS de modelo . Las aplicaciones de IA también tienen una paradoja de explicabilidad, lo que subraya la importancia de la trazabilidad para ayudar a compensar las alucinaciones, los sesgos y la desinformación.

Y los atacantes no se quedan de brazos cruzados. La IA generativa democratiza los ataques y aumenta la sofisticación de las campañas cibercriminales y de los estados nacionales. Los agentes de LLM ahora pueden hackear aplicaciones web y API de forma autónoma (por ejemplo, realizando tareas tan complejas como la extracción ciega de esquemas de bases de datos e inyecciones SQL sin necesidad de conocer la vulnerabilidad de antemano).

Si bien los nuevos riesgos de la IA están generando mucho revuelo, no se puede exagerar la importancia de la seguridad de las API para las fábricas de IA. Es urgente. El aumento de la superficie de API para aplicaciones de IA es asombroso. Todo CISO debe incorporar la seguridad de las API como parte de los programas de gobernanza de la IA, ya que un mantra central de cualquier guía de supervivencia de un CISO debería ser "no puedes proteger lo que no puedes ver". Si no tiene un inventario de las interfaces detrás de sus aplicaciones de IA, tendrá un modelo de amenaza incompleto y brechas en su postura de seguridad .

Las aplicações de IA son dinámicas, variables e impredecibles. La adopción segura de aplicaciones de IA requiere un mayor énfasis en la eficacia, la creación de políticas sólidas y operaciones automatizadas. Las tecnologías de inspección desempeñarán un papel fundamental y evolutivo en la seguridad.

En particular, para la seguridad de las API dentro de las aplicaciones y los ecosistemas de IA, las organizaciones deberán compensar la mayor probabilidad de un uso inseguro de las API de terceros diseñando la seguridad para las llamadas API salientes y los casos de uso relacionados, además de los controles de seguridad entrantes que ya están implementados. Las soluciones de gestión de bots no pueden depender únicamente de la identificación “humana” o “máquina”, dado el aumento del tráfico entre servicios y de Este a Oeste , por ejemplo, de los flujos de trabajo de RAG. Y dado que la cadena de suministro de aplicações LLM puede ser vulnerable y afectar la integridad de los datos de entrenamiento, los modelos y las plataformas de implementación (que a menudo provienen de terceros y pueden manipularse mediante ataques de manipulación o envenenamiento), los controles de seguridad deben implementarse en todas partes: en el centro de datos, en las nubes, en el borde y desde el código, pasando por las pruebas, hasta la producción.  

La tecnología AI Gateway desempeñará un papel clave para ayudar a los equipos de seguridad y riesgo a mitigar los riesgos para los LLM, como la inyección rápida y la divulgación de información confidencial, pero el primer paso en el recorrido de seguridad de la IA comienza con proteger las API que conectan las aplicaciones de IA y los ecosistemas de IA al hacer que la seguridad sea intrínseca en todo el ciclo de vida de la aplicación de IA.