Cargas de trabajo de IA multicloud en AWS: protege y escala APIs para IA

¿Sabías que el 94 % de las organizaciones despliegan aplicaciones en varios entornos, incluidos una combinación de instancias en nube pública, centros de datos privados y sistemas edge? Vivimos en la era híbrida multinube, y tiene sentido al evaluar sus ventajas. En entornos multinube, las empresas no dependen de un solo proveedor y seleccionan los servicios y tipos de instancias que mejor se adaptan a cada carga de trabajo, incluida la IA.

Sin embargo, la IA multicloud presenta desafíos específicos. Para que la IA sea precisa y eficaz, necesita un flujo constante de datos, por lo que tienes que conectar sin fisuras los repositorios de datos entre distintos entornos. Las cargas de trabajo de IA también son muy dinámicas, desde solicitudes sencillas de preguntas y respuestas hasta análisis profundos o creación de contenido que implican un uso desigual de los recursos GPU.

Además, el panorama de las amenazas cibernéticas se ha vuelto más complejo porque la IA se ha convertido en un vector de ataque propio mediante técnicas como la inyección de instrucciones y el jailbreak de modelos. La IA utiliza numerosas conexiones API, también debido a su alta demanda de datos, lo que amplia la superficie de ataque y eleva el riesgo de movimientos laterales iniciados por la IA a través de una red.

Y aún no hemos abordado la dispersión del multicloud. Es evidente que al incorporar más entornos, conexiones y complejidad, se dificulta de manera exponencial gestionar y mantener la visibilidad de todo.

La buena noticia es que existe una guía para enfrentar estos retos, que consiste en combinar los elementos clave de la infraestructura para crear rutas seguras y de alto rendimiento para la IA. Generalmente, la configuración es así:

• Una red troncal de conectividad privada ofrece una opción mejor que utilizar Internet público para enlazar entornos separados. Las redes troncales privadas garantizan una conexión segura y fiable que te protege frente a factores fuera de tu control.
• La gestión inteligente del tráfico usa instrucciones de enrutamiento conscientes de IA para equilibrar de forma más eficiente las cargas entre contenedores y evitar que los valiosos recursos de la GPU se sobreutilicen o queden infrautilizados.
• Los marcos de seguridad unificados aplican las mismas protecciones (cifrado, autenticación, etc.) de forma coherente a través de los límites de la nube. Eso significa que aplicamos las mismas políticas de seguridad y privacidad en todas partes: instancias en la nube pública, servidores privados y sistemas de perímetro.
• Las plataformas de orquestación centralizada integran todo y te ofrecen una visión completa de principio a fin. La plataforma de orquestación ideal también mostrará métricas específicas de IA, como tiempos de carga de modelos y latencia de inferencia, para impulsar tus esfuerzos de optimización.

Al seleccionar estas opciones, accedes al punto óptimo de la IA multicloud, donde puedes mover datos de forma segura y fluida a cualquier lugar necesario para apoyar el entrenamiento, ajuste, inferencia, optimización de modelos y casos de uso avanzados como la generación aumentada por recuperación (RAG).

Sin duda, la forma más rápida de alcanzar tus objetivos de IA multicloud es confiar en soluciones sólidas de proveedores de confianza. Las soluciones de F5 complementan los servicios de AWS que probablemente ya uses—como Amazon Bedrock para modelos de IA gestionados o Amazon SageMaker para desarrollar tu propia IA—y actúan como el vínculo que integra los entornos multicloud en una infraestructura unificada.

• F5 Global Network ofrece conectividad privada, segura y de alto rendimiento entre entornos sin exponerlos a Internet pública. Contamos con múltiples puntos de presencia en todo el mundo para mantener tus datos locales y garantizar respuestas rápidas.
• F5 AI Gateway facilita la gestión inteligente del tráfico con un balanceo de carga avanzado para IA contenerizada. Los controles de seguridad integrados y la validación de entrada y salida protegen tus modelos de IA contra inyecciones y otras tácticas abusivas que pueden causar fugas de datos.
• Los servicios de F5 Distributed Cloud ofrecen visibilidad y control completos, con la capacidad de conectar entornos cloud, edge y locales mediante implementaciones con un solo clic. Con estos servicios, aplicar políticas de TI y gobernanza de datos de forma uniforme en todos los entornos resulta sencillo.

Para los clientes de NetApp, F5 y AWS colaboran con las soluciones de almacenamiento de NetApp, como NetApp BlueXP y NetApp ONTAP, y le ofrecen acceso a todas estas capacidades unificadas de gestión y migración de datos para impulsar y potenciar sus proyectos multinube de IA.

RAG emplea los datos propietarios de una organización para mejorar la precisión del modelo con conocimientos específicos del sector, y se ha convertido en un requisito casi imprescindible para todos los chatbots, salvo los más genéricos. Sin embargo, al utilizar datos propietarios, esta información se vuelve más valiosa y también más vulnerable. F5 Distributed Cloud Network Connect protege esos datos mientras circulan por entornos multicloud híbridos, ofreciendo conectividad segura de capa 3 y compatibilidad con protocolos Amazon S3.

El borde de la red ofrece un gran potencial para potenciar la IA, procesando e interpretando datos cerca de su origen para obtener resultados más rápidos y reducir la latencia. F5 Distributed Cloud Customer Edge facilita la conexión segura de los puntos de borde a modelos centralizados gestionados en Distributed Cloud Services. Esta solución se integra además con AI Gateway, permitiéndote llevar servicios de IA basados en Kubernetes y seguridad al borde, funcionando con servicios de borde como AWS Local Zones y AWS Outposts.