Probablemente haya más de tres cosas que deberías saber, pero empecemos por estas tres y, a partir de ahí, seguimos, ¿te parece?
En primer lugar, es importante señalar que la IA es real. Sí, está sobrevalorada. Sí, se está aplicando un «lavado de cara con IA» a carteras enteras, del mismo modo que, hace más de una década, de repente todo se convirtió en un producto «en la nube». Pero es real según quienes saben del tema, es decir, los responsables de la toma de decisiones que participaron en nuestra encuesta más reciente centrada en la IA.
Aunque la mayoría de las organizaciones (69 %) están investigando la tecnología y sus casos de uso, el 43 % afirma haber implementado la IA a gran escala, ya sea generativa o predictiva.
Resulta un tanto desconcertante descubrir que el 47 % de quienes ya están implementando algún tipo de IA no tienen ninguna estrategia definida para la IA. Si algo hemos aprendido de la adopción precipitada de la nube pública, es que lanzarse sin una estrategia acabará causando problemas más adelante.
Para ayudarte a definir esa estrategia —especialmente a la hora de comprender las implicaciones operativas y de seguridad—, hemos elaborado una lista de tres aspectos que deberías tener en cuenta.
1. Las aplicaciones de IA son aplicaciones modernas
No debería hacer falta decirlo, pero digámoslo de todos modos. Las aplicaciones de IA son aplicaciones modernas. Aunque el modelo es el núcleo de una aplicación de IA, hay muchos otros componentes —servidor de inferencia, fuentes de datos, descodificadores, codificadores, etc.— que conforman una «aplicación de IA».
Estos componentes suelen desplegarse como aplicaciones modernas; es decir, aprovechan Kubernetes y sus recursos para ofrecer escalabilidad, planificación e incluso seguridad. Dado que cada componente tiene unas necesidades de recursos diferentes —algunas cargas de trabajo se beneficiarán de la aceleración mediante GPU, mientras que otras solo necesitarán CPU convencionales—, desplegarlos como una aplicación moderna es la opción más lógica y ofrece una mayor flexibilidad para garantizar que cada carga de trabajo de una aplicación de IA se despliegue y escale de forma óptima según sus necesidades informáticas específicas.
Esto significa que las aplicaciones de IA se enfrentan a muchos de los mismos retos que cualquier otra aplicación moderna. Las lecciones que ha aprendido al escalar y proteger las aplicaciones modernas existentes le ayudarán a hacer lo mismo con las aplicaciones de IA.
Conclusión estratégica: Aproveche los conocimientos y las prácticas existentes en materia de entrega y seguridad de aplicaciones, pero amplíelos para incluir enfoques que tengan en cuenta que los distintos componentes de las aplicaciones de IA pueden tener diferentes necesidades de recursos, como aceleración mediante GPU para tareas que requieren un uso intensivo de recursos informáticos o recursos de CPU para cargas de trabajo menos exigentes. Las implementaciones de aplicaciones modernas permiten asignar recursos con flexibilidad en función de los requisitos específicos de cada componente, optimizando así el rendimiento y la rentabilidad.
2. Las aplicaciones de IA son diferentes de las aplicaciones modernas
Sí, sé que acabo de insistir en que «son aplicaciones modernas», pero existen diferencias que afectan a la arquitectura, las operaciones y la seguridad.
En primer lugar, las aplicaciones de IA intercambian datos no estructurados. Esos prompts no tienen requisitos de formato, longitud ni tipo de datos, y la rápida adopción de los LLM multimodales no hace sino aumentar el caos que supone una «solicitud». Dado que la mayoría de las aplicaciones de IA encapsulan un prompt y una respuesta en una carga útil JSON, supongo que podría decirse que está estructurada, pero no es así porque la carga útil real está, bueno, sin definir.
En segundo lugar, las aplicaciones de IA se comunican casi exclusivamente con un modelo a través de una API. Esto significa que las soluciones de detección de bots que utilizan «humano» o «máquina» como criterio básico de acceso no van a resultar tan útiles. Los servicios de seguridad que ayudan a distinguir los «bots maliciosos» de los «bots legítimos» serán una parte importante de cualquier estrategia de IA. Esta dependencia de las API también explica por qué, en nuestro estudio anual, descubrimos que el principal servicio de seguridad previsto para proteger los modelos de IA es la seguridad de las API.
Por último, los patrones de interacción de las aplicaciones de IA suelen ser dinámicos, variables e impredecibles. Por lo general, los servicios de seguridad actuales buscan anomalías en la frecuencia de los clics del ratón y de la escritura en cada página, ya que pueden inferir un comportamiento de «bot» a partir de desviaciones respecto a los valores medios establecidos para las personas. Esto no funciona cuando alguien utiliza una interfaz conversacional y puede escribir, reescribir y enviar preguntas con una frecuencia muy irregular. Dado que muchas soluciones de seguridad actuales se basan en el análisis del comportamiento —incluida la seguridad de las API—, será necesario realizar algunos ajustes.
Conclusión estratégica: Necesitará capacidades de seguridad adicionales para gestionar adecuadamente las aplicaciones de IA. Replantee los enfoques de seguridad tradicionales, ya que podrían no captar debidamente los matices de las interacciones conversacionales. Explore enfoques innovadores, como la supervisión en tiempo real de los patrones de interacción y los mecanismos adaptativos de control de acceso basados en indicios contextuales. Reconozca el papel fundamental de las API para facilitar la comunicación con los modelos de IA. Invierta en soluciones sólidas de seguridad de API para protegerse frente a accesos no autorizados, filtraciones de datos y ataques maliciosos.
3. Las distintas aplicaciones de IA utilizarán modelos diferentes
Al igual que ha ocurrido con la multinube, es muy poco probable que las organizaciones se estandaricen en torno a un único modelo de IA. Esto se debe a que distintos modelos pueden ser más adecuados para determinados casos de uso.
Por eso no nos sorprende saber que la empresa media ya utiliza casi tres modelos distintos (2,9), incluidos modelos de código abierto y propietarios. Al analizar el uso de los modelos según los casos de uso, empezamos a observar un patrón. Por ejemplo, en los casos de uso que dependen en gran medida de datos corporativos confidenciales o de ideas —operaciones de seguridad y creación de contenidos—, observamos una clara tendencia hacia los modelos de código abierto. Por otro lado, en el caso de la automatización, vemos que el uso de Microsoft está aumentando, en gran medida gracias a su capacidad para integrarse con las herramientas y los procesos que ya utilizan muchas organizaciones.
Es importante entenderlo porque las prácticas, herramientas y tecnologías necesarias para proporcionar y proteger un modelo de IA gestionado mediante SaaS son distintas de las que requiere un modelo de IA gestionado en la nube y, a su vez, de las que necesita un modelo de IA autogestionado. Aunque sin duda existen similitudes —especialmente en materia de seguridad—, hay diferencias significativas que deberán abordarse en cada patrón de despliegue utilizado.
Conclusión estratégica: Analice los casos de uso de su organización e identifique patrones en la adopción de distintos modelos de IA. Tenga en cuenta factores como la sensibilidad de los datos, las capacidades de integración y la compatibilidad con las herramientas y los procesos existentes. Adapte su enfoque de despliegue y seguridad a las características específicas de cada patrón de despliegue.
Hay muchos aspectos que deben tenerse en cuenta a la hora de crear, operar y proteger aplicaciones de IA, entre ellos todos los nuevos requisitos de seguridad y escalabilidad de los modelos. Sin embargo, muchas de las lecciones aprendidas durante la última década al implementar aplicaciones modernas en entornos de núcleo, nube y perímetro resultarán muy útiles para las organizaciones. Los principales retos siguen siendo los mismos, y aplicar el mismo nivel de rigor al escalado y la protección de las aplicaciones de IA contribuirá en gran medida al éxito de la implementación.
Pero pasar por alto las diferencias y lanzarse sin contar al menos con una estrategia semiformaI para abordar los retos de implementación y seguridad acabará provocando decepciones más adelante.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Proteger los endpoints de las API dificulta la seguridad de las API
Descubre las complejidades de la seguridad de las API, los retos a los que se enfrentan las organizaciones, la evolución de los ataques contra endpoints de API y la necesidad de políticas de seguridad adaptadas.
¿Qué es el sesgo de la IA y por qué es importante para TI?
Descubre los fundamentos del aprendizaje de la IA. Aprende cómo pueden surgir sesgos en la IA y qué riesgos plantean para las TI y la transformación digital.
Redefiniendo la ciberseguridad en el extremo de la nube distribuida con IA y telemetría en tiempo real
La transformación digital y la adopción de tecnologías en la nube están provocando cambios en las arquitecturas de las aplicaciones. Estos cambios introducen nuevas superficies de ataque, que son el objetivo de métodos de ataque avanzados, altamente organizados y con motivaciones económicas. Mediante el uso del framework Morpheus de NVIDIA, F5 está investigando técnicas para detectar estas amenazas avanzadas con telemetría en tiempo real y análisis basados en IA.
El papel de la nube en las aplicaciones nativas del edge
No debería sorprender que, al igual que la aparición de la nube dio lugar a las aplicaciones nativas de la nube, el edge esté impulsando un conjunto de aplicaciones nativas del edge. Sin embargo, estas aplicaciones no residirán únicamente en el edge. Al mismo tiempo, están surgiendo nuevos patrones arquitectónicos que aprovechan las aplicaciones alojadas en la nube y en el centro de datos.
La creciente diversidad de ubicaciones y usuarios está impulsando a las empresas hacia el edge
En el contexto del ámbito de las aplicaciones, el término «usuario» siempre se ha referido a la entidad que interactúa con una aplicación. Del mismo modo que los cambios en las arquitecturas de las aplicaciones impulsan cambios en las tecnologías que permiten ofrecerlas y protegerlas, los cambios en la definición de usuario han provocado cambios en los lugares donde se despliegan las aplicaciones.
El edge está impulsando un renacimiento de las infraestructuras
A medida que las organizaciones aumentan la generación de datos y tratan de extraer valor empresarial de ellos, sin duda recurrirán a la analítica y la automatización basadas en la IA y el aprendizaje automático. Precisamente este tipo de cargas de trabajo son las que más se beneficiarían de una infraestructura optimizada y, sin embargo, hoy en día son las que menos probabilidades tienen de poder aprovecharla.