Tres cosas que debes saber sobre las aplicações de IA
Probablemente hay más de tres cosas que deberías saber, pero comencemos con estas tres y sigamos desde allí, ¿de acuerdo?
Primero, es importante tener en cuenta que la IA es real. Sí, es algo sobrevalorado. Sí, carteras enteras están siendo “lavadas con IA” de la misma manera que todo de repente se convirtió en un producto “en la nube” hace más de una década. Pero es real según la gente que sabe, es decir, los que toman las decisiones en nuestra encuesta más reciente centrada en la IA .
Si bien la mayoría de las organizaciones (69%) están realizando investigaciones sobre tecnología y casos de uso, el 43% dice haber implementado IA a escala. Esto es generativo o predictivo.
Resulta un tanto desconcertante el hallazgo de que el 47 % de quienes ya implementan algún tipo de IA no tienen —ni una sola, ninguna— estrategia definida para la IA. Si algo hemos aprendido de la fiebre por la nube pública, es que lanzarse sin una estrategia traerá problemas en el futuro.
Para ayudarle a definir esa estrategia, especialmente cuando intenta comprender las implicaciones operativas y de seguridad, hemos elaborado una lista de tres cosas que debe tener en cuenta.
1.Las aplicações de IA son aplicações modernas
No debería ser necesario decirlo, pero digámoslo de todos modos. Las aplicações de IA son aplicações modernas. Si bien el núcleo de una aplicação de IA es el modelo, hay muchos otros componentes (servidor de inferencia, fuentes de datos, decodificadores, codificadores, etc.) que conforman una “ aplicação de IA”.
Estos componentes normalmente se implementan como aplicações modernas, es decir, aprovechan Kubernetes y sus construcciones para lograr escalabilidad, programación e incluso seguridad. Debido a que los diferentes componentes tienen diferentes necesidades de recursos (algunas cargas de trabajo se beneficiarán de la aceleración de la GPU y otras solo necesitan CPU tradicionales), la implementación como una aplicação moderna tiene más sentido y permite una mayor flexibilidad para garantizar que cada una de las cargas de trabajo en una aplicação de IA se implemente y escale de manera óptima en función de sus necesidades informáticas específicas.
Lo que esto significa es que las aplicações de IA enfrentan muchos de los mismos desafíos que cualquier otra aplicação moderna. Las lecciones que ha aprendido al escalar y proteger las aplicações modernas existentes le ayudarán a hacer lo mismo con las aplicações de IA.
Conclusión estratégica: Aproveche los conocimientos y las prácticas existentes para la entrega y seguridad de aplicação , pero amplíe estos conocimientos para incluir enfoques que reconozcan que los diferentes componentes de las aplicações de IA pueden tener distintas necesidades de recursos, como la aceleración de GPU para tareas de uso intensivo de recursos de computación o recursos de CPU para cargas de trabajo de menor intensidad de computación. Las implementaciones de aplicação modernas permiten flexibilidad en la asignación de recursos según los requisitos específicos de cada componente, optimizando el rendimiento y la rentabilidad.
2.Las aplicações de IA son diferentes a las aplicações modernas.
Sí, sé que acabo de insistir en que “son aplicações modernas”, pero hay diferencias que impactan en la arquitectura, las operaciones y la seguridad.
En primer lugar, las aplicações de IA intercambian datos no estructurados. Esas indicaciones no tienen requisitos de formato, longitud o tipo de datos, y la adopción entusiasta de LLM multimodales solo aumenta el caos que es una “solicitud”. En el sentido de que la mayoría de aplicações de IA envuelven un mensaje y una respuesta en una carga útil JSON, supongo que se podría decir que está estructurada, pero no lo es porque la carga útil real, bueno, no está definida.
En segundo lugar, las aplicações de IA se comunican casi exclusivamente con un modelo a través de una API. Esto significa que las soluciones de detección de bots que utilizan como criterio de acceso «humano» o «máquina» no serán tan útiles. Los servicios de seguridad que ayudan a distinguir los “bots malos” de los “bots buenos” serán una parte importante de cualquier estrategia de IA. La dependencia de las API también es la razón por la que, en nuestra investigación anual , descubrimos que el principal servicio de seguridad planificado para proteger los modelos de IA es la seguridad de las API.
Por último, los patrones de interacción de las aplicações de IA suelen ser dinámicos, variables e impredecibles. En general, los servicios de seguridad actuales buscan anomalías en las tasas de clics del mouse y de escritura por página, porque los servicios pueden inferir un comportamiento de "bot" basándose en desviaciones de los estándares promedio humanos establecidos. Esto no funciona cuando alguien usa una interfaz conversacional y puede escribir, reescribir y enviar preguntas de manera muy irregular. Dado que muchas soluciones de seguridad actuales se basan en el análisis del comportamiento, incluida la seguridad de API, eso significa que serán necesarios algunos ajustes.
Conclusión estratégica: Necesitará capacidades de seguridad adicionales para gobernar adecuadamente las aplicações de IA. Repensar los enfoques de seguridad tradicionales que pueden no captar adecuadamente los matices de las interacciones conversacionales. Explore enfoques innovadores como el monitoreo en tiempo real de patrones de interacción y mecanismos de control de acceso adaptativos basados en señales contextuales. Reconocer el papel fundamental de las API para facilitar la comunicación con los modelos de IA. Invierta en soluciones de seguridad de API sólidas para protegerse contra acceso no autorizado, violaciones de datos y ataques maliciosos.
3.Diferentes aplicações de IA utilizarán diferentes modelos
Al igual que la realidad final que es la multicloud, es muy poco probable que las organizaciones se estandaricen en un único modelo de IA. Esto se debe a que diferentes modelos pueden ser más adecuados para determinados casos de uso.
Por eso no nos sorprende saber que la empresa promedio ya utiliza casi tres (2,9) modelos distintos, incluidos modelos de código abierto y propietarios. Cuando observamos el uso de modelos basados en casos de uso, empezamos a ver un patrón. Por ejemplo, en casos de uso que dependen en gran medida de ideas o datos corporativos confidenciales (operaciones de seguridad y creación de contenido), vemos tendencias significativas hacia modelos de código abierto. Por otro lado, al observar un caso de uso de automatización, vemos que Microsoft está ganando terreno, en gran medida debido a su capacidad de integrarse con las herramientas y procesos que ya se utilizan en muchas organizaciones.
Es importante comprender esto porque las prácticas, herramientas y tecnologías necesarias para brindar y proteger un modelo de IA administrado por SaaS son diferentes a las de un modelo de IA administrado por la nube y a las de un modelo de IA autogestionado. Si bien existen similitudes, especialmente en materia de seguridad, hay diferencias significativas que deberán abordarse para cada patrón de implementación utilizado.
Conclusión estratégica: Analice los casos de uso dentro de su organización e identifique patrones en la adopción de diferentes modelos de IA. Considere factores como la sensibilidad de los datos, las capacidades de integración y la alineación con las herramientas y procesos existentes. Adapte su enfoque de implementación y seguridad en función de las características específicas de cada patrón de implementación.
Hay muchas consideraciones a tener en cuenta para crear, operar y proteger aplicações de IA, y una de ellas, y no la menos importante, son los nuevos requisitos de seguridad y escalabilidad del modelo. Pero muchas de las lecciones aprendidas en la implementación de aplicações modernas en el núcleo, la nube y el borde durante la última década serán de gran utilidad para las organizaciones. Los desafíos principales siguen siendo los mismos, y aplicar el mismo nivel de rigor para escalar y proteger las aplicações de IA contribuirá en gran medida a una implementación exitosa.
Pero ignorar las diferencias y lanzarse sin al menos una estrategia semiformal para abordar los desafíos de entrega y seguridad seguramente conducirá a una decepción en el futuro.