¿Qué piensa SecOps sobre la inteligencia artificial? Parte 2: Protección de datos

Esto va al núcleo del primer problema: las revelaciones sensibles. Como resumió un experto, “Seamos realistas, todos usan LLM en el trabajo y comparten todo tipo de información sensible en las indicaciones.” A medida que los modelos aumentan su ventana de contexto y se incorporan más tipos de archivos para usar con generación aumentada por recuperación (RAG), los empleados saben que la forma más rápida de obtener un resultado completo es proporcionar al LLM toda la información que pueda necesitar. Esto contradice directamente el principio del mínimo privilegio, un pilar fundamental del enfoque de confianza cero. En pocas palabras, “siempre existe tensión entre seguridad y capacidad.”

Como describe un usuario, las herramientas tradicionales como los firewalls de aplicaciones web (WAF) y el filtrado de DNS solo retrasan lo inevitable:  “Al bloquearlos, en realidad forzas que tus datos terminen en estos servicios gratuitos. Enfrentar las listas negras siempre será un juego de golpear al topo.” Esto destaca uno de los retos más debatidos del último año: la IA en la sombra. Cada día se lanzan nuevos modelos y cada hora actualizan las envolturas de esos modelos. Los usuarios siempre hallarán maneras de esquivar las políticas que perciben como impedimentos para cumplir sus prioridades.

Estas dos preocupaciones principales, la shadow AI y las fugas de datos sensibles, se unen para generar el peor escenario para los equipos de seguridad: una exposición masiva sin ningún tipo de visibilidad. Los usuarios pueden usar LLMs convencionales para ahorrar tiempo de lectura, posiblemente subiendo documentos confidenciales en el proceso. Pero con soluciones de shadow AI, tu equipo de SecOps puede supervisar esas interacciones e implementar diversas opciones para mitigar riesgos. Podrán centrarse en individuos específicos para futuras interacciones o restringirles recursos críticos hasta que modifiquen su conducta. Sin una solución de shadow AI, las contramedidas tradicionales como firewalls y bloqueos DNS solo trasladan a los usuarios a capas desconocidas de los mismos modelos básicos, lo que dificulta ver claramente el tipo, modo y ubicación de comportamientos arriesgados.

Los profesionales de la seguridad han vivido con tecnologías en las que el entusiasmo y la búsqueda de paridad competitiva superaron las consideraciones de seguridad. La computación en la nube siguió un camino parecido al que hoy recorre la IA: adopción rápida y expectativas de grandes posibilidades, seguido por configuraciones erróneas masivas, accesos excesivos y fallos en el modelo de responsabilidad compartida. ¿Te resulta familiar? La diferencia principal es que la nube involucraba a un grupo mucho más reducido de actores capaces de aumentar el riesgo global. La nueva frontera en seguridad de la IA amplía el enfoque inmediato: ya no solo sospechamos de arquitectos e ingenieros de la nube, sino de cualquiera con acceso a datos personales sensibles, incluidos los propios modelos.