Recursos de aprendizaje sobre gobernanza y gestión de la IA
La gobernanza de la IA no puede quedarse en un documento de políticas. Una vez que los modelos, las API y los agentes están en producción, las directrices estáticas no bastan. Las instrucciones pueden contener datos sensibles y los agentes pueden recurrir a herramientas no autorizadas. Los reguladores y auditores exigen cada vez más que las organizaciones demuestren que existen controles y que funcionan, ya sea en virtud del Reglamento de Inteligencia Artificial de la UE o conforme a marcos voluntarios como el Marco de Gestión de Riesgos de IA del NIST. Para los CISO, los equipos de SecOps y los responsables de programas de IA, estos recursos ofrecen un punto de partida práctico para equilibrar el despliegue rápido de la IA con la seguridad y el cumplimiento normativo. Abarcan cuatro disciplinas interrelacionadas: la gobernanza de la IA, la gobernanza de los datos, la gobernanza de la seguridad y la gobernanza de la seguridad de la IA, con especial atención al paso de las directrices estáticas al control en tiempo de ejecución. F5 ayuda a proteger los datos que circulan por los flujos de procesamiento de IA, a identificar y controlar el uso de IA no autorizado y a aplicar medidas de protección en las interacciones con la IA, sin convertirse en un cuello de botella para sus aplicaciones.
Estrategia empresarial para aplicaciones de IA
Descubre estrategias para integrar la IA en las operaciones de tu empresa, impulsar la innovación y crear una hoja de ruta estratégica para su adopción.
IA generativa y transformación digital
Descubre cómo la IA generativa está revolucionando la transformación digital en todos los sectores con aplicaciones y tecnologías de vanguardia.
Transparencia de la IA
Descubre la importancia de la transparencia en el uso de sistemas de IA y cómo implementar prácticas que reduzcan los sesgos de la IA y garanticen la rendición de cuentas y la confianza. Además, la transparencia en el análisis de datos con IA permite a las organizaciones aprovechar todo el potencial de sus datos, agilizar los procesos y mejorar la gestión de proyectos.
Colaboración y alianzas de F5 en IA
Descubra cómo F5 colabora con sus socios para impulsar avances en los sistemas de gestión de IA y las plataformas de orquestación con el fin de simplificar la gestión de datos de inferencia.
Preguntas frecuentes
Un marco de gobernanza de la seguridad de la IA define quién es responsable de los riesgos de la IA, qué controles se aplican y cómo se supervisan y verifican. El Marco de Gestión de Riesgos de IA del NIST ofrece directrices de aplicación voluntaria articuladas en torno a cuatro funciones (gobernar, contextualizar, medir y gestionar) y no es certificable. ISO/IEC 42001 es una norma certificable para los sistemas de gestión de la IA. Ambos se complementan en lugar de competir: los equipos pueden utilizar el marco del NIST para orientar sus prácticas e ISO/IEC 42001 para acreditarlas.
Las organizaciones protegen los grandes modelos de lenguaje tratando los prompts y el contenido externo como entradas no fiables y aplicando controles durante el desarrollo y la ejecución. La inyección de prompts encabeza el Top 10 de OWASP para aplicaciones de LLM. Para protegerse frente a ataques adversarios, incluida la inyección de prompts, combine el filtrado y el registro de actividad sobre una base de privilegios mínimos. Un agente que solo puede leer una base de conocimientos no puede acceder a la base de datos de clientes, aunque sí puede filtrar lo que lee. F5 AI Security Platform ofrece un conjunto completo de buenas prácticas de protección de la IA, con F5 AI Guardrails aplicando medidas de protección durante la ejecución mientras F5 AI Red Team realiza pruebas de forma continua.
El Reglamento de Inteligencia Artificial de la UE regula la IA según su nivel de riesgo y, para los equipos de MLOps, su mayor impacto se da en los procesos. Los sistemas de alto riesgo están sujetos a requisitos normativos en materia de gestión de riesgos, gobernanza de datos, documentación, registro de eventos, transparencia para los responsables del despliegue, supervisión humana y niveles adecuados de precisión, solidez y ciberseguridad. El Reglamento pasó a ser de aplicación general en agosto de 2026; las obligaciones relativas a los sistemas de alto riesgo se aplicarán progresivamente a partir de diciembre de 2027 (anexo III) y agosto de 2028 (anexo I). Integre ya estos requisitos en los flujos de trabajo de MLOps.
Las buenas prácticas para auditar los sistemas de IA en materia de sesgos, transparencia y seguridad comienzan por realizar auditorías conforme a un marco o una norma, como NIST AI RMF o ISO/IEC 42001. Los sistemas de IA deben someterse a pruebas antes de su lanzamiento, una vez desplegados y, de nuevo, de forma periódica y después de cada cambio. Compruebe si existen sesgos entre los grupos pertinentes, documente el uso previsto y las limitaciones, y combine las pruebas adversariales con las pruebas convencionales de seguridad de las API. El informe Cost of a Data Breach 2026 de IBM reveló que, incluso entre las organizaciones que cuentan con políticas de gobernanza de la IA, solo el 29 % realiza auditorías periódicas para detectar el uso de IA no autorizada.
La gobernanza de datos en los flujos de procesamiento de IA comienza por clasificar los datos que circulan por ellos. Para los datos en reposo, la gobernanza implica inventariar las fuentes de datos (incluidos los almacenes vectoriales y los registros de prompts), asignar responsables de los datos y establecer plazos de conservación. Para los datos en tránsito, implica inspeccionar los prompts y las respuestas, ocultar los datos sensibles antes de que lleguen a un modelo externo y controlar a qué modelos pueden acceder los usuarios. F5 AI Gateway protege las aplicaciones y los agentes de IA, y F5 Workforce AI Security protege el uso que hacen los empleados de las herramientas de IA; los datos en reposo siguen bajo el control de sus plataformas de datos y de los responsables de su gestión.
La gobernanza de la seguridad marca el rumbo y la gestión de riesgos lo lleva a la práctica. La gobernanza abarca la rendición de cuentas, el apetito de riesgo, las políticas y las garantías, mientras que la gestión de riesgos identifica, evalúa y trata los riesgos dentro de los límites que establece la gobernanza. El Marco de Ciberseguridad 2.0 del NIST hace explícita esta relación mediante su función Gobernar. La IA aumenta la presión sobre ambas, pero el Informe sobre el coste de una filtración de datos de 2026 de IBM reveló que solo el 19 % de las organizaciones con políticas de gobernanza de la IA coordinan a sus equipos de gobernanza y seguridad. Una visibilidad compartida del uso de la IA en tiempo de ejecución ayuda a cerrar esa brecha.