Inteligencia Artificial (IA) y Seguridad de la IA en Producción: Protección de Modelos y Sistemas

Objetivos

Objetivos de la formación en seguridad IA en producción

Al final de esta formación será capaz de:

• Cartografiar el ciclo de vida de un modelo de IA según MITRE ATLAS e identificar las zonas de riesgo
• Implementar controles de acceso y mecanismos de trazabilidad para cada fase del pipeline (datos, entrenamiento, inferencia)
• Detectar y mitigar ataques adversariales (envenenamiento, inversión de modelo, evasión) en producción
• Integrar mecanismos de monitorización continua y de alerta basados en indicadores de compromiso de IA (IoCs-IA)
• Elaborar un plan de respuesta a incidentes de IA incluyendo rollback, reentrenamiento y comunicación a las partes interesadas

Público objetivo de la formación en seguridad IA en producción

Ingenieros de IA / Machine Learning y Data Scientists que trabajan en entornos de producción, arquitectos DevSecOps y responsables de seguridad, operadores de plataformas de IA en Cloud o on-premises, auditores y consultores especializados en la seguridad de sistemas de IA.

Requisitos previos de la formación en seguridad IA en producción

Tener experiencia práctica con un framework de IA (TensorFlow, PyTorch, Scikit-learn) y poseer conocimientos básicos en seguridad de aplicaciones y redes. Estar familiarizado con los conceptos de CI/CD y DevOps.

Duración

Programa

Programa de la formación en seguridad IA en producción

Día 1 – Mañana

Cartografía y controles de acceso

• Introducción a MITRE ATLAS: tácticas y fases (reconocimiento, acceso al pipeline, ataques al modelo)
• Cartografía de un pipeline de IA interno
• Flujos de datos
• Artefactos de modelos
• Puntos de inferencia

Ejemplos de ejercicios prácticos (a título indicativo)

• Modelizar su pipeline de IA e inventariar los activos críticos

Día 1 – Tarde

Cartografía y controles de acceso – Continuación

• Controles de acceso y trazabilidad: gestión de identidades (IAM), separación de los entornos DEV / TRAIN / PROD
• Cifrado de datos y modelos (en reposo y en tránsito)

Ejemplos de ejercicios prácticos (a título indicativo)

• Implementar un mecanismo de auditoría en las llamadas de API de inferencia

Día 2 – Mañana

Ataques adversariales y mitigación

• Ataques por envenenamiento de datos (Data Poisoning) y falsificación de datos (Data Falsification)
• Detección de anomalías en los datos de entrenamiento (estadísticas, métodos basados en ML)

Ejemplos de ejercicios prácticos (a título indicativo)

• Inyectar y detectar un caso simple de envenenamiento de dataset

Día 2 – Tarde

Ataques adversariales y mitigación – Continuación

• Ataques de evasión en la inferencia (Evasion Attacks) y extracción de modelo (Model Extraction)
• Contramedidas
• Defensas por distilación
• Aleatorización
• Evaluación de robustez (FGSM, PGD)

Ejemplos de ejercicios prácticos (a título indicativo)

• Generar ejemplos adversariales y probar la robustez del modelo en producción

Día 3 – Mañana

Monitorización continua y respuesta

• Monitorización de indicadores de compromiso de IA (IoCs-IA): deriva de rendimiento, patrones de solicitudes anómalas
• Implementación de dashboards y alertas (logs de inferencia, métricas de precisión)

Ejemplos de ejercicios prácticos (a título indicativo)

• Configurar un pipeline de monitorización en Grafana / Prometheus para un servicio de IA

Día 3 – Tarde

Monitorización continua y respuesta – Continuación

• Plan de respuesta a incidentes de IA
• Rollback de modelo
• Reentrenamiento seguro
• Comunicación
• Conclusión y recomendaciones para una gobernanza de IA sostenible

Ejemplos de ejercicios prácticos (a título indicativo)

• Ejercicio guiado: simulación de un incidente de compromiso de IA y ejecución del plan de respuesta

Nota: El contenido de este programa puede ser objeto de adaptación en función de los niveles, requisitos previos y necesidades de los participantes.

Metodología

Metodología de la formación en seguridad IA en producción

Formación impartida presencialmente o a distancia (blended learning, e-learning, clase virtual o presencial a distancia).

El formador alterna entre método demostrativo, interrogativo y activo (mediante ejercicios prácticos y/o simulaciones).

Evaluación de los aprendizajes

• A lo largo de la formación: mediante estudios de caso o ejercicios prácticos
• Al final de la formación: mediante un cuestionario de autoevaluación

Bonificación Fundae

Esta formación es bonificable a través de FUNDAE para todas las empresas que cuenten con trabajadores en régimen general de la Seguridad Social y dispongan de crédito formativo. SKOLAE Formación gestiona todo el proceso administrativo necesario para que tu empresa pueda recuperar el importe invertido en la formación, siempre que se cumplan los requisitos legales y de comunicación establecidos por FUNDAE.

Formador

Profesional especializado en seguridad de Inteligencia Artificial (IA) y Machine Learning en entornos de producción.

Cuenta con experiencia en la protección de modelos frente a ataques adversariales, implementación de controles de acceso, monitorización de sistemas IA y gestión de riesgos en pipelines de Machine Learning.

Ha participado en proyectos de seguridad en entornos cloud y on-premises, aplicando metodologías como DevSecOps y frameworks como MITRE ATLAS.

Combina experiencia técnica con enfoque práctico, facilitando la comprensión mediante simulaciones, ejercicios aplicados y escenarios reales de ciberseguridad en IA.

¿Te gustó esta formación? Suscríbete a nuestra Newsletter pinchando aquí. También te animamos a seguirnos en LinkedIn, Instagram y Facebook y así estarás al día de todas nuestras novedades.