Seguridad de la IA: Anticipar y Dominar los Riesgos Emergentes

Objetivos

Objetivos de la formación Seguridad de la IA

Al finalizar la formación será capaz de:

• Identificar y categorizar los riesgos emergentes de la inteligencia artificial de propósito general y definir el concepto de “dilema de la prueba”.
• Evaluar la eficacia y las limitaciones de los métodos actuales de gestión de riesgos.
• Establecer una estructura robusta para una IA segura.
• Implementar una estrategia de IA resiliente.

Duración

Programa

Programa de la formación Seguridad de la IA

Comprensión del panorama de riesgos de la inteligencia artificial de propósito general —GPAI—

Introducción a la seguridad en IA

• Definición y distinción frente a la ciberseguridad y la ética.
• Introducción al concepto de inteligencia artificial de propósito general.

El dilema de la prueba

• Explicación del principal desafío para los decisores: la rápida evolución de las capacidades frente a la aparición lenta de evidencia científica.
• Cómo navegar entre el riesgo de regulación prematura y el riesgo de vulnerabilidad social.

Taxonomía de los riesgos emergentes

• Riesgo de intención maliciosa: utilización deliberada para causar daños.
  • Contenidos generados por IA y criminalidad: estafas, deepfakes, pornografía infantil.
  • Influencia y manipulación: alteración de opiniones, campañas de propaganda y dependencia psicológica.
  • Ciberataques: descubrimiento de vulnerabilidades, generación de código malicioso y automatización de ataques.
  • Riesgos biológicos y químicos: apoyo en la creación de armas y acceso a conocimiento tácito.
• Riesgos de fallo: funcionamiento inesperado y no intencional.
  • Desafíos de fiabilidad: alucinaciones, fallos de razonamiento y vulnerabilidad de agentes de IA.
  • Pérdida de control: escenarios en los que los sistemas operan fuera de cualquier control —engaño, evasión de salvaguardas, “conspiración”—.
• Riesgos sistémicos: impactos a gran escala en la sociedad y la economía.
  • Impactos en el mercado laboral: automatización de tareas cognitivas, efectos en el empleo y los salarios, aumento de desigualdades.

Evaluación de los métodos de gestión de riesgo y sus limitaciones

Desafíos técnicos e institucionales

• Lagunas científicas: falta de previsibilidad, naturaleza de “caja negra” y discrepancia entre evaluación previa a la implementación y rendimiento real —“gap de evaluación”—.
• Asimetrías de información: falta de transparencia por parte de los desarrolladores en relación con los datos de entrenamiento y los procesos internos.
• Desafíos institucionales: ritmo de desarrollo frente a ritmo de gobernanza, competencia entre empresas y fragmentación geopolítica.

Prácticas actuales de gestión de riesgo

• Identificación de riesgos: taxonomías, modelado de amenazas y previsión.
• Análisis y evaluación: benchmarks, red teaming y evaluaciones de capacidades de riesgo.
• Mitigación de riesgos: defensa en profundidad y estrategias de implementación —acceso vía API, implementación gradual—.
• Gobernanza de riesgos: estructuras de seguridad de IA avanzada, compromisos “si-entonces”, notificación de incidentes y transparencia.

Limitaciones de los enfoques actuales

• Falta de normalización.
• Eficacia incierta de las medidas de salvaguarda.
• Dificultad en la evaluación de modelos open source.
• Incapacidad para anticipar “desconocidos desconocidos”.

Formulación e implementación de una estrategia de IA resiliente

Definición de una estrategia de seguridad

• Paso del análisis a la acción: elementos clave.
• Monitorización y evaluación: creación de una unidad de monitorización para seguir las capacidades del modelo —benchmarks— y los incidentes reportados.
• Gobernanza interna: definición de límites de tolerancia al riesgo, asignación de responsabilidades y creación de un comité de seguridad.
• Controles técnicos: implementación de defensa en profundidad —curación de datos, filtrado de contenidos, monitorización de la cadena de razonamiento—.
• Gestión de dependencias: mapeo de riesgos asociados al uso de modelos propietarios —API— o de código abierto.
• Plan de resiliencia: desarrollo de un plan de respuesta a incidentes.

Desafíos futuros

• Gestión de la incertidumbre.
• Adaptación a nuevas capacidades, como los agentes de IA.
• Mantenimiento del equilibrio entre innovación y seguridad.

Metodología

Metodología de la formación Seguridad de la IA

• Formación teórico-práctica orientada a comprender, evaluar y gestionar los riesgos emergentes de la IA.
• Análisis de taxonomías de riesgo vinculadas a la inteligencia artificial de propósito general.
• Estudio de casos y escenarios relacionados con uso malicioso, ciberataques, manipulación, fallos de fiabilidad y riesgos sistémicos.
• Evaluación de métodos actuales de gestión del riesgo, incluyendo red teaming, benchmarks, defensa en profundidad y gobernanza interna.
• Enfoque aplicado para definir estrategias de IA segura, resiliente y responsable en contextos empresariales.

Evaluación de la formación Seguridad de la IA

• Evaluación continua mediante análisis de conceptos, escenarios y casos de riesgo.
• Validación de la capacidad para identificar, categorizar y evaluar riesgos emergentes de la IA.
• Aplicación de los contenidos a la definición de una estrategia de IA segura y resiliente.
• Revisión de criterios de gobernanza, control técnico, monitorización y respuesta ante incidentes.

Bonificación Fundae

Esta formación es bonificable a través de FUNDAE para todas las empresas que cuenten con trabajadores en régimen general de la Seguridad Social y dispongan de crédito formativo. SKOLAE Formación gestiona todo el proceso administrativo necesario para que tu empresa pueda recuperar el importe invertido en la formación, siempre que se cumplan los requisitos legales y de comunicación establecidos por FUNDAE.

Formador

La formación es impartida por un profesional especializado en inteligencia artificial, seguridad de sistemas inteligentes, gestión de riesgos tecnológicos y gobernanza de IA.

Cuenta con experiencia en el análisis de riesgos emergentes asociados a sistemas de IA, evaluación de capacidades, definición de controles técnicos, estrategias de resiliencia y modelos de gobernanza aplicados a entornos empresariales.

Su enfoque combina conocimiento técnico, visión estratégica y competencias pedagógicas para ayudar a los participantes a comprender los riesgos reales de la IA, evaluar sus limitaciones actuales y diseñar estrategias de seguridad responsables, escalables y alineadas con la evolución tecnológica.

¿Te gustó esta formación? Suscríbete a nuestra Newsletter pinchando aquí. También te animamos a seguirnos en LinkedIn, Instagram y Facebook y así estarás al día de todas nuestras novedades.