Duración
8 meses
Fecha de Inicio
16-09-2026
Modalidad
online
Dificultad
Avanzado
Precio
842 €
El Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA es un programa de formación avanzada diseñado para profesionales de la ciberseguridad, ingenieros de machine learning, arquitectos de sistemas de IA, red teamers, analistas de riesgos tecnológicos y responsables de seguridad que quieren dominar el campo emergente y de altísima demanda de la seguridad adversarial de modelos de IA: la disciplina que estudia cómo atacar, manipular, extraer, engañar y comprometer los sistemas de inteligencia artificial —y cómo defenderlos con las técnicas más avanzadas que el estado del arte de la investigación en seguridad de ML ofrece.
A lo largo del diplomado trabajarás con herramientas como la Adversarial Robustness Toolbox (ART) de IBM, Foolbox y Cleverhans para la generación y evaluación de ejemplos adversariales contra modelos de clasificación y detección de objetos, Garak y Promptmap para el red-teaming automatizado de modelos de lenguaje de gran escala —LLMs—, frameworks de privacidad diferencial con TensorFlow Privacy y Opacus para la defensa contra ataques de inferencia de membresía, herramientas de evaluación de fugas de información de los datos de entrenamiento, y los marcos regulatorios y de gobernanza de IA más relevantes —EU AI Act, NIST AI RMF, ISO/IEC 42001— para la gestión del riesgo de seguridad de sistemas de IA en entornos críticos. El diplomado combina la profundidad técnica del campo de la seguridad adversarial con la perspectiva práctica de quien debe implementar defensas en sistemas de IA que ya están en producción.
Los modelos de inteligencia artificial están tomando decisiones críticas en sistemas financieros, sanitarios, de seguridad pública, de control de infraestructuras y de defensa nacional. Y esos modelos son vulnerables de formas que ningún framework de ciberseguridad convencional contempla. Un atacante puede engañar a un sistema de detección de malware basado en IA con una modificación imperceptible del archivo malicioso —ataque de evasión—; puede corromper el modelo de IA que filtra el spam de una plataforma de correo electrónico inyectando ejemplos envenenados en su proceso de entrenamiento continuo —ataque de envenenamiento—; puede reconstruir datos de entrenamiento privados a partir de las respuestas de un modelo de lenguaje expuesto a través de una API —ataque de extracción de datos—; puede robar la funcionalidad de un modelo de IA propietario enviando consultas estratégicas y reconstruyendo el modelo con las respuestas —ataque de extracción de modelo—. Ninguna de estas amenazas existía hace diez años en los roadmaps de seguridad de las organizaciones; todas ellas son hoy vectores de ataque activos que afectan a sistemas de IA en producción.
El diplomado existe para que los profesionales de la seguridad y el machine learning que trabajan en organizaciones que despliegan sistemas de IA —o que los auditan y evalúan— desarrollen las competencias técnicas necesarias para entender estos ataques desde dentro, reproducirlos en entornos controlados, diseñar las defensas adecuadas para cada caso de uso y escenario de amenaza, e integrar la seguridad adversarial en el ciclo de vida completo del desarrollo y despliegue de los modelos de IA de su organización. La seguridad de los modelos de IA no es una capa que se añade al final del proceso de desarrollo: es una práctica que debe integrarse desde el diseño del dataset hasta el monitoreo del modelo en producción.
El Diplomado en Seguridad de Modelos de Inteligencia Artificial te prepara para ser el especialista que las organizaciones más avanzadas en el despliegue de IA necesitan hoy y necesitarán con urgencia creciente en los próximos años: el profesional capaz de pensar como un atacante de sistemas de IA, implementar las defensas más eficaces contra los ataques conocidos y emergentes, y construir los procesos de evaluación de seguridad que convierten el red-teaming de modelos en una práctica sistemática y repetible.
Desarrollarás la capacidad de generar y evaluar ejemplos adversariales contra modelos de clasificación de imágenes, sistemas de detección de objetos y modelos de procesamiento de lenguaje natural usando los ataques más documentados del campo —FGSM, PGD, Carlini-Wagner, DeepFool, AutoAttack—, analizando el espacio de robustez del modelo bajo evaluación y cuantificando su vulnerabilidad con métricas estándar, diseñar y ejecutar ataques de envenenamiento contra pipelines de entrenamiento continuo: la modificación de los datos de entrenamiento para introducir backdoors en el modelo —ataques de troyano— o para degradar su rendimiento en subpoblaciones específicas, con análisis forense de los modelos comprometidos, implementar defensas robustas contra cada clase de ataque: adversarial training con PGD, detección de ejemplos adversariales con clasificadores de perturbación, suavizado aleatório certificado —randomized smoothing— para la certificación formal de robustez, y privacidad diferencial durante el entrenamiento para la protección contra ataques de inferencia, auditar la seguridad de LLMs en producción.
admisiones@academiaia.ai +34 967 79 32 85
Av Marqués del Turia 14 Valencia
Accede al diplomado desde cualquier lugar y actualiza tus competencias en seguridad de IA sin parar.
Aprenderás a atacar y defender modelos de IA con las técnicas más avanzadas del campo.
Trabajarás con ART, Foolbox, Garak y los frameworks de red-teaming más usados en la industria.
La excelencia formativa define cada programa de Academia IA. Nuestro compromiso es ofrecer una experiencia de aprendizaje que combine rigor técnico con aplicabilidad inmediata, preparando profesionales capaces de generar impacto real desde el primer día.
Nuestros programas están diseñados por profesionales que trabajan en empresas del sector de inteligencia artificial. Compartimos las técnicas y herramientas que utilizamos en proyectos reales.
Al unirte a Academia IA accedes a más de 400 profesionales en Skool. Un espacio donde resolver dudas, compartir proyectos y seguir aprendiendo más allá del temario oficial.
( +34 ) 967 79 32 85
El Diplomado en Seguridad de Modelos de Inteligencia Artificial te posiciona en la intersección de las dos disciplinas de mayor crecimiento en el mercado de la tecnología: la inteligencia artificial y la ciberseguridad. Los especialistas en seguridad adversarial de modelos de IA son hoy uno de los perfiles más escasos y mejor retribuidos del sector tecnológico global, con demanda activa de los grandes laboratorios de IA, las empresas de servicios financieros, las compañías de defensa y seguridad nacional, y las firmas de consultoría de ciberseguridad que están construyendo sus prácticas de AI security.
Competencia técnica en el campo de mayor urgencia para las organizaciones que despliegan IA en producción: Las organizaciones que ya operan sistemas de IA en entornos críticos —detección de fraude, crédito automatizado, sistemas médicos de apoyo a la decisión, control de acceso biométrico— están tomando conciencia de que sus modelos de IA son activos con superficies de ataque propias que sus frameworks de seguridad convencionales no cubren. El Grupo de Trabajo de Seguridad de IA de la UE estima que más del 70% de los sistemas de IA en producción no han sido evaluados contra ataques adversariales básicos. Los profesionales que salen del Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA son los que pueden realizar esas evaluaciones y diseñar los planes de remediación que los sistemas requieren.
Cumplimiento regulatorio anticipado ante los requisitos del EU AI Act: El Reglamento Europeo de Inteligencia Artificial —EU AI Act— que entró en vigor en 2024 establece requisitos explícitos de robustez técnica, seguridad y evaluación de riesgos para los sistemas de IA de alto riesgo, con sanciones de hasta el 3% de la facturación global anual por incumplimiento. Los requisitos del EU AI Act sobre evaluación de la robustez de los sistemas de IA ante manipulación adversarial son directamente los que el diplomado enseña a cumplir: los alumnos que completan el programa salen con la capacidad técnica y el conocimiento regulatorio necesarios para liderar la estrategia de cumplimiento de IA Act de su organización en lo que respecta a la seguridad y robustez de los sistemas.
Portfolio de proyectos de seguridad adversarial de nivel investigación-industria: El Proyecto Final del Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA produce un informe completo de evaluación de seguridad adversarial de un modelo de IA real —incluyendo el diseño del threat model, la ejecución de los ataques, la evaluación de las defensas y el plan de remediación— que el alumno puede publicar como investigación aplicada y presentar como evidencia de competencia técnica de nivel senior en entrevistas con equipos de AI security de los mejores empleadores del sector.
La seguridad de los modelos de inteligencia artificial ha pasado de ser un tema de investigación académica a ser una urgencia operativa de primer orden en el plazo de cinco años. En 2019, los ataques adversariales eran principalmente un campo de estudio teórico; en 2024, los informes de MITRE ATLAS —el framework de tácticas y técnicas de ataque a sistemas de ML— documentan más de cien casos reales de ataques adversariales exitosos contra sistemas de IA en producción, incluyendo sistemas de reconocimiento facial, modelos de detección de malware, sistemas de moderación de contenido y modelos de procesamiento de documentos financieros. La pregunta ya no es si los sistemas de IA son atacables: es si las organizaciones que los despliegan tienen los profesionales capaces de evaluar y mitigar esa superficie de ataque.
El auge de los LLMs como el mayor cambio en la superficie de ataque de la IA en la historia del campo: La adopción masiva de los modelos de lenguaje de gran escala —GPT-4, Claude, Gemini, Llama— en aplicaciones empresariales ha creado una superficie de ataque completamente nueva que ninguna disciplina de seguridad había conceptualizado antes. El prompt injection —la capacidad de un atacante de inyectar instrucciones maliciosas a través del texto que procesa el LLM— es un vector de ataque sin equivalente en la seguridad de software convencional, y tiene consecuencias que van desde la elusión de los guardarraíles de seguridad del modelo hasta la exfiltración de datos del sistema prompt, la manipulación de las acciones que el modelo toma a través de sus herramientas externas —ataques de indirect prompt injection en sistemas agentic—, y la generación de desinformación que explota la confianza del usuario en el sistema. El OWASP LLM Top Ten —el equivalente para LLMs del clásico OWASP Top Ten de seguridad web— ha codificado las principales vulnerabilidades de los LLMs en producción, y el diplomado las trabaja todas en profundidad técnica.
La privacidad diferencial y la protección de datos de entrenamiento como requisito regulatorio: Los modelos de IA entrenados sobre datos personales pueden retener y revelar información privada de los individuos que formaron parte del dataset de entrenamiento, a través de ataques de inferencia de membresía —determinar si un individuo específico estaba en el conjunto de entrenamiento— y ataques de extracción de datos —recuperar fragmentos de texto verbatim del dataset de entrenamiento a partir de las respuestas del modelo—. Estos vectores de ataque son directamente relevantes para el cumplimiento del GDPR y del EU AI Act, y la privacidad diferencial es la única técnica que ofrece garantías matemáticas formales de protección frente a ellos. El diplomado te capacita para implementar privacidad diferencial durante el entrenamiento y para evaluar el riesgo de fuga de información de los modelos de IA de tu organización.
El plan de estudio del Diplomado en Seguridad de Modelos de Inteligencia Artificial está organizado en una progresión que va desde los fundamentos de la seguridad adversarial de modelos hasta las técnicas de defensa más avanzadas y la construcción de programas de red-teaming institucionales, con un enfoque de laboratorio práctico en cada bloque.
La primera fase establece los fundamentos del adversarial machine learning: el modelo de amenaza de los sistemas de IA, la taxonomía de ataques del MITRE ATLAS, las propiedades de robustez de los modelos de ML —robustez empírica, robustez certificada, robustez semántica—, y los primeros experimentos con ejemplos adversariales sobre modelos de clasificación de imágenes con la ART. A continuación, el programa cubre los ataques de evasión en profundidad: ataques de caja blanca —FGSM, PGD, C&W, AutoAttack— con acceso completo al modelo, ataques de caja negra —ZOO, HopSkipJump, transferabilidad de ejemplos adversariales— sin acceso al gradiente, y ataques de caja gris en escenarios de API pública. Incluye un laboratorio completo de evaluación de la robustez de modelos de visión artificial y NLP.
El tercer bloque cubre los ataques de envenenamiento y backdoor: ataques de troyano con diferentes estrategias de activación del backdoor, ataques de degradación de rendimiento focalizada y defensa con técnicas de detección de datos envenenados —Neural Cleanse, STRIP, Spectral Signatures—. El cuarto bloque trabaja los ataques de privacidad: inferencia de membresía con modelos de sombra, extracción de datos de entrenamiento de LLMs, y defensa con privacidad diferencial durante el entrenamiento con TensorFlow Privacy y Opacus. El quinto bloque cubre la seguridad específica de LLMs: prompt injection directa e indirecta, jailbreaking avanzado, red-teaming de LLMs con Garak, y diseño de guardarraíles robustos. El sexto bloque construye el programa de red-teaming de IA completo y la integración con marcos regulatorios. El programa culmina con el Proyecto Final.
Aprovecha todos nuestros recursos en cualquiera de nuestras formaciones.
El Proyecto Final del Diplomado en Seguridad de Modelos de Inteligencia Artificial consiste en la realización de una evaluación completa de seguridad adversarial de un modelo de IA seleccionado por el alumno —propio, de su organización o un modelo público de referencia—, produciendo un informe técnico de nivel profesional con el threat model, los ataques ejecutados, las defensas evaluadas y el plan de remediación.
El proyecto incluye el diseño del threat model: identificación del sistema de IA objetivo, sus capacidades y su contexto de despliegue, los activos que protege, los atacantes potenciales y sus capacidades, y los vectores de ataque más relevantes para ese contexto de uso específico, la ejecución de ataques en entorno controlado: implementación y ejecución de al menos dos tipos de ataque relevantes para el modelo elegido —evasión, envenenamiento, extracción de modelo, inferencia de membresía, prompt injection— usando las herramientas del diplomado, con documentación del proceso, los resultados cuantitativos y los casos de ejemplo más ilustrativos, la evaluación de las defensas existentes: análisis de los mecanismos de defensa actualmente implementados en el sistema de IA objetivo —si existen— y evaluación de su eficacia real frente a los ataques ejecutados, con identificación de las brechas de protección más críticas, la propuesta de remediación: diseño del conjunto de defensas recomendadas para el sistema evaluado, con priorización según el nivel de riesgo de cada vulnerabilidad identificada, estimación del impacto en el rendimiento del modelo de cada defensa propuesta, y plan de implementación con hitos y responsables, y el informe de red-teaming: documento técnico completo con la metodología, los hallazgos, las evidencias de los ataques ejecutados y las recomendaciones, en el formato de los informes de penetration testing que los equipos de seguridad y los reguladores reconocen y esperan.
No te quedes con ninguna duda y revisa todas nuestras preguntas frecuentes!
Academia IA
El Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA está diseñado para profesionales con conocimientos intermedios de machine learning —capacidad de entender la arquitectura básica de redes neuronales, la función de pérdida, el proceso de entrenamiento por gradiente descendente y las métricas de evaluación de modelos— o con una sólida base en ciberseguridad y motivación para desarrollar los conocimientos de ML necesarios. El diplomado incluye un módulo de nivelación de ML aplicado a la seguridad adversarial que cubre los conceptos técnicos necesarios para entender los ataques y las defensas sin asumir experiencia previa en deep learning avanzado. Los alumnos con perfil de ML sin experiencia en seguridad y los alumnos con perfil de seguridad sin experiencia en ML pueden completar el diplomado y el Proyecto Final con el apoyo del equipo docente, pero se recomienda completar el itinerario de prerrequisitos que Academia IA publica antes del inicio del programa.
La ejecución de ataques adversariales contra sistemas de IA sin autorización del propietario del sistema es una actividad ilegal en la mayoría de las jurisdicciones, con las mismas implicaciones legales que cualquier otro tipo de ataque informático no autorizado. El Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA aborda este aspecto de forma explícita y responsable: todos los ejercicios de ataque se realizan contra modelos y entornos controlados proporcionados por el curso —modelos entrenados específicamente para el laboratorio, entornos sandbox aislados— o contra modelos públicos en condiciones que sus licencias de uso permiten explícitamente. El módulo de ética y legalidad del red-teaming de IA cubre el marco legal aplicable, los requisitos de autorización, la coordinación de divulgación responsable de vulnerabilidades y las mejores prácticas de la comunidad de investigación en seguridad adversarial para garantizar que los alumnos ejercen su competencia técnica dentro de un marco legal y ético sólido.
Sí, aunque de forma introductoria en el programa base, con profundización opcional en el Proyecto Final. Los sistemas de IA agénticos —que utilizan herramientas externas, acceden a bases de datos, generan y ejecutan código, y toman secuencias de acciones en el mundo digital— tienen una superficie de ataque significativamente más compleja que los modelos de IA estáticos: el ataque de indirect prompt injection —donde el atacante inyecta instrucciones maliciosas no en el prompt directo del usuario, sino en los documentos, páginas web o respuestas de API que el agente recupera durante su ejecución— es uno de los vectores más críticos y menos comprendidos del campo. El Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA cubre los fundamentos de los ataques contra sistemas agénticos en el bloque de seguridad de LLMs, con casos de uso de prompt injection indirecta en pipelines RAG y en agentes de tool-use, y el equipo docente puede orientar los Proyectos Finales que quieran profundizar en este área específica.
Sin sistemas específicos de monitoreo adversarial en producción, la respuesta a esa pregunta es: con frecuencia, nunca. Los ataques adversariales exitosos contra modelos en producción —especialmente los ataques de evasión que producen predicciones incorrectas en casos individuales— son virtualmente indistinguibles de los errores normales del modelo para los sistemas de monitoreo convencionales que solo rastrean la degradación estadística del rendimiento global. Un modelo de detección de fraude que empieza a clasificar erróneamente transacciones fraudulentas cuidadosamente perturbadas como legítimas puede no activar ninguna alerta de monitoreo durante semanas o meses si el volumen de fraude evadido es suficientemente pequeño como porcentaje del total. El Diplomado en Seguridad de Modelos de Inteligencia Artificial de Academia IA te enseña a diseñar el sistema de monitoreo adversarial de producción específico que detecta estas anomalías: detectores de perturbación en tiempo de inferencia, pruebas estadísticas de distribución de inputs, rastreo de la coherencia entre predicciones y señales auxiliares, y sistemas de alerta basados en la detección de patrones de consulta propios de los ataques de extracción de modelo —volumen inusual de consultas con inputs sintéticos en la frontera de decisión del modelo—.
