Capítulo 8 — Defensa de la tesis y plan de publicación
Mapa de la lección
Lección 08 publicada. Mapa, ejemplo, EX046.
flowchart TD
N0["Resultados de aprendizaje"]
N1["8.1 La exposición de la defensa"]
N2["8.2 Anticipar las preguntas"]
N3["8.3 Plan de publicación"]
N4["8.4 Impacto en la gobernanza y la práctica"]
N5["8.6 Actividades de práctica"]
N6["Síntesis del capítulo"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6
N6 --> EX["Ejemplo resuelto"]
EX --> Q["Ejercicio EX046"]
Dibujo lógico
flowchart LR
N0["Resultados de aprendizaje"]
N1["8.1 La exposición de la defensa"]
N2["8.2 Anticipar las preguntas"]
N3["8.3 Plan de publicación"]
N4["8.4 Impacto en la gobernanza y la práctica"]
N5["8.6 Actividades de práctica"]
N6["Síntesis del capítulo"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6 --> Q["EX046"]
[Resultados de aprendizaje]
|
v
[8.1 La exposición de la defensa]
|
v
[8.2 Anticipar las preguntas]
|
v
[8.3 Plan de publicación]
|
v
[8.4 Impacto en la gobernanza y la práctica]
|
v
[8.6 Actividades de práctica]
|
v
[Síntesis del capítulo]
|
v
[Ejemplo resuelto] --> [Ejercicio EX046]
Resultados de aprendizaje
Usted podrá (1) preparar una defensa que presente el argumento, la evidencia y los límites en su justa proporción; (2) anticipar y responder preguntas hostiles y amistosas; (3) planificar las publicaciones, incluida la elección del foro, la evaluación de artefactos y el momento de la divulgación; (4) planificar el impacto en las normas, la gobernanza y la práctica sin exagerarlo; y (5) definir una agenda de investigación posdoctoral.
8.1 La exposición de la defensa
La exposición de la defensa tiene una sola función: permitir al tribunal comprobar que sus afirmaciones se siguen de su evidencia. Estructura: problema y laguna (10 %), preguntas de investigación y modelo de amenazas (10 %), método y líneas de base (20 %), resultados con intervalos y curvas de presupuesto (35 %), limitaciones y validez (15 %), contribuciones y trabajo futuro (10 %). Ponga el riesgo residual en una diapositiva de resultados, no en una diapositiva final de «limitaciones» para la que se acaba el tiempo. Ensaye con un tribunal simulado que incluya a alguien ajeno a su subcampo. La defensa simulada de Ana, que duró 45 minutos, siguió esta estructura. Cronometre cada parte en el ensayo.
8.2 Anticipar las preguntas
Prepare respuestas escritas para las preguntas previsibles: ¿Por qué este modelo de amenazas y no uno más fuerte? ¿Por qué estos modelos? ¿Y si la lista de permitidos basta? ¿Qué haría que su resultado fuera erróneo? ¿Cómo se sostiene esto para los modelos propietarios que no pudo probar? ¿Qué encontró el equipo rojo? ¿Qué haría de otra manera? Para cada una, responda en tres partes: la respuesta directa, la evidencia (diapositiva o tabla) y el límite. «No lo sé, y así es como lo averiguaría» es una respuesta fuerte cuando es cierta.
8.3 Plan de publicación
Haga corresponder los capítulos con artículos. Los foros de seguridad (por ejemplo, IEEE S&P, USENIX Security, ACM CCS, NDSS) suelen ofrecer evaluación de artefactos, que premia el archivo del capítulo 7; los foros de aprendizaje automático suelen tener listas de comprobación de reproducibilidad. Elija según el público: las defensas destinadas a profesionales pueden necesitar además un taller o un informe técnico. Planifique los plazos en torno a la divulgación coordinada: si un hallazgo afecta a un producto desplegado, acuerde con el fabricante una fecha de divulgación antes del envío. Las prepublicaciones aceleran la retroalimentación, pero son públicas; revise las decisiones de doble uso antes de publicarlas. Mantenga una declaración de autoría y contribuciones (los roles al estilo CRediT ayudan).
8.4 Impacto en la gobernanza y la práctica
El trabajo doctoral en seguridad de la IA puede alimentar la función Measure del NIST AI RMF, los sistemas de gestión ISO/IEC 42001 de las organizaciones, el trabajo de conformidad con los requisitos de solidez y ciberseguridad del Reglamento de IA de la UE, los recursos comunitarios de OWASP y MITRE ATLAS, y las herramientas de código abierto. Aporte evidencia, no consignas: un método de evaluación con límites documentados es más útil para un organismo de normalización que la afirmación de que un problema está resuelto. Nunca presente su resultado como asesoramiento jurídico o certificación. La guía para profesionales de Ana es un ejemplo: presenta reducciones medidas y sus límites.
8.5 Ejemplo resuelto (caso sintético del MAAL)
La defensa simulada de Ana duró 45 minutos. Un miembro del tribunal preguntó: «Su mejor resultado es una ASR residual del 5,8 %. ¿Desplegaría esto en un agente de correo electrónico?». Su respuesta: «Por sí solo, no. Combinado con destinatarios en lista de permitidos y confirmación humana para el correo saliente, sí, porque esos controles limitan el impacto incluso cuando la inyección tiene éxito; la tesis mide la reducción adicional que aporta la separación, no la seguridad absoluta». El miembro externo preguntó por los modelos propietarios; ella mostró que su método requiere acceso de entrenamiento y explicó que, para los modelos accesibles solo por API, el entorno de evaluación sigue midiendo la ASR, pero la defensa no puede aplicarse, un límite de alcance que se deriva de la definición del sistema del capítulo 1, que nombra un modelo local de pesos abiertos. Su plan: un artículo sobre el entorno de evaluación y los ataques adaptativos para un foro de seguridad con evaluación de artefactos, otro sobre la defensa, una breve guía para profesionales y una agenda posdoctoral sobre los ataques por encadenamiento de herramientas y sobre la certificación de cotas de impacto en lugar de tasas de inyección.
8.6 Actividades de práctica
- Redacte el esquema de su defensa con las proporciones de tiempo. 2. Escriba respuestas a las siete preguntas previsibles. 3. Haga corresponder los capítulos de la tesis con foros y un calendario de divulgación. Para el esquema, use las proporciones anteriores y coloque el riesgo residual en una diapositiva de resultados. Para las respuestas, siga la forma en tres partes y use la respuesta de Ana sobre el agente de correo como modelo de respuesta directa con un límite. Para el mapa de publicaciones, anote qué foros ofrecen evaluación de artefactos y dónde la divulgación debe preceder al envío, y dé fechas.
8.7 Errores y límites
Cada uno de estos errores debilita la defensa o la publicación:
- Dedicar la mayor parte de la exposición al contexto, lo que no deja tiempo para examinar la evidencia.
- Ocultar el riesgo residual al final, donde puede saltarse cuando se acaba el tiempo; por eso Ana mostró el suyo con los resultados.
- Enviar un hallazgo sobre un producto en servicio antes de acordar la divulgación, lo que puede incumplir un acuerdo de divulgación.
- Exagerar el impacto en las normas o en la regulación, lo que es fácil de refutar.
- Dejar el trabajo futuro como «más experimentos» sin preguntas; el trabajo futuro deben ser preguntas, como las de Ana sobre los ataques por encadenamiento de herramientas y las cotas de impacto.
Ejercicios — capítulo 8
- EX046 — Plan de la exposición. Reparta por secciones una defensa de 40 minutos. Rúbrica: 3 = proporciones cercanas a las de 8.1, con resultados ≥30 % y límites integrados; 2 = razonable, pero con los límites al final; 1 = cargada de contexto; 0 = ninguno.
- EX047 — Pregunta difícil. Responda «¿Qué haría que su resultado fuera erróneo?» en el lugar de Ana. Rúbrica: 3 = nombra evidencia concreta (por ejemplo, una familia adaptativa que eleve la ASR al nivel de la línea de base, un efecto que desaparece en otras familias, la invalidez del evaluador) y cómo probarla; 2 = parcial; 1 = vago; 0 = ninguna.
- EX048 — Foro. Elija un tipo de foro para el artículo sobre el entorno de evaluación y justifíquelo. Rúbrica: 3 = foro de seguridad con evaluación de artefactos, con razones; 2 = solo el foro; 1 = vago; 0 = ninguno.
- EX049 — Momento de la divulgación. Escriba un calendario para un hallazgo que afecta a un producto desplegado. Rúbrica: 3 = informe privado, acuse de recibo, plazo acordado, publicación coordinada, nivel de detalle seguro; 2 = tres pasos; 1 = vago; 0 = publicar primero.
- EX050 — Gobernanza. Nombre dos funciones o cláusulas de marcos que su trabajo podría informar, con una frase para cada una. Rúbrica: 3 = por ejemplo, la función Measure del AI RMF, el art. 15 del Reglamento de IA de la UE, el tratamiento del riesgo de ISO/IEC 42001, con frases precisas; 2 = solo los nombres; 1 = vago; 0 = incorrecto.
- EX051 — Agenda. Escriba tres preguntas de investigación posdoctoral que se deriven de las limitaciones de Ana. Rúbrica: 3 = tres preguntas específicas y comprobables; 2 = dos; 1 = una; 0 = ninguna.
- EX052 — ¿Desplegar? Responda la pregunta sobre el despliegue de 8.5 para su propia tesis. Rúbrica: 3 = respuesta por capas que separa la reducción medida de la seguridad absoluta, con controles complementarios; 2 = parcial; 1 = solo sí o no; 0 = ninguna.
Síntesis del capítulo
Una defensa muestra que las afirmaciones se siguen de la evidencia; un plan de publicación envía esa evidencia adonde puede comprobarse, en un momento que respeta la divulgación. La siguiente agenda de investigación nace de los límites que usted ha enunciado con honestidad.
Siga estudiando — capítulo 08 de 08
← Capítulo 07 (borrador) · Índice de capítulos del curso · Resultados resueltos ↓ · Siguiente curso a través del índice de capítulos →