Capítulo 4 — Escritura académica | Grado Seguridad de IA y aprendizaje automático

Aprendizaje gratuito y abierto para quienes desean proteger a las personas y la tecnología. No se necesita una cuenta para estudiar ni consultar las respuestas.

Mapa de la lección

Lección 04 publicada. Mapa, ejemplo, EX010.

flowchart TD
  N0["Resultados de aprendizaje"]
  N1["4.1 Afirmaciones y evidencia"]
  N2["4.2 Citación y verificación"]
  N3["4.3 Tipos de fuentes"]
  N4["4.4 Integridad y herramientas de IA"]
  N5["Síntesis"]
  N0 --> N1 --> N2 --> N3 --> N4 --> N5
  N5 --> EX["Ejemplo resuelto"]
  EX --> Q["Ejercicio EX010"]

Dibujo lógico

flowchart LR
  N0["Resultados de aprendizaje"]
  N1["4.1 Afirmaciones y evidencia"]
  N2["4.2 Citación y verificación"]
  N3["4.3 Tipos de fuentes"]
  N4["4.4 Integridad y herramientas de IA"]
  N5["Síntesis"]
  N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> Q["EX010"]

[Resultados de aprendizaje]
    |
    v
[4.1 Afirmaciones y evidencia]
    |
    v
[4.2 Citación y verificación]
    |
    v
[4.3 Tipos de fuentes]
    |
    v
[4.4 Integridad y herramientas de IA]
    |
    v
[Síntesis]
    |
    v
[Ejemplo resuelto] --> [Ejercicio EX010]

Resultados de aprendizaje

Usted podrá (1) escribir prosa académica clara con afirmaciones respaldadas por evidencia; (2) citar fuentes correctamente y verificar cada cita; (3) distinguir entre investigación revisada por pares, preprints, normas y literatura gris; y (4) evitar el plagio, incluido el mal uso de herramientas de escritura con IA.

4.1 Afirmaciones y evidencia

Toda afirmación sustantiva necesita respaldo: datos que usted produjo, una fuente citada o un argumento claro. En seguridad de la IA, las afirmaciones sobre ataques y defensas deben declarar sus condiciones: qué modelo, qué ataque, qué métrica. «El entrenamiento adversario hace robustos los modelos» es demasiado amplio; «el entrenamiento adversario con descenso de gradiente proyectado mejoró la robustez frente a perturbaciones acotadas en los bancos de pruebas de imágenes evaluados (Madry et al., arXiv:1706.06083)» se puede sostener. La versión sostenible nombra el método, el modelo de amenaza y el alcance de la evaluación, de modo que el lector puede saber si se aplica a su sistema. Una afirmación sobre bancos de pruebas de imágenes dice poco de un chatbot de texto como Ask Lumen.

4.2 Citación y verificación

Cite lo que realmente leyó y compruebe que cada referencia existe: abra el DOI, la página de arXiv o la URL oficial. No invente identificadores. Los asistentes de escritura con IA pueden producir referencias verosímiles pero inexistentes; cada cita que entrega es responsabilidad suya. Use un estilo coherente e incluya información suficiente para que el lector encuentre la fuente. El ejemplo resuelto de Rina muestra que el riesgo es real: una de seis referencias producidas con un asistente no existía. Comprobarlas lleva minutos por referencia y protege la credibilidad del ensayo. Ella anota dónde verificó cada una, por ejemplo la página del DOI, para que quien corrija pueda seguir el mismo camino.

4.3 Tipos de fuentes

Los artículos revisados por pares han sido comprobados por expertos; los preprints (por ejemplo, en arXiv) suelen ser importantes en seguridad de la IA, pero no están revisados; las normas y los marcos (NIST AI 100-1, ISO/IEC 42001) definen términos y prácticas; los blogs de proveedores y las noticias son pistas útiles, pero evidencia débil. El tipo de fuente determina cómo se redacta una afirmación. Un resultado revisado por pares puede citarse como hallazgo bajo sus condiciones declaradas; un preprint, como resultado comunicado y aún no revisado; un blog de proveedor, como una afirmación. En los ensayos de Rina, una afirmación respaldada solo por un blog de proveedor se escribe como «el proveedor afirma», lo que indica al lector cuánto peso darle.

4.4 Integridad y herramientas de IA

Siga la política de su institución sobre herramientas de IA. Normalmente debe declarar su uso, comprobar su salida y no presentar nunca como trabajo propio texto o análisis generados sin permiso. Parafrasear sin citar es plagio. La declaración permite a quienes corrigen juzgar el trabajo con justicia y a los lectores saber qué partes comprobar con más cuidado. La declaración de Rina indica la herramienta, la tarea en la que ayudó y cómo comprobó ella la salida. La referencia inventada de su borrador muestra por qué importa comprobar: la herramienta la produjo con seguridad, y solo la verificación la puso al descubierto.

4.5 Ejemplo resuelto (caso sintético de LCH)

El primer borrador de ensayo de Rina, producido en parte con un asistente de IA, contenía seis referencias. Las comprobó: cuatro existían, una tenía el año equivocado y otra no existía en absoluto. Eliminó la referencia inventada, corrigió el año, declaró el uso de la herramienta y reescribió el párrafo que dependía de la fuente falsa usando una real que había leído. Una tasa de una referencia fabricada de cada seis es lo bastante alta como para que ahora compruebe cada referencia antes de redactar en torno a ella.

4.6 Errores y límites

Referencias sin verificar.
Afirmaciones sin condiciones.
Tratar un blog de proveedor como un hecho establecido.

Las referencias sin verificar pueden estar equivocadas o ser inventadas, como mostró el borrador de Rina, y una sola falsa hace que los lectores duden del resto. Las afirmaciones sin condiciones, como «el entrenamiento adversario hace robustos los modelos», son fáciles de refutar con un contraejemplo de otro contexto. Tratar los blogs de proveedores como hechos establecidos hace pasar el marketing por evidencia. Cada error es barato de evitar y caro una vez que lo encuentra quien corrige o revisa.

Ejercicios

EX010 — Reescritura. Reescriba «la inyección de instrucciones se resuelve con filtros» como una afirmación sostenible o como una refutación con una cita. Rúbrica: 3 = afirmación condicional que cita trabajo real (p. ej., Greshake et al. arXiv:2302.12173) que muestra que los filtros son insuficientes; 2 = parcial; 1 = sin cita; 0 = sin cambios.
EX011 — Verificación. Describa cómo verificar una referencia de arXiv. Rúbrica: 3 = abrir arxiv.org/abs/ID y comprobar que título/autores/año coinciden; 2 = parcial; 1 = vago; 0 = nada.
EX012 — Tipo de fuente. Clasifique: NIST AI 600-1; un artículo de arXiv; un blog de empresa. Rúbrica: 3 = norma/marco, preprint, literatura gris; 2 = dos; 1 = una; 0 = nada.

Síntesis

La escritura académica en seguridad de la IA significa afirmaciones condicionales, citas verificadas y un uso honesto de las herramientas: habilidades que también hacen fiables los informes profesionales.

Siga estudiando — capítulo 04 de 40

← Capítulo 03 (borrador) · Índice de capítulos del curso · Capítulo 05 (borrador) →