Capítulo 36 — Prácticas de campo o comunitarias | Grado Seguridad de IA y aprendizaje automático

Aprendizaje gratuito y abierto para quienes desean proteger a las personas y la tecnología. No se necesita una cuenta para estudiar ni consultar las respuestas.

Mapa de la lección

Lección 36 publicada. Mapa, ejemplo, EX106.

flowchart TD
  N0["Resultados de aprendizaje"]
  N1["36.1 Entornos"]
  N2["36.2 Resultados útiles"]
  N3["36.3 Trabajar con no especialistas"]
  N4["36.4 Autorización y confidencialidad"]
  N5["36.5 Reflexión"]
  N6["36.7b Dejar el entorno mejor"]
  N7["Síntesis"]
  N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6 --> N7
  N7 --> EX["Ejemplo resuelto"]
  EX --> Q["Ejercicio EX106"]

Dibujo lógico

flowchart LR
  N0["Resultados de aprendizaje"]
  N1["36.1 Entornos"]
  N2["36.2 Resultados útiles"]
  N3["36.3 Trabajar con no especialistas"]
  N4["36.4 Autorización y confidencialidad"]
  N5["36.5 Reflexión"]
  N6["36.7b Dejar el entorno mejor"]
  N7["Síntesis"]
  N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6 --> N7 --> Q["EX106"]

[Resultados de aprendizaje]
    |
    v
[36.1 Entornos]
    |
    v
[36.2 Resultados útiles]
    |
    v
[36.3 Trabajar con no especialistas]
    |
    v
[36.4 Autorización y confidencialidad]
    |
    v
[36.5 Reflexión]
    |
    v
[36.7b Dejar el entorno mejor]
    |
    v
[Síntesis]
    |
    v
[Ejemplo resuelto] --> [Ejercicio EX106]

Resultados de aprendizaje

Usted podrá (1) aplicar conocimientos de seguridad de la IA en una organización o en un entorno comunitario bajo supervisión; (2) comunicarse con no especialistas; (3) entregar un resultado útil y proporcionado; y (4) reflexionar sobre la experiencia.

36.1 Entornos

Las prácticas pueden hacerse en una empresa, un organismo público, una organización benéfica o un grupo comunitario que adopta herramientas de IA. Las organizaciones pequeñas suelen usar asistentes de IA alojados sin ninguna política; una contribución bien delimitada puede marcar una diferencia real. Las prácticas de Rina fueron en una pequeña organización benéfica cuyo personal usaba un asistente alojado sin ninguna política. La organización no tenía personal informático, así que la contribución tenía que ser algo que el personal pudiera seguir haciendo cuando ella se fuera: una política breve, unos ajustes sensatos y una sesión de formación. Una organización más grande necesitaría un trabajo de otra forma, pero se aplica el mismo principio de adaptarse al entorno.

36.2 Resultados útiles

Resultados típicos: un inventario de IA; una política de uso aceptable de los asistentes de IA; una breve evaluación de riesgos de una herramienta de IA con ajustes recomendados; formación del personal; una lista de comprobación para comprar productos de IA. Mantenga los resultados proporcionados al tamaño y la capacidad de la organización. En la organización benéfica, un inventario de IA habría tenido una sola entrada, así que Rina lo omitió. La política de uso aceptable y el cambio de ajustes abordaban el riesgo real, que era que el personal pegaba notas de casos. La lista de comprobación de compras se dejó para más adelante, ya que la organización no tenía previsto comprar más herramientas. Elegir así los resultados mantuvo el trabajo realizable en seis semanas.

36.3 Trabajar con no especialistas

Evite la jerga; explique los riesgos con ejemplos pertinentes para su trabajo; dé un número pequeño de acciones claras; respete sus limitaciones. Escuche primero: su conocimiento del trabajo define qué aspecto tiene el daño. En la organización benéfica, Rina explicó el riesgo pidiendo al personal que imaginara sus notas de casos apareciendo en el borrador de carta de un desconocido, en lugar de describir la retención de datos para entrenamiento. El personal le contó que algunas cartas tenían plazos ligados a recursos sobre prestaciones sociales, lo que condicionó su consejo: la política permitía usar el asistente para la estructura y la redacción, pero exigía añadir después a mano los nombres y los detalles del caso.

36.4 Autorización y confidencialidad

Acuerde por escrito qué hará y qué datos verá. No pruebe sistemas más allá de ese acuerdo. Mantenga la confidencialidad de la información de la organización. El acuerdo de Rina con la organización benéfica le permitía ver los ajustes del asistente y una muestra de cartas anonimizadas, pero no los expedientes de los casos. Cuando un miembro del personal se ofreció a enseñarle notas reales para explicarle un problema, ella lo rechazó y pidió un ejemplo inventado. Eso la mantuvo dentro del acuerdo y evitó cualquier duda sobre cómo trataba la información de los usuarios.

36.5 Reflexión

Anote lo que hizo, lo que funcionó, lo que cambiaría y lo que aprendió sobre cómo funciona en la práctica la seguridad de la IA. La reflexión de Rina señalaba que su primer borrador de política tenía tres páginas y el personal no lo leyó; la versión de una página funcionó. También anotó que el cambio de ajustes dependía de las opciones del proveedor, que no pudo verificar por completo, y que un seguimiento a los seis meses mostraría si la política se seguía cumpliendo una vez que ella se hubiera ido.

36.6 Ejemplo resuelto (caso sintético de LCH)

Rina pasó seis semanas en una pequeña organización benéfica (sintética) que usaba un asistente de IA alojado para redactar cartas a usuarios vulnerables. El personal pegaba en el asistente las notas completas de los casos. Resultados de Rina: una política de uso de IA de una página (qué no pegar, cómo comprobar las salidas), ajustes del asistente que desactivaban la retención de conversaciones para entrenamiento cuando el proveedor lo permitía y una sesión de 30 minutos para el personal. Una encuesta de seguimiento comprobó que el 80 % del personal sabía identificar correctamente qué datos no deben pegarse. La encuesta fue el seguimiento, realizado cuatro semanas después de la sesión.

36.7 Errores y límites

Recomendar controles de escala empresarial a una pequeña organización benéfica.
Probar más allá del alcance acordado.
Resultados sin seguimiento.

Una organización benéfica sin personal informático no puede operar un servicio de políticas ni un panel de monitorización, así que recomendarlos hace perder el tiempo a todos. Probar el asistente más allá de lo que permitía el acuerdo, por ejemplo sondeando los sistemas del proveedor, habría roto la confianza de la organización. Sin la encuesta de seguimiento, nadie sabría si el personal había cambiado realmente lo que pega en el asistente. El informe de Rina recomendaba repetir la encuesta cada año, ya que se incorpora personal nuevo y los hábitos se relajan.

36.7b Dejar el entorno mejor

Unas prácticas de campo terminan con algo que la organización de acogida puede usar sin el estudiante: por ejemplo, una lista de comprobación de una página para evaluar a un proveedor de chatbots, escrita en lenguaje llano y probada con el responsable de la organización. El informe del estudiante registra lo que la organización decidió adoptar y lo que dejó de lado. En la organización benéfica, el informe de Rina anotó que la política se adoptó y que la lista de comprobación de compras se dejó de lado. La responsable de la organización guardó una copia de la política y de las notas sobre los ajustes, para que un nuevo miembro del personal pudiera recibir las indicaciones sin Rina.

Ejercicios

EX106 — Resultado proporcionado. Proponga tres resultados para una empresa de cinco personas que usa asistentes de IA. Rúbrica: 3 = proporcionados, concretos; 2 = dos; 1 = genéricos; 0 = nada.
EX107 — Lenguaje llano. Explique la inyección de prompts al personal de la organización benéfica en dos frases. Rúbrica: 3 = exacta, sin jerga, con un ejemplo pertinente; 2 = parcial; 1 = jerga; 0 = incorrecta.
EX108 — Regla de la política. Redacte dos reglas para la política de uso de IA de la organización benéfica. Rúbrica: 3 = reglas concretas y aplicables sobre los datos y la comprobación de las salidas; 2 = una; 1 = vago; 0 = nada.

Síntesis

Las prácticas de campo ponen a prueba si los conocimientos de seguridad de la IA ayudan a personas reales. Los resultados proporcionados, el lenguaje llano y el trabajo autorizado marcan la diferencia.

Siga estudiando — capítulo 36 de 40

← Capítulo 35 (borrador) · Índice de capítulos del curso · Capítulo 37 (borrador) →