Capítulo 5 — Alfabetización en seguridad
Mapa de la lección
Lección 05 publicada. Mapa, ejemplo, EX013.
flowchart TD
N0["Resultados de aprendizaje"]
N1["5.1 La tríada CIA"]
N2["5.2 Vocabulario del riesgo"]
N3["5.3 Ataques clásicos y variantes con IA"]
N4["5.4 Prácticas básicas"]
N5["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5
N5 --> EX["Ejemplo resuelto"]
EX --> Q["Ejercicio EX013"]
Dibujo lógico
flowchart LR
N0["Resultados de aprendizaje"]
N1["5.1 La tríada CIA"]
N2["5.2 Vocabulario del riesgo"]
N3["5.3 Ataques clásicos y variantes con IA"]
N4["5.4 Prácticas básicas"]
N5["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> Q["EX013"]
[Resultados de aprendizaje]
|
v
[5.1 La tríada CIA]
|
v
[5.2 Vocabulario del riesgo]
|
v
[5.3 Ataques clásicos y variantes con IA]
|
v
[5.4 Prácticas básicas]
|
v
[Síntesis]
|
v
[Ejemplo resuelto] --> [Ejercicio EX013]
Resultados de aprendizaje
Usted podrá (1) explicar la confidencialidad, la integridad y la disponibilidad; (2) definir amenaza, vulnerabilidad, riesgo y control; (3) describir ataques comunes (phishing, malware, robo de credenciales) y sus variantes en la era de la IA; y (4) aplicar prácticas básicas de seguridad personales y organizativas.
5.1 La tríada CIA
La confidencialidad mantiene la información fuera del alcance de personas no autorizadas; la integridad la mantiene exacta y sin alterar; la disponibilidad mantiene los sistemas utilizables cuando se necesitan. Para un chatbot de IA: confidencialidad de los datos de pacientes en las conversaciones; integridad de las respuestas y las reservas; disponibilidad del servicio. En Ask Lumen, un fallo de confidencialidad sería mostrar a un paciente la cita de otro; un fallo de integridad sería una respuesta errónea sobre el horario de una clínica o una reserva hecha para la persona equivocada; un fallo de disponibilidad sería que el chatbot no pudiera usarse durante una mañana de mucha actividad. Cada uno necesita controles distintos, así que nombrar la propiedad en riesgo ayuda a elegir el adecuado.
5.2 Vocabulario del riesgo
Una amenaza es algo que podría causar daño (un atacante, un accidente). Una vulnerabilidad es una debilidad. El riesgo combina probabilidad e impacto. Un control reduce el riesgo. Un vocabulario preciso ayuda a los equipos a ponerse de acuerdo sobre las prioridades. Aplicado a Ask Lumen: una amenaza es un paciente que intenta ver las citas de otro; la vulnerabilidad es la cuenta de servicio de reservas, que puede actuar en nombre de cualquier paciente; el riesgo es la probabilidad de esa combinación multiplicada por el daño de exponer datos de salud; el control es una comprobación de políticas que vincula cada reserva al paciente que ha iniciado sesión. Usar las palabras de forma coherente evita que las discusiones mezclen problemas con soluciones.
5.3 Ataques clásicos y variantes con IA
El phishing engaña a las personas para que revelen credenciales; la IA puede generar phishing más convincente y personalizado, y clonar voces. El malware compromete dispositivos; el código generado por IA puede contener vulnerabilidades si se acepta sin crítica. El robo de credenciales da acceso a los atacantes; las credenciales pegadas en chatbots pueden filtrarse. Y los sistemas de IA introducen nuevos tipos de ataque: inyección de instrucciones, envenenamiento de datos, extracción de modelos y evasión. Los nuevos tipos de ataque afectan a las mismas tres propiedades: la inyección de instrucciones amenaza la integridad de las acciones, la extracción amenaza la confidencialidad del modelo y el envenenamiento amenaza la integridad de los datos de entrenamiento.
5.4 Prácticas básicas
Use autenticación multifactor, mantenga el software actualizado, aplique el mínimo privilegio, haga copias de seguridad de los datos importantes y comunique los eventos sospechosos. Con herramientas de IA: no pegue secretos ni datos personales en servicios no aprobados, compruebe las salidas antes de actuar y siga la política de la organización sobre herramientas aprobadas. Estas prácticas se aplican al trabajo con IA tanto como a cualquier otro: una clave de API del proveedor del modelo es una credencial que necesita el mismo cuidado que una contraseña. En LCH se indica al personal qué herramientas de IA están aprobadas para el trabajo relacionado con pacientes y que nunca deben pegarse datos de pacientes en otras. Comprobar la salida de la IA antes de actuar es el hábito que habría detectado la referencia inventada de Rina.
5.5 Ejemplo resuelto (caso sintético de LCH)
Una recepcionista de LCH recibió un mensaje de voz que parecía de una directora de clínica y que pedía cambiar con urgencia los datos bancarios de un proveedor. La sesión de formación en alfabetización en seguridad de Rina usó este caso sintético para hablar de la clonación de voz y del control que la detiene: verificar los cambios de pago mediante un número de teléfono conocido y un segundo aprobador, por convincente que suene la petición. El control funciona tanto si la voz es real como si es clonada, por eso aquí el proceso gana a la detección. LCH también indicó al personal que la urgencia en una petición de pago es en sí misma un motivo para ir más despacio y verificar.
5.6 Errores y límites
- Tratar los riesgos específicos de la IA como ajenos a la seguridad clásica.
- Confiar en detectar falsificaciones en lugar de en controles de proceso.
- Pegar datos sensibles en herramientas públicas de IA.
Los riesgos específicos de la IA suelen reutilizar vías clásicas: una voz clonada es phishing por otro medio, y una clave de API filtrada es robo de credenciales. Confiar en detectar falsificaciones falla a medida que mejora la generación, mientras que la verificación por devolución de llamada sigue funcionando. Pegar datos sensibles en herramientas públicas puede exponerlos a la retención del proveedor y a cualquiera que obtenga después esos datos, por eso la política de LCH nombra explícitamente las herramientas aprobadas.
Ejercicios
- EX013 — CIA. Dé un ejemplo de confidencialidad, uno de integridad y uno de disponibilidad para DocSort. Rúbrica: 3 = un ejemplo de cada, exactos; 2 = dos; 1 = uno; 0 = nada.
- EX014 — Vocabulario. Para el caso de la voz clonada, indique amenaza, vulnerabilidad, impacto y control. Rúbrica: 3 = los cuatro coherentes; 2 = tres; 1 = uno o dos; 0 = nada.
- EX015 — Prácticas. Enumere tres prácticas seguras para usar asistentes de IA en el trabajo. Rúbrica: 3 = sin secretos/datos personales, verificar las salidas, solo herramientas aprobadas; 2 = dos; 1 = una; 0 = nada.
Síntesis
La alfabetización en seguridad —CIA, vocabulario del riesgo, ataques comunes y prácticas básicas— es la base sobre la que se construye la seguridad específica de la IA.
Siga estudiando — capítulo 05 de 40
← Capítulo 04 (borrador) · Índice de capítulos del curso · Capítulo 06 (borrador) →