Capítulo 2 — Sistemas de computación
Mapa de la lección
Lección 02 publicada. Mapa, ejemplo, EX004.
flowchart TD
N0["Resultados de aprendizaje"]
N1["2.1 Capas de un sistema de computación"]
N2["2.2 Dónde se ejecuta la IA"]
N3["2.3 Responsabilidad compartida"]
N4["2.4 Mapear un servicio de IA"]
N5["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5
N5 --> EX["Ejemplo resuelto"]
EX --> Q["Ejercicio EX004"]
Dibujo lógico
flowchart LR
N0["Resultados de aprendizaje"]
N1["2.1 Capas de un sistema de computación"]
N2["2.2 Dónde se ejecuta la IA"]
N3["2.3 Responsabilidad compartida"]
N4["2.4 Mapear un servicio de IA"]
N5["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> Q["EX004"]
[Resultados de aprendizaje]
|
v
[2.1 Capas de un sistema de computación]
|
v
[2.2 Dónde se ejecuta la IA]
|
v
[2.3 Responsabilidad compartida]
|
v
[2.4 Mapear un servicio de IA]
|
v
[Síntesis]
|
v
[Ejemplo resuelto] --> [Ejercicio EX004]
Resultados de aprendizaje
Usted podrá (1) describir cómo encajan los ordenadores, los sistemas operativos, las redes y los servicios en la nube; (2) identificar dónde se ejecuta una aplicación de IA y dónde almacena datos; (3) explicar el modelo de responsabilidad compartida para la nube y la IA alojada; y (4) mapear un servicio de IA a sus componentes de computación.
2.1 Capas de un sistema de computación
El hardware ejecuta un sistema operativo, que ejecuta aplicaciones; las aplicaciones se comunican por redes con otros servicios, a menudo en la nube. Una aplicación de IA añade archivos de modelo, servidores de inferencia, bases de datos vectoriales y conexiones con API de modelos externas. Cada capa tiene sus propios responsables y modos de fallo. En Ask Lumen, las piezas adicionales son el modelo alojado, la base de datos vectorial de documentos de las clínicas y la herramienta de reservas. Cada una añade responsables: el proveedor del modelo, el equipo de datos de LCH y los administradores del sistema de citas. Un problema de seguridad en cualquiera de ellas, como una base de datos mal configurada, afecta al chatbot aunque el modelo funcione correctamente. Conocer las capas le dice a Rina a quién preguntar por cada riesgo.
2.2 Dónde se ejecuta la IA
Un modelo puede ejecutarse en el dispositivo del usuario, en los servidores de la organización o en un proveedor mediante una API. Cada opción cambia quién puede ver los datos, quién puede cambiar el modelo y quién puede probarlo. Las API de IA alojadas procesan las instrucciones en la infraestructura del proveedor; la organización controla solo su propio código, su configuración y los datos que envía. Ask Lumen usa una API alojada, así que LCH no puede inspeccionar los pesos del modelo ni parchearlo; solo puede elegir qué envía y cómo trata lo que recibe. Eso convierte el propio código de LCH, la parte que construye las instrucciones y comprueba las salidas, en el lugar principal donde se pueden añadir controles.
2.3 Responsabilidad compartida
En la computación en la nube, el proveedor protege la infraestructura y el cliente protege lo que pone sobre ella. En la IA alojada, el proveedor suele responder del alojamiento del modelo y de la seguridad de la plataforma; el cliente responde de qué datos envía, cómo se usan las salidas, qué herramientas puede activar el modelo y quién puede acceder a la aplicación. Entender mal este reparto es una causa habitual de incidentes. En el mapa de Rina, la cuenta de servicio de reservas es el ejemplo más claro: el proveedor del modelo no tiene ningún control sobre lo que esa cuenta puede hacer en el sistema de citas de LCH.
2.4 Mapear un servicio de IA
Enumere: interfaz de usuario; servidor de aplicaciones; modelo (dónde y qué versión); almacén de recuperación; herramientas y los sistemas que tocan; registros; identidades usadas en cada paso. Este mapa es el punto de partida de todos los capítulos posteriores. Cada elemento responde a una pregunta que haría un atacante o un investigador: dónde entra la entrada, dónde reposan los datos, qué puede cambiar el sistema y bajo qué identidad. Un mapa que solo enumera el modelo pierde la mayor parte de la superficie de ataque, porque en Ask Lumen las acciones de riesgo ocurren a través de la herramienta de reservas y del almacén de recuperación. Rina mantiene su mapa en un documento compartido y lo actualiza cada vez que LCH cambia un componente.
2.5 Ejemplo resuelto (caso sintético de LCH)
Rina mapeó Ask Lumen: widget de chat web → servidor de aplicaciones de LCH (máquina virtual en la nube) → API de modelo de lenguaje alojada (proveedor) → recuperación desde una base de datos vectorial de documentos de las clínicas (gestionada por LCH) → herramienta de reservas que llama al sistema de citas (local) con una cuenta de servicio. Los registros iban al servicio de registros del proveedor de nube. Rina anotó que la cuenta de servicio de reservas podía reservar para cualquier paciente: una responsabilidad que debe corregir LCH, no el proveedor del modelo. El mapa también muestra quién debe actuar sobre cada hallazgo: la cuenta de servicio pertenece al equipo de citas de LCH, y la corrección consiste en restringirla al paciente cuya sesión hizo la petición.
2.6 Errores y límites
- Suponer que el proveedor del modelo protege toda la aplicación.
- Olvidar las herramientas y los registros en el mapa.
- No saber qué versión del modelo está en uso.
Cada error oculta parte del riesgo. Suponer que el proveedor lo protege todo deja sin examinar la cuenta de servicio de LCH. Omitir las herramientas y los registros oculta las vías por las que el chatbot puede actuar sobre datos de pacientes o registrarlos. No saber la versión del modelo impide distinguir si un cambio de comportamiento vino de que el proveedor actualizó el modelo o del propio código de LCH.
Ejercicios
- EX004 — Responsabilidad. Para Ask Lumen, enumere dos responsabilidades del proveedor y tres de LCH. Rúbrica: 3 = reparto correcto; 2 = error menor; 1 = confuso; 0 = nada.
- EX005 — Mapa. Mapee un asistente de IA para deberes escolares en los siete componentes de 2.4. Rúbrica: 3 = los siete plausibles; 2 = cinco; 1 = tres; 0 = nada.
- EX006 — Elección de despliegue. Dé una ventaja de seguridad de los modelos en el dispositivo y una de las API alojadas. Rúbrica: 3 = los datos quedan en local frente a parcheo/escala gestionados por el proveedor; 2 = una; 1 = vago; 0 = incorrecto.
Síntesis
Las aplicaciones de IA son sistemas de computación con piezas adicionales. Mapear dónde se ejecuta cada pieza y quién responde de ella es el primer paso de seguridad.
Siga estudiando — capítulo 02 de 40
← Capítulo 01 (borrador) · Índice de capítulos del curso · Capítulo 03 (borrador) →