Capítulo 21 — Seguridad de la IA y del aprendizaje automático: integración de servicios
Mapa de la lección
Lección 21 publicada. Mapa, ejemplo, EX061.
flowchart TD
N0["Resultados de aprendizaje"]
N1["21.1 Integración con las plataformas"]
N2["21.2 API de proveedores"]
N3["21.3 Varios servicios y varios agentes"]
N4["21.4 Contratos de integración"]
N5["21.4b Pruebas de las integraciones"]
N6["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6
N6 --> EX["Ejemplo resuelto"]
EX --> Q["Ejercicio EX061"]
Dibujo lógico
flowchart LR
N0["Resultados de aprendizaje"]
N1["21.1 Integración con las plataformas"]
N2["21.2 API de proveedores"]
N3["21.3 Varios servicios y varios agentes"]
N4["21.4 Contratos de integración"]
N5["21.4b Pruebas de las integraciones"]
N6["Síntesis"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6 --> Q["EX061"]
[Resultados de aprendizaje]
|
v
[21.1 Integración con las plataformas]
|
v
[21.2 API de proveedores]
|
v
[21.3 Varios servicios y varios agentes]
|
v
[21.4 Contratos de integración]
|
v
[21.4b Pruebas de las integraciones]
|
v
[Síntesis]
|
v
[Ejemplo resuelto] --> [Ejercicio EX061]
Resultados de aprendizaje
Usted podrá (1) integrar los servicios de IA con las plataformas de identidad, registro y secretos; (2) proteger las API de modelos de proveedores; (3) gestionar integraciones entre varios servicios y varios agentes; y (4) revisar los contratos de integración.
21.1 Integración con las plataformas
Los servicios de IA deben usar las mismas plataformas que todo lo demás: el proveedor de identidad de la empresa para los usuarios y las identidades de servicio; el gestor de secretos para las claves; el registro centralizado; y el pipeline de despliegue estándar. Los servicios de IA tratados como casos especiales quedan fuera de la cobertura de seguridad. En Brightwell, Ask Brightwell usa ahora el proveedor de identidad de la empresa para los tokens delegados, el gestor de secretos para la clave del proveedor, el almacén central de registros y el pipeline estándar. El redactor de correos de marketing, encontrado fuera del inventario, no tenía nada de esto hasta que la revisión de Jonas lo llevó a las mismas plataformas.
21.2 API de proveedores
Compruebe: ¿usa el proveedor sus datos para entrenar y puede usted excluirse? ¿Cuánto tiempo se conservan los prompts? ¿Qué región procesa los datos? ¿Puede fijar las versiones del modelo y recibir aviso de los cambios? ¿Hay límites de gasto? Guarde la clave en el servidor; restrínjala a los modelos necesarios; fije cuotas. Para la integración del redactor de correos, Jonas exigió conservación cero días en el proveedor. En Ask Brightwell, fija la versión del modelo para que una actualización del proveedor no pueda cambiar el comportamiento sin pasar antes por la puerta de publicación. Los límites de gasto de la cuenta del proveedor respaldan el presupuesto diario de tokens.
21.3 Varios servicios y varios agentes
Cuando un servicio de IA llama a otro, trate la respuesta como entrada no confiable. Una instrucción inyectada puede viajar de un documento al agente A y del agente A al agente B. Cada servicio aplica su propia política sobre lo que hace, sin importar quién lo pidió. La revisión del redactor de correos aplicó este principio: el texto de las conversaciones de Ask Brightwell, que puede contener instrucciones inyectadas, se convertiría en la entrada del redactor de correos. Por eso el redactor de correos aplica sus propios límites y solo envía a la dirección verificada del cliente que ha iniciado sesión, pida lo que pida Ask Brightwell.
21.4 Contratos de integración
Anote para cada integración: los datos intercambiados, el formato, las reglas de validación, la autenticación, los límites de frecuencia, el tratamiento de errores y a quién contactar. Revise los contratos cuando cambie cualquiera de las dos partes. En la integración del redactor de correos, el contrato registra que Ask Brightwell envía un identificador de plantilla y un único campo breve escapado, que el correo solo va a la dirección verificada, el límite de frecuencia de un correo y los contactos en marketing y en el equipo de Jonas. El contrato del redactor de correos es el primero redactado de esta forma, y ahora sirve de plantilla a Brightwell para las integraciones posteriores.
21.4b Pruebas de las integraciones
Añada casos de integración al banco de evaluación: coloque instrucciones en la entrada del servicio de origen y compruebe que el servicio de destino no hace nada fuera de su contrato. Pruebe también los caminos de fallo, como los tiempos de espera agotados o las respuestas mal formadas, y confirme que cada parte falla de forma cerrada. Para el redactor de correos, el banco de evaluación de Jonas coloca en una conversación una instrucción que pide enviar correo a una dirección externa y comprueba que no se envía nada. Un tiempo de espera agotado del servicio de correo da como resultado ningún correo y un error registrado, no un bucle de reintentos.
21.5 Ejemplo resuelto (caso sintético de Brightwell)
Marketing quiere que Ask Brightwell llame a su redactor de correos para enviar seguimientos. Jonas lo revisa: el redactor de correos recibiría texto de las conversaciones (no confiable) y podría enviar correo a cualquier dirección. Exige: que la herramienta de correo solo envíe a la dirección verificada del cliente que ha iniciado sesión; que el contenido proceda de una plantilla fija, con el texto del modelo limitado a un campo breve que se escapa; un límite de frecuencia de un correo por conversación; y una conservación de datos en el proveedor fijada en cero días. Cada requisito limita lo que podría conseguir una inyección aunque llegue al redactor de correos. Enviar solo a la dirección verificada impide el correo a desconocidos; la plantilla y el campo escapado impiden contenido arbitrario; y el límite de frecuencia evita que una sola conversación inunde de correos a un cliente.
21.6 Errores y límites
- Servicios de IA fuera de las plataformas estándar.
- Confiar en la salida de otro agente.
- Integraciones no documentadas.
El redactor de correos mostraba los tres antes de la revisión de Jonas: funcionaba fuera de las plataformas estándar, habría confiado en el texto de Ask Brightwell y ningún contrato describía la integración. Incorporarlo al inventario y al banco de evaluación resolvió cada uno. Una integración que nadie ha documentado es también una que nadie prueba cuando cambia cualquiera de las partes. Cada integración tiene ahora un contrato, un responsable y un caso en el banco de evaluación, de modo que un cambio en cualquiera de las partes se prueba antes de la publicación.
Ejercicios
- EX061 — Lista de comprobación del proveedor. Redacte seis comprobaciones de la API de un proveedor. Rúbrica: 3 = seis adecuadas; 2 = cuatro o cinco; 1 = dos o tres; 0 = menos.
- EX062 — Cadena de agentes. Explique cómo podría pasar una inyección desde una reseña hasta el redactor de correos y cómo la detienen los controles del redactor de correos. Rúbrica: 3 = camino más el efecto de cada control; 2 = camino y un control; 1 = vago; 0 = nada.
- EX063 — Contrato. Redacte un contrato de integración Ask Brightwell → redactor de correos. Rúbrica: 3 = los siete elementos; 2 = cinco; 1 = tres; 0 = ninguno.
Síntesis
Integre los servicios de IA en las plataformas estándar, trate cada mensaje entre servicios como no confiable y documente el contrato de cada integración.
Siga estudiando — capítulo 21 de 30
← Capítulo 20 (borrador) · Índice de capítulos del curso · Capítulo 22 (borrador) →