Construir una aplicación con Inteligencia Artificial puede ser relativamente sencillo. El verdadero reto aparece cuando queremos llevarla a un entorno empresarial y necesitamos controlar quién accede a los modelos, controlar el consumo, observar su comportamiento, evaluar sus respuestas y aplicar políticas de gobierno de forma consistente.

En este workshop práctico, descubriremos el papel de los AI Gateways como pieza fundamental para gobernar soluciones de IA generativa. Partiremos de los conceptos básicos y compararemos las aproximaciones de Azure API Management (APIM) como AI Gateway, las capacidades de Microsoft Foundry, y en contraposición el Databricks Unity Gateway; entendiendo qué aporta cada tecnología y cómo pueden complementarse dentro de una misma arquitectura empresarial.

A través de ejercicios prácticos avanzaremos desde el consumo directo de un modelo hacia una arquitectura gobernada mediante un AI Gateway, explorando conceptos como control de acceso, políticas, gestión del tráfico, seguridad y observabilidad.

También introduciremos Red Teaming y Evaluations para analizar y evaluar el comportamiento de nuestras soluciones de IA antes de llevarlas a producción.

Exploraremos además la importancia de la trazabilidad y la observabilidad, viendo cómo recopilar y analizar trazas de las interacciones con modelos y aplicaciones de IA. Unity Gateway, por ejemplo, dispone de una tabla unificada de trazas basada en OpenTelemetry para registrar la actividad que atraviesa sus servicios.

Finalmente, conectaremos todas las piezas para entender su relación, analizando cómo diseñar una arquitectura en la que modelos y servicios de IA puedan consumirse de manera segura, observable, evaluable y gobernada.