De Shadow AI a IA Gobernada

La rápida adopción de inteligencia artificial en organizaciones públicas y privadas ha dado origen a un nuevo desafío conocido como Shadow AI, definido como el uso de herramientas o modelos de inteligencia artificial fuera de los procesos formales de seguridad y gobernanza.

Esta charla presenta resultados basados en investigación técnica publicada y experiencias prácticas relacionadas con el descubrimiento, evaluación y control de sistemas de inteligencia artificial no registrados dentro de entornos organizacionales.

Se introducirá un enfoque estructurado para identificar activos de inteligencia artificial distribuidos en repositorios, pipelines y sistemas productivos. Este enfoque permite construir inventarios completos de IA, clasificar riesgos según el tipo de datos procesados y establecer mecanismos de control alineados con marcos modernos de gobernanza.

Además, la presentación incluirá una demostración técnica basada en investigación previa que muestra cómo aplicar controles en tiempo real mediante guardrails runtime y modelos de evaluación de riesgo. Estas capacidades permiten detectar amenazas emergentes como prompt injection, uso indebido de modelos y exposición de información sensible.

Se abordarán también las implicancias regulatorias asociadas al uso de inteligencia artificial, incluyendo la relación con estándares internacionales como ISO/IEC 42001 y su relevancia para instituciones públicas y servicios esenciales.

La sesión se basa en investigaciones previamente publicadas y presentaciones técnicas desarrolladas por el autor, enfocadas en la transición desde entornos con Shadow AI hacia ecosistemas de inteligencia artificial gobernados y auditables.

Finalmente, se compartirán lecciones aprendidas en la implementación de estas capacidades, junto con recomendaciones prácticas para organizaciones que buscan adoptar inteligencia artificial de manera segura, trazable y alineada con estándares regulatorios.