La equidad de los sistemas de IA es uno de los aspectos clave para generar confianza en el uso de la IA y así poder liberar su gran potencial. Aspectos sociales y técnicos determinan quién y cómo puede resultar perjudicado por los sistemas de IA. Hay muchas fuentes de inequidad y una variedad de procesos sociales y técnicos para su mitigación.

En esta sesión se presenta una demo de modelos de no-pago de tarjetas de crédito. Los perjuicios relacionados con la equidad pueden surgir cuando el modelo comete más errores para algunos grupos de solicitantes en comparación con otros. Estas predicciones se utilizan muchas veces para rechazar o aceptar automáticamente una solicitud, lo que repercute directamente tanto en el solicitante como en la organización.

El uso de métricas y algoritmos que toman en cuenta el contexto social amplio del sistema de IA será explicado, de modo que los científicos de datos puedan utilizarlos para mejorar la equidad de los sistemas de IA.