Session

El algoritmo no miente, pero discrimina

¡Qué tema! ¿No?

¿Qué tienen en común la Inteligencia Artificial, el prejuicio, y la ilusión de objetividad?

Es que el prejuicio es humano. Escribir código, es un producto humano también. Y si esto se automatiza... adquiere la apariencia de verdad objetiva.

Esta sesión parte de una perspectiva poco frecuente en el mundo técnico: la de alguien que estudió el prejuicio, los estereotipos y la discriminación como fenómenos psicosociales muchísimo antes de especializarse en datos e IA.

El problema no es nuevo. La psicología social lleva décadas documentando cómo los estereotipos se naturalizan cuando una figura de autoridad los presenta como hechos. Lo que sí es cuasi-nuevo, es que hoy esa figura viene representada por el algoritmo.

Usando un caso real y ampliamente documentado, mostramos con R y el ecosistema Microsoft cómo un sistema de IA puede ser técnicamente correcto y estructuralmente discriminatorio al mismo tiempo. Y cómo herramientas que usamos a diario narran esos resultados con una neutralidad que no se cuestiona.

No es que vayamos a llegar a una solución. Vamos a llegar a una paradoja y una pregunta que la tecnología sola no puede responder: ¿quién define qué es justo, y a costa de quién?

Esta sesión no es para cualquiera. Es para quienes construyen con datos, y quieren hacerlo con más conciencia de los sesgos (peligrosos, en ocasiones) en los que se puede incurrir al interpretarlos.

Paula Bria

Business Intelligence & Analytics | Automatización de procesos con IA | Psicóloga | Profesora universitaria | Creadora y host de La Cocina del Dato

Haedo, Argentina

Actions

Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.

Jump to top