Hemos tenido el placer de ser parte de la edición 2021 del Decidim Fest, centrado en el impacto de la tecnología y la democracia.
En la mesa sobre Feminismo y Decolonialismo de Datos moderada por Guiomar Rovira, compartimos debate con Eugenia D’Angelo de la organización MundoSur que trajo la experiencia que realizan a nivel institucional contra-datos al colonialismo y al patriarcado en América Latina y el Caribe, la experiencia de la Datatón Transfeminista latinoamericana de la mano de Mailén García y Giselle Arena.
Por la parte de Algorithmic Societies, Manuel Portela presentó “Algorithmic Augmentation, el dilema de la justicia y la equidad”, donde se puso en el foco del debate la necesidad de auditar los algoritmos para conocer sus tareas y valores ocultos y crear estructuras de datos que representen valores minorizados o discriminados.
Aquí hemos preparado un resumen
La presentación hace hincapié en poner una mirada interseccional y decolonial sobre las prácticas que se llevan a cabo en las comunidades de datos. Estas son:
- Operacionalizar fairness (justicia algorítmica), incluyendo métricas y explicabilidad a los algoritmos para poder “ver” (es limitado)
- Auditar algoritmos para asegurarnos que los principios y valores que se utilizaron para ser creados sean los idoneos y que sus resultados no generen discriminacion (también es limitado)
- Generar estructuras de gobernanzas de datos que incluyan la participación de todos los actores involucrados y afectados en la generación, almacenamiento y gestión de los conjuntos de datos utilizados para entrenar algoritmos
- Generar conjuntos de datos que representen los valores de los grupos minoritarios o vulnerados y hacerlos disponibles y abiertos. Pero en particular en conjuntos de datos que sean utilizados en todo tipo de implementación y no solo en problemáticas específicas.
El final de la mesa dejó preguntas futuras sobre ¿Cómo involucrar a las comunidades afectadas por estos sesgos algorítmicos? ¿Cómo incorporar subjetividades no cishetero en el desarrollo de algoritmos? ¿Cómo sentar a movimientos y estados a rediseñar la gobernanza algorítmica?