En el marco del Festival +CODE hemos impartido el workshop “Interseccionalidad algorítmica, ejercicios para pensar”. Ha sido una actividad de un día y medio para entender los sesgos en el diseño e implementación de algoritmos de inteligencia artificial y los conceptos de justicia algorítmica.
Para ello, hemos diseñado un proceso guiado para que los participantes identificaran y crearán escenarios de futuros deseables y más justos en relación al diseño de algoritmos. El objetivo era que rediseñaran o adaptaran narrativas de ciertas tecnologías que utilizan inteligencia artificial o aprendizaje automático, teniendo en cuenta a los grupos afectados. De esta manera, utilizamos un acercamiento a la tecnología desde el feminismo interseccional.
Utilizamos el concepto de narrativas como una forma de cuestionar los ejes que cruzan las decisiones en el diseño. Esta metodología es comúnmente utilizada en la investigación de diseño y también en la investigación de futuros. Permite a los participantes entender las condiciones y el contexto en el que esta tecnología es entendida y aprovechada.
Hacemos un breve repaso del taller
1. Visión general sobre los sesgos en el diseño de algoritmos a través de una masterclass de Justicia Algorítmica de Manuel Portela.
2. Para conocernos mejor, cada participantes se presentó y propuso su película, libro o pieza artística con Inteligencia artificial. Creamos entre todos un mural de cómo el cine y la literatura nos ayudan a construir imaginarios alrededor de la IA.
3. Se explicaron las tecnologías de la IA con las que se proponía trabajar. Para este taller se eligieron tres: a) IA en toma de decisiones y clasificación, b) recursos humanos y sistemas de recomendación y c) biometría y reconocimiento facial. Cada participante debía elegir qué tecnología quería explorar y de esta manera armamos 3 grupos de trabajo.
4. Para adentrarnos en la reflexión, los participantes debían pensarse a sí mismos en la matriz de opresión/privilegio (ver debajo), propuesta por la investigadora Hill Collins. Y aquí aparece la interseccionalidad. Esta matriz estipula que uno puede ser oprimido en ciertas circunstancias por religión color sexualidad, geografía, género, etc pero en otras circunstancias, puedes ser opresor o estar en una situación de privilegio. Luego de pensarse a sí mismos, como grupo debían elegir diferentes personas de ficción (Persona Cards) y también posicionarlas en esta matriz. Este fue el primer paso para comenzar a encontrar sesgos en las narrativas de las diferentes tecnologías.
5. En grupos temáticos, los participantes realizaron un análisis de narrativas de diseño (Analyzing Design Narratives) de las tecnologías escogidos. Se debían contestar: ¿Quién participa en el proceso de diseño? ¿Quién se beneficia de este diseño?, ¿Quién es perjudicado por este diseño?
5. Finalmente, los grupos utilizando la misma tecnología (o una adaptada) que tenga en cuenta los grupos afectados re-diseñaron las narrativas. A través de técnicas de diseño de ficción, cada grupo según su caso, presentó una pieza que describa esta nueva realidad, resaltando quienes participan en su diseño y quien se ve afectado, cómo es la vida para alrededor de esta nueva tecnología, etc.
Este taller se diferencia por tener un gran impacto en la percepción de los profesionales al cuestionar la toma de decisiones durante el diseño y desarrollo de algoritmos. A pesar de que la mayoría de los participantes no tenía conocimiento técnico, todos pudieron adoptar los conceptos básicos y poder reflexionar colaborativamente. El uso de narrativas permitió a los participantes repensar su lugar en la sociedad, y como diseñadores o programadores, el rol que cumplen en el desarrollo de estas tecnologías y su impacto en las comunidades. ¡Gracias a ellxs por animarse a esta experiencia!
Esperamos poder repetirlo con nuevos participantes y comunidades. Estamos abiertos a desarrollar y adaptar este taller para diferentes públicos.