Avances y retrocesos
“La tecnología no es neutra”

Expertos discuten de qué manera los algoritmos pueden amplificar el racismo y el sexismo en la sociedad, y señalan que los prejuicios raciales suelen estar embebidos en programas de reconocimiento facial y en las inteligencias artificiales.

De Ana Paula Orlandi

¿La practicidad y el confort que brinda la tecnología inhiben nuestros movimientos de cambio y nos llevan a la inercia? ¿Qué estratos sociales están moviéndose efectivamente y usufructuando esos avances tecnológicos? ¿La tecnología profundiza las desigualdades en nuestra sociedad? Estas fueron algunas de las preguntas que formuló Silvana Bahia, directora de Olabi, un laboratorio de innovación y tecnología con sede en Río de Janeiro, en Brasil, durante un workshop online realizado el pasado 20 de octubre, en el marco del proyecto Tramas Democráticas y referente al tema de la inercia.

Un sustantivo femenino

Al reflexionar sobre la democratización de la tecnología, Bahia dio a conocer algunos de los proyectos que ha llevado adelante Olabi, a ejemplo del PretaLab, creado en el año 2017. Se trata de un abanico de iniciativas orientadas al estímulo y la inserción de las mujeres negras en las áreas de tecnología e innovación. “Es un proyecto y también una causa, que apunta a dialogar con esas mujeres que constituyen un 28% de la población brasileña. [La docente, filósofa y activista estadounidense] Angela Davis dice que cuando una mujer negra se mueve, toda la sociedad se mueve con ella”, sostiene Bahia. “PretaLab existe por eso: pretendemos salir de la inercia y hacer mover a la sociedad”.

Uno de los objetivos de ese proyecto consiste en conectar a esas mujeres con las empresas del sector. Por este motivo, en el sitio web de PretaLab es posible encontrar alrededor de 400 perfiles de mujeres negras que actúan en las áreas de tecnología e innovación en Brasil. “Me encanta decir que la tecnología es un sustantivo femenino, que no está lejos de las mujeres, tal como pretenden hacérnoslo creer.”

Los hombres blancos y ricos del hemisferio norte

La plataforma también cuenta con una página de datos sobre ese mercado de trabajo en Brasil. Entre noviembre de 2018 y marzo de 2019, PretaLab concretó, en asociación con la consultora multinacional ThoughtWorks, la investigación intitulada #QUEMCODABR, para estudiar el perfil de las y los profesionales de la tecnología que trabajan actualmente en el país. De acuerdo con dicho estudio, se trata fundamentalmente de varones (un 68%), blancos (un 58,3%), jóvenes (un 77%) y provenientes de las clases socioeconómicas media y alta (un 60%). Con todo, este panorama no constituye una exclusividad brasileña, tal como acota Bahia: “Los CEO de las grandes plataformas de tecnología, como Facebook, Waze, Spotify y Twitter, son todos hombres blancos ricos y del hemisferio norte”.

De acuerdo con Bahia, es necesario cuestionar a la tecnología permanentemente. Muchos de sus estudios en este momento, comenta la investigadora, siguen en su orientación las referencias del libro Algorithms of Oppression (o “Los algoritmos de la opresión”, inédito en Brasil), de la investigadora Safiya Noble, de la Universidad de California. En esa obra, publicada en 2018, Noble investiga de qué manera los algoritmos pueden amplificar el racismo y sexismo en el seno de la sociedad. “Los proyectos de inteligencia artificial se valen de los datos de un pasado opresor que expresan siglos de colonización y esclavización”, asevera Bahia.

La directora de Olabi también llama la atención al respecto del hecho de que el avance digital no necesariamente genera bienestar en la sociedad. “La tecnología abunda actualmente, pero no por eso nuestros problemas sociales han disminuido”, sostiene. “Hay que pensar que la tecnología no es neutra: está vinculada con la política y con la economía, y puede incrementar las desigualdades y comercializar nuestros datos. Debemos estar atentos”.

Los datos y la privacidad

Este encuentro del proyecto Tramas Democráticas contó también con la presencia de M. Radwan en carácter de invitado. Radwan forma parte del colectivo Tactical Tech, una organización no gubernamental con sede en Berlín abocada a investigar y alertar sobre los impactos de la tecnología en la sociedad. Y en el workshop hizo referencia al proyecto The Glass Room, una exposición interactiva desarrollada a partir de 2016 que ya ha sido vista en más de 40 países en distintos formatos, ahora con una nueva edición en 2020. La versión de estreno, con más de 50 objetos y cinco bloques temáticos, atrajo a alrededor de 60 mil personas cuando pasó por Berlín, Londres, Nueva York y San Francisco.

“Juntamos objetos de arte, diseño y tecnología para abordar el tema de la privacidad, los datos y nuestra relación con las tecnologías y las plataformas en la vida cotidiana”, explica Radwan, quien coordina el proyecto. Según él, “hablamos de cosas reales que están sucediendo ahora, como el prejuicio racial embebido en los programas de reconocimiento facial y en las inteligencias artificiales utilizadas para reconocer personas, por ejemplo”. Y acota que “este proyecto desmitifica los problemas concernientes a estos temas sin generar miedo, cosa que suele ocurrir y que termina por alejar a la gente. Intentamos atraer a la mayor cantidad de personas para empezar debatir estos asuntos.”

Internet de las cosas

El éxito de la primera edición de esta muestra hizo que Tactical Tech recibiera consultas de profesionales de otros lugares del mundo interesados en recibir a The Glass Room. Con base en esa convocatoria, la ONG elaboró una versión pocket de la exposición con el título de Internet of Things (IoT). “Es una versión de bajo costo, portátil y con menos objetos. De este modo, más personas pueden disfrutar de la experiencia y reflexionar sobre la tecnología en los lugares donde viven”. Una nueva edición de la muestra, también en formato pocket, se estrenó ahora en 2020. Con el título de Misinformation Edition, esta exposición puede visitarse virtualmente y se encuentra disponible en nueve idiomas.

Una de las metas de esta última edición consiste en enseñarle al público a reconocer y combatir la desinformación. El tótem Deepfake Lab, por ejemplo, suministra pistas acerca de cómo identificar un video con contenido adulterado mediante herramientas avanzadas de inteligencia artificial. Otro tema que se aborda en la exposición es la adicción a la tecnología. Entre otros elementos hay un manual llamado Data Detox Kit, que contiene orientaciones paso a paso para que los usuarios disminuyan su exposición en internet.