Algoritmos que recompensan o castigan a los ciudadanos de un país según los datos que recabados. En China o en India el gobierno algorítmico es realidad desde hace mucho tiempo. Pero también en Alemania los programas informáticos ya toman decisiones que tienen consecuencias para muchas personas.
El cruce al sur del puente Changhong en la metrópolis china de Xiangyang siempre está congestionado y es un caos. Los autos tocan bocina, los peatones cruzan la calle con el semáforo en rojo y los ciclomotores eléctricos se acumulan en el embotellamiento. A un lado de la calle hay una pantalla con numerosos retratos. ¿Otra de las numerosas publicidades? No, el monitor lo puso la policía en 2017 para imponer el orden. Muestra las caras de aquellos que han infringido las normas de tránsito y que fueron descubiertos con cámaras de reconocimiento automático de rostros. La idea es “avergonzarlos delante de sus vecinos y compañeros”, le dice una portavoz de la ciudad al New York Times. Al lado de las fotos figuran los nombres y los números de documento. Una medida ejemplar.
Las pantallas como la de Xiangyang son apenas un pequeña porción del aparato de vigilancia y control del gobierno. En el marco del nuevo sistema de crédito social, el Partido Comunista inició en los últimos años en diferentes ciudades proyectos piloto para recoger y comparar datos de las cámaras de seguridad, de los chats privados, de las compras online, y un largo etcétera. El objetivo es tener registrados en 2020 a todos los ciudadanos en un único sistema de calificación. Así, en un gigantesco esfuerzo de cálculo cada chino recibirá finalmente un puntaje que los algoritmos informáticos actualizarán de modo permanente. Para el gobierno autoritario, este paso resulta natural: así se podrá controlar individualmente a cada uno de los mil cuatrocientos millones de chinos.
Control y castigo mediante algoritmos
Se habla de gobierno algorítmico cuando las autoridades utilizan los gigantescos flujos de de datos de los medios sociales y de otras plataformas y delegan en una computadora la decisión de si un ciudadano es recompensado o castigado a partir de esa información. Las computadoras reconocen modelos y rutinas y ponen en práctica de modo automático medidas disciplinarias: quien devuelva la bicicleta de alquiler sin daños, no cruce con el semáforo en rojo o llegue puntualmente al trabajo será recompensado con puntos. Quien, por el contrario, critique online la política china o –y esto ya resulta suficiente– tenga repetidas veces contactos con personas de valoración negativa, tendrá que ver cómo sus puntos bajan sin cesar. Esto tendrá consecuencias drásticas: a las personas con un resultado bajo se les negará el acceso a aviones o trenes de alta velocidad. O a sus hijos, la asistencia a escuela privadas.
Vigilar con tanto detalle a los habitantes de un país, reunir toda la información sobre ellos y usarla en su contra no sólo es un ataque a la esfera privada sino que constituye una considerable limitación de las libertades personales. Pero no sólo en China las autoridades evalúan los datos personales, también en la India se intenta, con un registro individual, tener una visión general de la población.
Con el nombre de
Aadhaar (“fundamento”) se creó un banco de datos que tiene mil doscientos millones de usuarios registrados y ya abarca la mayor parte de la población india. Con un número de doce cifras en el que están contenidos el nombre, la edad, pero también una toma del iris y todas las huellas digitales, cada ciudadano puede identificarse de modo inequívoco y, por ejemplo, solicitar ayuda social. Esto, en teoría. La periodista india Rachna Khaira mostró a principios de año las debilidades del sistema: entró en contacto con hackers que por sólo quinientas rupias, es decir unos seis euros, le procuraron acceso a toda la base de datos. El banco de datos Aadhaar que, se supone, ha de impedir la distribución injusta y la estafa en la distribución de alimentos, ha resultado ser un problema cada vez más grande. Se dice que ya murieron personas porque no pudieron presentar documentos o porque no funcionó el reconocimiento biométrico. Además, hubo filtraciones que permitieron la publicación de millones de paquetes de datos.
Mujeres indias se registran en la base de datos Aadhaar.
| Foto (detalle): © picture alliance / NurPhoto
Hora de un debate sobre los datos en Europa
Tampoco en Europa resulta extraordinario el uso de algoritmos para el análisis de datos. Sin embargo, a diferencia de los riesgosos experimentos de los dos país más populosos de la tierra –China y la India– no son agentes estatales quienes con sus computadoras recaban gran cantidad de información personal. Por ejemplo, en Alemania está la aseguradora de crédito conocida como Schufa, que declara almacenar ochocientos sesenta y cuatro millones de datos sobre más de sesenta y siete millones de personas y cinco millones de empresas. Nadie sabe cómo funciona el proceso que al final decide si alguien puede alquilar una casa y obtener el contrato de un celular. También los criterios son secretos. Hay indicios de que, por ejemplo, las mujeres son desfavorecidas en la evaluación.
Alemania está muy lejos de denunciar públicamente en pantallas a los infractores del tránsito. Sin embargo se plantea la pregunta: ¿en qué medida pueden empresas como la Schufa o autoridades estatales reunir datos y utilizarlos? Es momento de cuestionar la legitimidad del gobierno algorítmico. En última instancia se trata de aceptar o no la delegación del control de la sociedad en procesos mecánicos. Si se los ajusta correctamente, los algoritmos pueden tomar decisiones de modo eficiente, veloz y justo. Pero si consideramos su uso actual, parece que estas ventajas apenas pueden compensar el gigantesco potencial de abuso, la intromisión en la esfera privada de cada individuo y la falta de transparencia en los procesos.
