Algoritmos y libre decisión
Calcular el yo

Hay programas informáticos que elaboran perfiles de usuario y determinan nuestro rol y nuestra conducta en la red. ¿Estamos perdiendo a manos de algoritmos nuestra libertad para decidir? El debate afecta también en Alemania a los usuarios que ven ante todo las ventajas.

Existen algoritmos, programas, basados en determinadas cadenas de órdenes, que, a partir de los datos que vamos dejando en nuestro camino por Internet, calculan nuestros hábitos de consumo y nuestro comportamiento comunicativo. De este modo dirigen nuestros resultados de búsquedas en la red o prescriben las modalidades de pago en tiendas por Internet en razón de nuestra dirección, un dato que permite sacar conclusiones con cierto grado de probabilidad acerca de nuestra situación económica.

El efecto de los algoritmos es una cuestión que se debate continuamente también en Alemania. Pues muchas personas se preguntan si los ordenadores las están sometiendo a una voluntad ajena. La idea de estar bajo la influencia de algo intangible e incomprensible para los legos en la materia genera inseguridad y, a veces, incluso angustia.

Máquinas que participan en las decisiones

Estos algoritmos son eficaces: mediante procedimientos matemático-estadísticos, es posible producir, partiendo del comportamiento anterior del usuario, predicciones sobre la verosimilitud de cualesquiera estados de cosas. Lo que vemos al visitar Facebook es lo que el algoritmo de Facebook ha calculado para que lo veamos, guiándose por cómo interaccionamos con los contenidos de la plataforma.

Por esta vía, sería teóricamente posible incluso influir en la formación de opinión política. Objeto de discusión desde hace ya largo tiempo, este fenómeno, denominado filter bubble, ha adquirido celebridad tal como lo formuló el activista estadounidense de la red Eli Pariser. En su libro del mismo nombre, editado en 2011, Pariser constataba que el flujo personalizado de novedades en Facebook le mostraba sobre todo contribuciones concordantes con sus opiniones políticas personales. De esta manera, el usuario se ve aislado en una "burbuja" que excluye información que contradiga sus propios puntos de vista. Pero la influencia de los algoritmos va aún más allá: hoy existen ya pronósticos elaborados por máquinas que participan en la decisión acerca de si se puede conceder un préstamo a una persona o qué prima le corresponde pagar en un seguro. A partir del lugar de residencia se calcula el riesgo de impago; a partir del estado de salud, el riesgo de caer enfermo.

Ahora bien, ¿hay realmente razones para preocuparse de que las personas hayan perdido el control sobre sus decisiones? Los cálculos que se consiguen mediante algoritmos no son pronósticos seguros, sino magnitudes probabilísticas. Los algoritmos tampoco aportan ninguna imagen del complejo sistema de valores mediante el cual decidimos en el contexto de cada situación concreta: no van más allá del nivel de acciones simples, como por ejemplo si haremos clic en un texto o si terminaremos comprando un producto.

Exigir transparencia

En cuanto a la filtración de la realidad que se da en un flujo de Facebook, tampoco es ningún problema nuevo que hayan creado los algoritmos. "En lo fundamental, la filter bubble es una burbuja más entre muchas otras. Nuestro entorno social también da forma a nuestra percepción de modo completamente concreto", afirma Ben Wagner, que dirige el laboratorio Internet y Derechos Humanos en la Universidad Europea Viadrina de Fráncfort del Óder. "Lo decisivo aquí es únicamente que seamos conscientes de ello en cada caso." Sin embargo, hay muchos algoritmos, como los de Facebook y Google, que no son transparentes. Los usarios de tales servicios no saben cómo allí se ha "elegido previamente" en su nombre. "En este momento existe el peligro de que queden excluidos grupos marginales, por ejemplo personas que, en razón de sus datos sanitarios, no podrán conseguir un seguro de enfermedad", advierten por tanto investigadores como Ben Wagner. La exigencia de mayor transparencia sigue siendo, así pues, la tarea fundamental de una "ética de los algoritmos".

Un debate público en Alemania

En la opinión pública alemana están muy presentes los críticos de la "algoritmización" del ser humano. Una de las voces más conocidas por sus advertencias sobre la amenaza fue Frank Schirrmacher, fallecido en el verano de 2014, periodista y coeditor del Frankfurter Allgemeinen Zeitung. En sus superventas Payback (2009) y Ego (2013), Schirrmacher sostenía que Internet es una droga y que los ordenadores han alterado nuestra manera de pensar. También hay políticos alemanes que llevan ya años previniendo frente a la "dictadura de los datos". Así, en su libro Finger weg von meinen Daten ("Que nadie toque mis datos", 2014), el eurodiputado de Los Verdes Jan Philipp Albrecht anuncia un ser humano cada vez con menos voluntad propia, degradado hasta convertirse en un sistema autooptimizado y calculable matemáticamente.

Frente a ello, se oyen también intentos de replantear a su vez críticamente los puntos de partida de dichas críticas. ¿Qué fuerza tiene realmente el poder de los algoritmos? ¿Por qué al criticar nos fijamos en supuestas consecuencias negativas que en ocasiones ni siquiera se han presentado aún, en vez de subrayar los aspectos positivos que ofrece también la digitalización?, se pregunta la escritora Kathrin Passig en la revista sobre la cultura de Internet Berliner Gazette. Por su parte, el historiador de la ciencia Klaus Mainzer, profesor en la Universidad Politécnica de Múnich, aboga por "destecnificar" el debate. Los algoritmos, según él, no son ni un invento de Silicon Valley ni algo "malo" por sí mismos. Tienen sus raíces, según escribía en consecuencia en su libro aparecido en 2014 Die Berechnung der Welt ("Calcular el mundo"), en la búsqueda de una manera matemática de describir los fenómenos y en la aspiración científica de construir una teoría del mundo. Y eso son cosas, concluye, que las personas llevan milenios haciendo.

Al mismo tiempo, llama también la atención que la ciudadanía alemana, a la vez que plantea acusaciones a la falta de transparencia de Google o Facebook, utilice sin embargo sus servicios cada vez con más intensidad. No se ve de momento que haya ninguna conciencia amplia de los riesgos, por no hablar de movimientos políticos al respecto. Por qué sucede así fue la pregunta que el Frankfurter Allgemeinen Zeitung planteó a la profesora de Derecho Indra Spiecker. La respuesta fue: "Simplemente, la tecnología es demasiado bonita". Quizá la cuestión sea aún mucho más sencilla: poder mantener contactos y redes a grandes distancias y con poco esfuerzo es un beneficio tangible que para muchas personas resulta más importante que unos riesgos notoriamente abstractos.