La inteligencia artificial nos vuelve sonámbulos: reflexiones sobre la gobernanza algorítmica
En un análisis profundo del impacto de la tecnología digital en nuestra vida cotidiana, nosotros hemos leído las palabras de Daniel Innerarity, un catedrático de filosofía política en la Universidad Pública de Navarra, quien nos invita a reflexionar sobre cómo vivimos con las máquinas. La idea central que nos ha llamado la atención es la distinción entre respuesta refleja y reflexividad. Según nos cuenta Innerarity, toda la tecnología, y sobre todo la digital, provoca en nosotros respuestas automáticas, más que reflexivas. Funciona sin que tengamos que asumir una relación explícita con ella, y esto es especialmente intenso en lo digital, ya que pronto se reviste de una falsa neutralidad, se vuelve inadvertido y privilegia el automatismo frente a lo explícito.
Nosotros hemos considerado que esto crea un verdadero "inconsciente digital". Es una variación de la célebre idea de Langdon Winner sobre el "sonambulismo tecnológico", es decir, esa falta de conciencia sobre el desarrollo tecnológico y sus consecuencias, que nos hace creer que todo es indiscutido, funcional y neutro. No es que las decisiones clave sean delegadas en máquinas sin intervención humana, sino más bien que somos presionados a tomar decisiones de tal manera que no nos preguntamos quién es su verdadero autor. Los sistemas automatizados nos empujan a la irreflexividad, como describió Hannah Arendt: la incapacidad de criticar las instrucciones, la falta de reflexión sobre las consecuencias y la disposición a creer que las órdenes son correctas sin más.
La ideología de la razón algorítmica no es tanto una ocultación deliberada, sino esa irreflexividad. Su naturalización consiste en dejar de preguntarnos a qué clase de racionalidad responde la racionalidad algorítmica, pensando que no hay racionalidad alternativa o, al menos, una diversidad de posibilidades acerca de qué hacer con esa racionalidad. La gobernanza algorítmica parece legitimarse porque no impone, sino que complace, pero de este modo corremos el riesgo de estar tan satisfechos que dejemos de preocuparnos por las condiciones en que se ha producido esa satisfacción. Los algoritmos así entronizados tienen un efecto despolitizador.
¿Somos más libres cuando simplemente satisfacemos nuestras preferencias o cuando adoptamos una actitud reflexiva hacia ellas? Nosotros creemos que la democracia no es un sistema de satisfacción de necesidades, sino un sistema de reflexión colectiva sobre esas necesidades. Los seres humanos no solo expresan y persiguen deseos, sino que también disponen de la capacidad de juzgarlos, de modo que unos nos parecen más deseables que otros. La reflexividad introduce una distancia respecto de nosotros mismos, al menos respecto de lo que espontáneamente creemos preferir o nos recomiendan como nuestra preferencia, y en este sentido la convivencia democrática no descansa sobre individuos soberanos, sino sobre interlocutores que discuten acerca de lo común.
De ahí que tanto la utopía que piensa que la tecnología lo soluciona todo como la distopía que no ve en ella más que peligros tengan una visión profundamente ahistórica que sitúa el poder únicamente en la tecnología y no en el modo como los humanos nos apropiamos de ella. El neutralismo y el determinismo conciben la tecnología con independencia de su utilización social, como algo cerrado, definido y no susceptible de modulación; en el primer caso, porque no es necesario y en el segundo porque no es posible. Pensar así nos impide percibir los espacios de configuración democrática que tenemos a nuestra disposición, que no son ilimitados, pero tampoco inexistentes. La ideología del "inevitabilismo", como menciona Zuboff, desconoce que todas las tecnologías permiten algunas opciones, aunque el ámbito de posibilidades no sea infinito.
Finalmente, el determinismo tecnológico suele ir unido a una visión reduccionista de la tecnología, a la que no considera un fenómeno social y cultural, de manera que los dispositivos técnicos predeterminan su uso sin permitir que cada sociedad se apropie de ellos de acuerdo con su propia idiosincrasia y patrones culturales. La debilidad de este tipo de diagnósticos estriba precisamente en la idea de que sea siquiera posible una evolución tecnológica sin intervención humana. Esa intervención puede ser mejor o peor, pero está presente en el desarrollo de la tecnología mucho más de lo que piensan los deterministas. Nosotros concluimos que no podemos olvidar la importancia de mantener esa capacidad de reflexión crítica.