Sebastián Botticelli

Nuestros mundos no obedecen a tus mapas.

  

Enrique Bunbury

1. Un mundo de verdades sobreabundantes

Hubo tiempos en los que la verdad era retaceada, escatimada, recortada. El humano no era digno de ella: podía llegar a escucharla y a repetirla, pero muy difícilmente alcanzara a comprenderla. Aquel que de manera fortuita se encontrara en usufructo de la verdad suponía un peligro para sí mismo y para los otros, como quien manipula un arma cuyo funcionamiento desconoce. Por eso la verdad debía custodiarse, protegerse y ocultarse. Su eventual posesión debía estar siempre acompañada por la cautela y por el recelo, y entregarse, en el mejor de los casos, en dosis muy pequeñas. La mayoría de los humanos vivía privada de la verdad. En concordancia con la poderosa alegoría platónica en la cual lo bello, lo bueno y lo verdadero quedan equiparados entre sí a partir de la asignación de la figura de lo luminoso, aquellas épocas reciben retrospectivamente el nombre de “tiempos oscuros”.

Nuestra época, en cambio, está marcada por el signo contrario. La verdad se nos vuelve cada vez más accesible –o, al menos, así lo creemos–. Ella parece estar no ya allí, al otro lado de los muros que nos separan de las bibliotecas de las abadías, sino aquí, al alcance de la mano. Podemos acceder a la verdad casi sin restricciones, como si se tratara de un producto inagotable. Nunca pareció más fácil satisfacer nuestro deseo de poseerla. Oponiéndose diametralmente a aquellos tiempos oscuros, los nuestros se caracterizan por ser tiempos de clarividencia, de cenit polar, de una verdad que obnubila con luz perpetua (Cabanchik, 2021).

La verdad prolifera de tal modo que parece haber tantas verdades como sujetos que desean disponer de ella. Alcanza con ejecutar un gesto breve ante cualquier motor de búsqueda para que se presente frente a nosotros una lista de verdades customizadas entre las cuales podremos optar, sin que ello signifique quedar comprometidos, pues parece tratarse de verdades que no se imponen y que no obligan. Algo demasiado semejante a una moneda de cambio.

Los actuales problemas relacionados con la verdad no se vinculan con la estrechez de su acceso, sino con la amplitud de su recurso; no con su escasez, sino con su sobreabundancia. Y en este punto la sospecha debe comenzar, pues conviene recordar aquel refrán que enseñaba que, cuando la limosna es grande, hasta el santo desconfía. Valdrá entonces preguntar a qué tipología pertenecen estas verdades que hoy circulan entre nosotros y que se nos presentan como un recurso virtualmente inagotable. ¿Cuáles son los elementos que en ellas quedan vinculados?

Estas preguntas no apuntan a comprender, al menos en primera instancia, qué es la verdad. El ajuste de los objetivos responde menos al intento de esquivar el vértigo contenido en esa antigua cuestión, que al afán de buscar un horizonte reflexivo que se desmarque de las derivas ontológicas más habituales. Dentro del siempre interesante arco de problematizaciones filosóficas respecto de la verdad, aquí se tendrán especialmente en cuenta las perspectivas que la comprenden como una instancia nunca definitiva que juega un rol preponderante al interior de las dinámicas de producción de subjetividad.

Para estas perspectivas, la verdad surge de un proceso que no está recorrido por ninguna necesidad, pero tampoco por el mero caos. No hay en ella nada inevitable, pero tampoco es completamente aleatoria. Se establece sobre la base de ciertos regímenes de producción (Foucault, 1996). Así comprendida, la verdad no se descubre ni tampoco se autopresentifica, no se revela ni se manifiesta de un modo epifánico; antes bien, aparece como un posicionamiento sustentado por relaciones de saber-poder: una interpretación que exhibe efectos de poder y un poder que genera discursos verdaderos.

La verdad es producida sobre la base de ciertas reglas, parámetros y preceptos. Pero no es el resultado último de una cadena de montaje. A su vez, ella produce activa y dinámicamente, comprometiendo a los sujetos a través de la imposición de formas de obediencia y de la composición de criterios de decisión.

La verdad no pertenece al sujeto. El vínculo es inverso: es el sujeto quien corresponde a la verdad; o bien quien no lo hace, y por ello es castigado. Convertida en norma, la verdad es, en gran medida, aquello que nos hace ser quienes somos. Por todo esto, dirigir una mirada crítica hacia las dinámicas que asume la producción de verdad en nuestra actualidad –sus lógicas, sus formulaciones y sus efectos– implica en buena medida apuntar la reflexión hacia nosotros mismos.

Llegados a este punto, son otras las preguntas que aparecen. Se trata de preguntas tan incómodas como inevitables, preguntas que nos interpelan en nuestros aspectos más íntimos: ¿cuáles son las operaciones veridiccionales que caracterizan nuestra actualidad, que nos hacen ser lo que somos? ¿Qué es, en definitiva, aquello que hoy establece nuestra verdad?

La aproximación a esos regímenes permitirá comprender el funcionamiento de la verdad en cuanto producto que produce. Por ello no importará en principio identificar cuál es la verdad de nuestro tiempo, cómo podemos distinguirla o establecerla. Si hoy ya no somos nosotros quienes nos esmeramos en buscar la verdad, sino que, por el contrario, es la verdad la que sale a nuestro encuentro, resultará más significativo interrogar dónde ella reside, dónde ella descansa y desde dónde se nos manifiesta.

2. El algoritmo como dispositivo de una política general de la verdad

La verdad suele ser pensada, al menos en primera instancia, en sus vínculos con el plano epistémico. Tanto la filosofía del conocimiento como la filosofía de la lógica y la filosofía del lenguaje comparten una misma base desde la que enfocan el problema de la verdad. Este problema puede plantearse en términos correspondentistas, fenomenológicos, hermenéuticos o pragmáticos, cada uno de los cuales dará lugar a diversas líneas de análisis (Nicolás & Frápoli, 1997). Pero, más allá de sus diferencias, todos estos enfoques suponen el factum de la verdad, es decir, los principios de no contradicción, identidad y tercero excluido como sustrato sobre el que se asientan todos los criterios que se articulan para distinguir lo verdadero de lo falso. También suponen que toda acción cognoscitiva-racional ha de plantearse por objetivo la obtención de resultados verdaderos, cualquiera sea el modo de entender qué es lo verdadero, y cualquiera sea la función que a dichos resultados se les adjudique.

Estos enfoques –que son por mucho los más difundidos– pertenecen a lo que Friedrich Nietzsche señalara críticamente con el nombre de “voluntad de verdad”, tendencia básica que signó desde sus comienzos el despliegue de la metafísica occidental (Nietzsche, 1997). La consideración de la sospecha que Nietzsche dirige hacia ese factum de la verdad muestra hasta qué grado los interrogantes planteados en el apartado anterior se desmarcan de las tradiciones más antiguas. Preguntar qué tipo de verdad es aquella que circula hoy entre nosotros y que se nos presenta como un recurso virtualmente inagotable supone que los vínculos del sujeto con la verdad nunca son meramente epistémicos y siempre son, también, éticos, políticos y estéticos:

La verdad es de este mundo; se produce en él gracias a múltiples coacciones. Y detenta en él efectos regulados de poder. Cada sociedad tiene su régimen de verdad, su “política general” de la verdad: es decir, los tipos de discurso que acoge y hace funcionar como verdaderos o falsos, el modo como se sancionan unos y otros; las técnicas y los procedimientos que están valorizados para la obtención de la verdad; el estatuto de quienes están a cargo de decir lo que funciona como verdadero (Foucault, 2000, pp. 143-144).

El rastreo de las características de los regímenes de verdad que operan en nuestras sociedades, es decir, la recapitulación crítica de las condiciones de la política general de la verdad que configura nuestro mundo contemporáneo, permite comprender la producción de verdad como una tecnología de gobierno.

La noción de “tecnología de gobierno” remite a un conjunto de procedimientos ordenados con base en medios tácticos y fines estratégicos que se desarrollan para gestionar, orientar y dirigir las acciones humanas –acciones sobre acciones posibles–, así como también para estipular los modos de vinculación que los sujetos establecen con otros sujetos y consigo mismos (Foucault, 2013). Comprendida de esta manera, la verdad ya no será una instancia que espera ser develada por nuestra mirada escrutadora. Antes bien, configura uno de los elementos centrales de los dispositivos de producción de subjetividad, un resultado que se genera mediante instancias rituales, que es atraído por astucias y que se manifiesta según la ocasión (Foucault, 1994, pp. 694-695).

Entonces, dentro de las dinámicas de producción de verdad que hoy funcionan como tecnologías de gobierno, ¿qué elementos operativos se han incorporado al conjunto de criterios que ponemos en juego a la hora de articular nuestras decisiones? ¿Cuál es el dispositivo que mejor caracteriza la novedad al interior de las tecnologías de gobierno propias de nuestro mundo contemporáneo?

Este es el punto en el que hace su entrada la nueva herramienta de la verdad: el algoritmo informático que opera en combinación con las redes sociales y las posibilidades de registrabilidad del big data.

3. Sugerencias verdaderas

¿Qué relaciones pueden establecerse entre los nuevos usos de las tecnologías digitales de procesamiento de datos y las condiciones formales, institucionales y cualitativas que organizan nuestras sociedades contemporáneas? ¿Qué particularidades revisten las nuevas dinámicas generadas a partir de la digitalización de lo social en lo que respecta a los vínculos intersubjetivos que fomentan, el tipo de conocimiento que habilitan y los criterios decisionales que promueven? En definitiva: ¿qué tipo de verdad producen los algoritmos?

Algunas líneas de indagación que consideran estos emergentes interpretan la proliferación de los dispositivos de inteligencia artificial y de los algoritmos informáticos como la emergencia de un nuevo régimen de verdad:

Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se supone en exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa (Sadin, 2020, pp. 95-96).

Los resultados de los algoritmos ocupan el lugar de la verdad sin reclamarlo de manera explícita, comprometen a los sujetos en sus decisiones y funcionan como criterios que orientan la acción. En su combinación con la operatoria de las inteligencias artificiales y la registrabilidad del big data, producen una verdad prescriptiva y profética que se dirige hacia un futuro inmediato. Se trata de verdades que no se enuncian para referir a ninguna porción de la realidad, ni tampoco adoptan la forma de un mandato, sino que se presentan como sugerencias. Eso es, en definitiva, lo que los algoritmos producen: sugerencias verdaderas.

Estas sugerencias verdaderas se ajustan a las características del sujeto al que se dirigen, pero al mismo tiempo adoptan una formulación impersonal. Y al ser producida por operaciones cuya complejidad queda muy por encima de las capacidades de comprensión de la mente humana, aparecen barnizadas por el lustre de la objetividad.

Una de las aplicaciones centrales de las sugerencias verdaderas de los algoritmos se vincula con la posibilidad de intervenir en las dinámicas de consumo. En una época como la nuestra, esta función no es en absoluto menor. Son varias las líneas de pensamiento crítico que asignan al consumo de mercancías y servicios un rol preponderante dentro de las actuales formas de producción de la subjetividad. En efecto, las preguntas kantianas respecto de qué puedo conocer, qué debo hacer y qué me está permitido esperar parecen haber quedado hoy subsumidas a un interrogante mucho menos abarcador y universal pero mucho más inmediato y urgente: ¿qué debo consumir?

En relación con el consumo, el algoritmo ofrece opciones en apariencia infinitas. Pero tiene la consideración de ordenarlas jerárquicamente para nosotros, priorizando aquellas opciones que, según sus cálculos –pero también según sus propósitos–, habrán de resultarnos más convenientes. Al realizar esta jerarquización, el algoritmo refuerza el poder de sus resultados. Pues ocurre que los sujetos forjados en nuestra contemporaneidad tenemos la comodidad como objetivo innegociable. Si nos lo propusiéramos, podríamos ampliar el rango de variables a indagar y considerar para decidir, por ejemplo, entre mercancías de características similares. Pero está claro que preferiríamos no hacerlo. La tarea de comparar, sopesar y luego decidir nos resulta tediosa; supone un gran esfuerzo y se lleva demasiado de nuestro tiempo.

Las sugerencias de los algoritmos serán siempre preferibles porque ya se han hecho acreedoras de nuestra confianza ciega (y perezosa). Lo curioso –casi paradojal– es que somos nosotros quienes convertimos esas sugerencias en verdaderas al dejarnos guiar por ellas. Y las elegimos porque confiamos en que sus posibilidades de acierto son mayores a las que podríamos alcanzar si nos orientáramos utilizando exclusivamente nuestro entendimiento. En ese sentido, la verdad que los algoritmos producen funciona de un modo pseudo-oracular.

En las culturas clásicas, los oráculos no ocultaban ni revelaban la verdad; solo la insinuaban. Y podían hacer eso porque conocían la serie de sucesos pasados, presentes y futuros que los mortales ignoraban. La verdad de los oráculos era críptica: desocultaba en la misma medida en la que ocultaba. Se trataba de una verdad que debía ser descifrada.

La verdad del algoritmo se asemeja a la del oráculo en cuanto que su formulación está basada en pautas y en datos cuya compilación y ordenamiento resulta imposible para las capacidades de los mortales. Pero se diferencia diametralmente de aquella por tratarse de una verdad que, a partir de su simpleza, se comprende con claridad meridiana: nada oculta, nada hay que descifrar. La comprensión de sus resultados no exige ningún esfuerzo de parte de quien los recibe. Ni siquiera demanda obediencia bajo amenaza de castigar con maldiciones a quienes eventualmente decidan ignorarlos. Los algoritmos son oráculos gentiles que solo piden a cambio de sus predicciones el depósito de nuestra confianza. Y lo hacen con la mayor de las amabilidades.

4. Algoritmos y consumos culturales: ¿dónde está la novedad?

Intentemos la siguiente comparación entre dos situaciones de nuestra vida cotidiana.

Si, a fines de los años 90, necesitábamos transitar una noche de insomnio leyendo un libro o viendo una película, podíamos ponderar con relativa facilidad la parte de la oferta disponible que dejábamos de lado al elegir: los libros no leídos, las películas no vistas. Si nuestras preferencias se inclinaban por un libro, nos dirigíamos a nuestra biblioteca hogareña y elegíamos aquel que supusiéramos más adecuado a nuestro ánimo entre los, por caso, trescientos ejemplares que quedaban al alcance de nuestra mano. Los otros doscientos noventa y nueve permanecerían allí, en los estantes, esperándonos. Si, en cambio, nuestras preferencias se inclinaban por una película, podíamos dirigirnos a los anaqueles que guardaban nuestros DVD, o bien –si el insomnio amenazaba con ser demasiado persistente– podíamos trasladarnos hasta la tienda de alquiler de videos, donde la oferta sería mucho más cuantiosa, pero todavía registrable por nuestras capacidades de abstracción y representación. En cualquiera de estos casos, reteníamos cierta conciencia de lo que dejábamos sin leer o sin ver, manteníamos cierto padrón de lo que podríamos disfrutar en alguna ocasión futura. Se trataba de definir la mejor opción dentro de un abanico imaginable.

Ahora bien, trasladada a nuestro presente, esa misma situación muestra otra complejidad. Pues, en el momento en el que nos convertimos en abonados de plataformas como Amazon o Netflix, la lista de libros o de películas a los que podemos prestarles atención en una noche de insomnio –o en cualquier otro momento– se vuelve virtualmente infinita. Ante ese panorama, quedamos rápidamente convencidos de que nuestra elección nunca habrá sido óptima, pues es seguro que existen miles de novelas, canciones, películas o videojuegos que podrían habernos brindado más conocimiento, emoción o placer que aquel que hemos elegido. Y todos ellos están, por igual, a nuestro alcance, a un clic de distancia (Citton, 2015).

En este punto, más que una expresión de libertad, la elección se ha convertido en una carga abrumadora que nos asoma a una suerte de parálisis mental. Algunos autores remiten a esta situación en términos de “tiranía de la elección”, y otros llegan a considerar la eventual decisión de “elegir no elegir” como una forma de emancipación (Salecl, 2011; Schwartz, 2005; Sunstein, 2020).

Debido a que la cantidad de opciones a nuestra disposición supera exponencialmente nuestras capacidades reflexivas, parecemos estar condenados a delegar nuestras elecciones a procesos externos. Es allí donde surge la maravillosa y al mismo tiempo inquietante fuerza de los motores de búsqueda de las plataformas, los cuales se presentan haciendo gala de su impresionante poder de filtrado: seleccionan, ordenan y eligen por nosotros lo que es más probable que nos satisfaga.

Los algoritmos de las plataformas balizan las posibilidades de nuestra experiencia convirtiéndose en un vector capaz de conducirnos desde nuestro deseo hasta nuestra satisfacción. Queremos que los algoritmos lleven una contabilidad de nuestras elecciones pasadas para que sobre esa base puedan asistirnos en la determinación de nuestras preferencias futuras de una manera más eficaz y eficiente que la que podríamos establecer empleando únicamente nuestra inteligencia y nuestra voluntad.

El algoritmo se arroga la capacidad de desarrollar elecciones racionales con un grado de eficacia y eficiencia exponencialmente superior al que podrían lograr las facultades humanas. Su accionar no tendría fallas. La superioridad de la inteligencia artificial en lo que concierne a las elecciones racionales obligaría a tomarla como guía. Atendiendo a sus sugerencias, alcanzaríamos el máximo grado de satisfacción posible y, al mismo tiempo, estaríamos cumpliendo con el mandato de la comodidad. No habría ningún camino mejor ni más simple que convertir las sugerencias algorítmicas en disposiciones de nuestra voluntad.

Ahora bien, aunque estos registros permitan señalar una serie de transformaciones relevantes, es necesario todavía darle a su análisis una complejidad mayor, pues resulta difícil establecer con precisión cuáles son los puntos en los que, en torno a estas cuestiones, el hoy se distingue concretamente del ayer. La automaticidad, la efectividad y la velocidad con las que los algoritmos calculan la orientación y los gustos de millones de usuarios para perfilar la “singularidad” de cada uno de ellos no dejan de ser asombrosas. Pero esto no significa que, antes de la aparición de las plataformas, los consumos culturales se desplegaran en el más libre de los albedríos. Siempre hubo criterios de selección y jerarquización que hacían que ciertas opciones estuvieran más presentes y fueran más alcanzables que otras.

Contrario a lo que podría suponer el consumidor despreocupado, la proliferación de los productos de la industria cultural no redunda necesariamente en una ampliación del acceso público a ellos, así como tampoco supone una mayor diversidad de los contenidos. En tiempos de administración algorítmica, los consumos culturales son digitalizados pero no democratizados.

Será importante, por lo tanto, tomar distancia de dos actitudes que polarizan este campo de discusión. Convendrá apartarse del optimismo evolucionista que suele presidir las reflexiones que toman por objeto a las tecnologías digitales, el cual muy a menudo convierte cualquier transformación en novedad absoluta y, al hacerlo, anula las posibilidades de la crítica histórica. Y convendrá separarse igualmente de cierto criticismo dogmático y cerril que entiende que nada de fondo ha cambiado y que todo puede explicarse con categorías gestadas durante el industrialismo del siglo xix.

¿Dónde, entonces, se ubica la especificidad de las novedades que enfrentamos?

La novedad de esta época parece estar dada por la multiplicación exponencial de las posibilidades de registrabilidad y de procesamiento de nuestras elecciones en favor de un modo específicamente capitalista de orientar los consumos culturales a través de las tecnologías de la información (Berti, 2022). Habitamos un medio que registra cada acto convirtiéndolo en insumo para la estadística. Los resultados de esas proyecciones estadísticas generan perfilamientos que luego operan al interior de los dispositivos que nos subjetivan. Se trata de una suerte de profundización de la dimensión tecnológica de la existencia humana que habilita una nueva infraestructura global de mapeo de la vida social (Stiegler, 2003; Simondon, 2007). Esta infraestructura produce cultura a partir de la inscripción y el registro de los individuos en agrupaciones poblacionales que habilitan el establecimiento de recurrencias y la identificación de variables constantes, así como también la detección de irregularidades y anomalías, configurando una nueva gobernanza algorítmica (Rouvroy y Berns, 2018; Pasquinelli, 2019): una gestión de las acciones humanas que tiene al algoritmo como dispositivo central, y que adquiere una potencia inédita a partir de su capacidad de retroalimentarse con aquello mismo que produce.

5. Comodidad irreflexiva y horizontes poshumanos

La verdad ya no es del orden de lo divino. Ya no se oculta tras ningún código indescifrable. Ha dejado de ser un producto escaso para convertirse en todo lo contrario: está aquí, al alcance de nuestra mano. Descansamos en ella a partir de su cercanía. No es una verdad que nos señala un camino que deberemos recorrer por nuestra cuenta; se trata de una verdad que se presenta como derivación última, como punto de llegada, como meta. Y nos resulta fácil confiar en ella, pues no necesita ser comprendida ni ser puesta a prueba. Lo único que la verdad algorítmica pide de nosotros es que la confirmemos con la ejecución de nuestras prácticas y en ellas.

El régimen de verdad de los algoritmos aspira a intervenir en cada uno de los asuntos humanos y a tallar en toda circunstancia. La verdad que este régimen engendra proviene de una fuente única, eliminando de facto el principio de una aprehensión plural del mundo que habitamos y que componemos: el mundo mediado por el algoritmo no será –no podrá ser– nuestro; antes bien, customización mediante, será solo mío.

La verdad que este régimen produce se inscribe en una temporalidad de la inmediatez, revelando estados de hechos en el momento mismo en el que esos hechos tienen lugar, impulsándonos en consecuencia a actuar en el menor lapso posible y deslegitimando el tiempo específico que demanda la sedimentación de nuestra comprensión de la complejidad. Dentro de este horizonte, ya no tendría sentido intentar una analítica que se despliegue solo sobre la generación de dispositivos tecnológicos, comprendidos como objetos separables de la producción de verdad. La tecnología ya no es el medio a través del cual la verdad se revela; antes bien, se ha convertido en el medium dentro del cual y a partir del cual ella se configura y se manifiesta (Sadin, 2020).

En un sentido tradicional, señalar que los resultados de los algoritmos son verdaderos equivaldría a afirmar que estos se corresponden en alguna medida con lo real. Pero este criterio no aplica aquí. Las verdades que el algoritmo ofrece no se vinculan con ninguna hipótesis por confirmar o refutar (Anderson, 2008). En su desplazamiento espiralado, las sugerencias de los algoritmos ganan para sí la condición de “verdaderas” a partir de una eficacia que aumenta exponencialmente, retroalimentada por la repetición a la que conduce la confianza que en ella se deposita.

Ver únicamente alguna de las películas, escuchar únicamente alguna de las canciones, leer únicamente alguna de las noticias o comprar únicamente alguno de los productos que aparecen en los primeros lugares de los listados que el algoritmo nos ofrece, ya sea que los busquemos, ya sea que salgan a nuestro encuentro, aproxima a las verdades algorítmicas a una forma de apriorismo. Escoger siempre dentro del acotado rango de opciones al que los algoritmos nos enfrentan y nunca fuera de él valida la sugerencia convirtiéndola en acierto y refuerza doblemente el hábito que se constituye de uno y de otro lado de la pantalla: a nivel informático, el registro de nuestras opciones se acumula en las bases de datos que se utilizan para diseñar tendencias, y a nivel de la modulación subjetiva, nuestro acostumbramiento al supuesto aporte con el que los algoritmos alivianan la laboriosa tarea de elegir consolida esta paradojal dinámica de la inercia.

Esta observación refuerza la posibilidad de interpretar la aplicación de las lógicas algorítmicas como una nueva tecnología de gobierno que orienta nuestras conductas a partir de la creencia en las bondades de las clasificaciones que los algoritmos articulan, la cual termina produciendo uno de los resultados más peligrosos: la delegación de la elección. Por ello, el conjunto de tecnologías del cual el algoritmo es hoy el mascarón de proa supone un nuevo impulso para una antigua tríada de tendencias humanas, demasiado humanas: la pereza, la cobardía y la comodidad irreflexiva:

La pereza y la cobardía son causa de que una tan gran parte de los hombres continúe a gusto en su estado de pupilos, a pesar de que hace tiempo la Naturaleza los liberó de ajena tutela (naturaliter majorennes); también lo son de que se haga tan fácil para otros erigirse en tutores. ¡Es tan cómodo no estar emancipado! Tengo a mi disposición un libro que me presta su inteligencia, un cura de almas que me ofrece su conciencia, un médico que me prescribe las dietas, etc., etc., así que no necesito molestarme. Si puedo pagar, no me hace falta pensar: ya habrá otros que tomen a su cargo, en mi nombre, tan fastidiosa tarea (Kant, 1941).

La verdad por revelación mediada por los dispositivos informáticos, la aletheia algorítmica del siglo xxi que refiere Eric Sadin (2020, pp. 16-20), aparece como lo más alejado del “Atrévete a saber” (Sapere aude) que, a fines del siglo xviii, impulsaba Immanuel Kant, o del coraje de la verdad sobre el que, durante las últimas décadas del siglo xx, reflexionaba Michel Foucault.

En la verdad algorítmica se anudan las condiciones y las posibilidades de realización de la comodidad irreflexiva. Resuena en ella la gran promesa de la tecnología moderna, a saber, liberar a los seres humanos de todo esfuerzo evitable, allí donde justamente la frontera que divide lo evitable de lo inevitable pasa a estar fijada por la misma lógica tecnologizante: si pueden hacerlo las máquinas, no debe hacerlo el humano (Marx, 1968; Sadin, 2020).

Esta lógica recorrió gran parte del siglo xix y por cierto todo el siglo xx, no sin encontrar durante su despliegue críticos y detractores que alertaban sobre las formas de alienación y sobre las nuevas posibilidades de acumulación de capital que el industrialismo generaba, entre muchas otras problemáticas cuya enumeración total sería aquí imposible. Pero, llegados a nuestra actualidad histórica, encontramos nuevos reparos que interponer toda vez que comprendemos que ya no estamos hablando de la fabricación de heladeras o automóviles, sino de tareas que involucran la toma de decisiones, las cuales –a su vez– requieren ponderaciones articuladas por alguien sobre una base racional-valorativa. La capacidad de reemplazar a ese alguien decisor por un algo capaz de cumplir esa tarea (algo ya no humano, algo que no se agota, que no se cansa y, sobre todo, que casi no se equivoca) se presenta como la mayor potencialidad que las tecnologías algorítmicas ofrecen al mundo actual y al mundo futuro.

En la misma clave en la que Slavoj Žižek observa que hoy queremos disfrutar del amor sin enamoramientos y sin los conflictos que todo enamoramiento comporta (love without the falling in; ‘amor sin peligro de caída’), con el mismo sentido en el que hoy proliferan productos fabricados “sin sus propiedades perjudiciales” (crema baja en grasa, café sin cafeína, cerveza sin alcohol), hoy preferimos acceder a la verdad sin pasar por el esfuerzo que supondría su búsqueda, hoy preferimos dejar que algo otro decida por nosotros, sin tener que correr ningún riesgo y sin tener que establecer ningún compromiso. Una verdad sin costes de reflexión y una acción sin consecuencias incalculadas.

Nos acomodamos al interior de la superficie definida por un utilitarismo remozado que traduce en objetivos de optimización generalizada las dinámicas de valorización del capital. En un sentido gnoseológico, ya no podemos comprender cómo las máquinas llegan al resultado que nos ofrecen, pero, aun así –y quizás justamente por ello–, confiamos. Y en un sentido ético, ejecutamos las sugerencias que los algoritmos nos proponen con el aliciente de sentir que al hacerlo nos desprendemos de la responsabilidad que esa ejecución conlleva.

Esta delegación tanto de la reflexión y del pensamiento como del compromiso y de la obligación es una marcada muestra de que la impronta algorítmica nos asoma a la posibilidad de un horizonte en el cual la tecnología habría devenido medio para la liberación de los humanos, no solo en el sentido de la satisfacción de las necesidades materiales, sino también en lo respectivo al relevamiento de sus exigencias éticas. Este horizonte detentaría no otro signo que el del poshumanismo, pues, una vez liberado de sus límites y de sus responsabilidades, lo humano se desvanecería para dar lugar a otra cosa.

6. Cursos posibles para una resistencia futura

Un futuro que se despliega en una dirección que resulta contraria a cualquiera de las señaladas por la impronta del Sapere aude, un futuro donde el ser humano delega su elección en un sistema maquinal, donde elegimos no elegir, donde preferimos que un algo otro decida y acierte o se equivoque por nosotros, es un futuro frente al cual debemos mantener una atención vigilante y contra el cual debemos accionar (aquí los verbos se conjugan en tiempo presente, pues estas afirmaciones no aspiran a funcionar como predicción ni como pronóstico, ni menos aún como profecía; antes bien, apuntan a poner en entredicho la figuración que hoy, ya en acto, tenemos de nuestro mañana). El motivo puede expresarse en una formulación muy simple, aunque el calado de dicha formulación sea muy profundo: un futuro pletórico de verdades sin coraje es un futuro empobrecido.

Por supuesto, bien entrado el siglo xxi, ya no queda margen para sostener la figura ilustrada del sujeto racional soberano de todas sus decisiones, émulo del Leviatán. Es bien conocido que las heridas narcisistas –en particular, las infligidas por Freud y el psicoanálisis– han desangrado hasta la extenuación el ideal del reino de los fines kantiano, y que las críticas materialistas, las filosofías feministas y las perspectivas decoloniales, entre otras, han mostrado que quizás ese agotamiento haya acontecido enhorabuena.

Pero, echando mano a otro consabido refrán, flaco favor nos haríamos tirando al niño con el agua del baño. No es menester descartar precipitadamente la totalidad de una construcción epocal por más rechazo que merezcan las partes lesivas, injuriosas e incluso nefastas que esta pudiera comprender. Y lo es todavía menos cuando asumimos que, guste o no, somos hijos de aquella construcción y debemos hacernos cargo tanto de su herencia como de sus deudas.

La impugnación del racionalismo universalista moderno no puede suscribirse con liviandad si con ello resignamos también el ejercicio de la libertad positiva y el riesgoso derecho al acierto y a la equivocación en primera persona. Por todo esto, lo dicho hasta aquí no debe leerse en clave de añoranza romántica de un humanismo eurocéntrico, pretérito y rancio, sino que debe interpretarse como un llamado a retener las condiciones de posibilidad de toda ética.

La exigencia de una argumentación que sustente lo afirmado en los párrafos anteriores supone uno de los desafíos más importantes que hoy debe encarar el pensamiento crítico. Quizás la forma más adecuada de comenzar dicha argumentación sea enfocar las relaciones de poder en su compleja trama, pues se trata en definitiva del trasfondo que coagula todo lo señalado hasta este punto.

Si, en el despliegue de sus operatorias, el poder aspira al horizonte de la dominación –aunque nunca lo alcance–, nuestra atención debe apuntar hacia los dispositivos que este va configurando y hacia los resultados intermedios que esos dispositivos persiguen (la noción foucaultiana de “redes de poder” cobra aquí especial relevancia).

En su camino hacia la dominación, el poder tiene por objetivo intermedio aumentar el grado de predictibilidad del accionar de los sujetos; en términos de Hannah Arendt, reducir las posibilidades de la acción a las regularidades de la conducta (Arendt, 2003, pp. 199-276). El camino más tradicional para generar esta regularidad pasa por la obediencia. Y la obediencia es un resultado que puede darse sobre la base de la intimidación, el miedo y el terror. Pero también puede perseguirse fomentando otro tipo de actitudes, más sutiles, como podrían ser la dependencia, la subordinación y la docilidad.

La producción de sugerencias verdaderas por parte del algoritmo se vincula de un modo mucho más estrecho con el segundo conjunto de estas tecnologías, pues necesita el correlato de subjetividades dispuestas ya no a renunciar de una vez y para siempre a su derecho a elegir, pero sí a delegar esa facultad en un dispositivo “inteligente” que se presenta afirmándose en su condición no humana para ocultar el sesgo de su programación y para envolver sus resultados con el aura de la objetividad, la eficacia y la eficiencia.

Delegación y no renuncia, pues el sujeto debe retener para sí la posibilidad última de validar (hacer verdadera) la sugerencia, o bien de no atender a ella. Un horizonte de inmediatez y de mayor comodidad, pero que encierra el peligro del acostumbramiento y la consiguiente atrofia tanto de la voluntad como de la facultad de decidir.

Si el fomento de la tendencia a la delegación de las decisiones es una de las dinámicas con las que hoy el poder busca producir (modular) sujetos dóciles, y si –siguiendo a Foucault– entendemos que la resistencia es todo aquello que impide que el poder avance hasta absolutizarse, se vuelve imperioso pensar en las complejidades que suponen estas nuevas imbricaciones entre lo humano y lo tecnológico. Ante las implicancias de dispositivos como los algoritmos y sus productos, las sugerencias verdaderas, sospechar debe fortalecerse como pauta, calibrar peligros debe consolidarse como método, y resistir debe convertirse en urgente necesidad.

Haciendo a un lado toda tecnofilia cándida y crédula, y procurando ir más allá de cualquier tecnofobia impracticable e inconducente, vale considerar tres cursos para una resistencia posible: el ludismo, el aceleracionismo y la indocilidad reflexiva. Los dos primeros atienden centralmente a las actitudes que los sujetos pueden tener frente a la tecnología. El tercer curso de acción, sin desconocer la imbricación entre lo humano y lo tecnológico, enfoca el tipo de vínculos que los sujetos pueden establecer consigo mismos.

El ludismo supone que el desarrollo de ciertas tecnologías, especialmente aquellas vinculadas a la producción económica, genera una desaparición de nichos laborales a gran escala, lo que tiene consecuencias profundamente perniciosas como la deshumanización o la alienación. Por ello invita a la destrucción de las maquinarias que suponen una amenaza para los medios de vida de las poblaciones, en especial, de las más desfavorecidas en relación con el reparto de la riqueza (Thompson, 1979).

El aceleracionismo, por su parte, sugiere que la manera más eficaz de resistir a las tecnologías impulsadas por el capitalismo no pasa por destruirlas o destituirlas, sino por acelerar sus lógicas de funcionamiento hasta precipitar cambios radicales. Esta mirada entiende que el capitalismo engendra en su impulso tecnológico las condiciones de su propia destrucción. Por ello, acelerar los procesos de la producción capitalista conduciría a una suerte de colapso que abriría las puertas a nuevas formas de organización social y económica (Srnicek y Williams, 2017). Contra los algoritmos del capital, el aceleracionismo propone inventar nuevas máquinas del común, máquinas que intervengan en este eje maestro de la producción mundial para organizar nuevas formas de política. Desde una lectura por cierto particular de Marx, los cultores de esta perspectiva proponen no resistir a la modernidad, sino más bien intervenir en ella, comprendiendo que, a pesar de la explotación y la alienación que le son intrínsecas, el capitalismo sigue siendo el sistema económico más avanzado dentro de la era que nos toca vivir. En consecuencia, sus ventajas no deben ser revertidas, sino aceleradas más allá de las restricciones de la valorización capitalista. Por lo tanto, una política aceleracionista buscará preservar los logros del capitalismo tardío y, al mismo tiempo, ir más allá de su sistema de valor, sus estructuras de gobernanza y sus patologías de masas (Pasquinelli, 2014).

Desde supuestos diferentes y cada uno a su manera, ludistas y aceleracionistas invitan a generar una ruptura con la organización actual de la producción socioeconómica y una reevaluación de cómo debería ser la vida humana en relación con la tecnología y con el reparto de la riqueza. El ludismo intenta detener o retroceder la dinámica del cambio, mientras que el aceleracionismo trata de llevarla a su punto de quiebre. En este sentido, podrían considerarse dos caras de la misma moneda: el afán de una transformación radical en todos aquellos elementos que quedan comprendidos en la intersección entre tecnología y capitalismo.

Ahora bien, ¿cómo se rompe un algoritmo? ¿Se organizan hordas de saqueadores que recorran los grandes centros urbanos arrebatando y pisoteando dispositivos móviles y notebooks? ¿Se cortan los cables submarinos que interconectan los continentes, algunos de los cuales se hunden a más de ocho mil metros de profundidad? ¿Se incendian las granjas de servidores, muchas de las cuales se encuentran instaladas en las zonas más remotas del planeta? ¿Y cuántos cables o cuántas granjas sería necesario destruir para que el funcionamiento de la red se vea efectivamente afectado?

¿Y cómo se acelera un algoritmo hasta hacerlo colapsar? ¿Se clickea frenéticamente y al mismo tiempo en todos los dispositivos que se encuentran a nuestro alcance, buscando saturar sus capacidades de registro? ¿Se lo desorienta escuchando en las plataformas canciones de heavy metal y luego bachatas y boleros, viendo series infantiles y luego películas de terror? ¿Se opta secuencialmente por todas las sugerencias que el algoritmo nos plantea hasta agotar la lista?

Estas preguntas, como queda claro, están formuladas con irónica malicia. Lejos de hacer honor a las complejidades conceptuales de tendencias como el ludismo o el aceleracionismo, componen una suerte de caricatura injusta. Sin embargo, esa caricatura alcanza para señalar que, en las condiciones de nuestro mundo contemporáneo, las posibilidades de realización efectiva de una y otra requieren de un muy exigente ejercicio de imaginación política.

Distinto es el caso del curso de acción de resistencia que supone la indocilidad reflexiva. Ya en su denominación, esta actitud aparece como el contrario más preciso de la comodidad irreflexiva que fuera caracterizada en los apartados anteriores. Desde su impronta foucaultiana, la indocilidad reflexiva se comprende como una actitud ético-política que se configura como la contraparte de las tecnologías de gobierno. Ella abarca los focos de resistencia experimental, aquellas “contraconductas” en las que se manifiestan la voluntad de “ser conducidos de otra manera, por otros conductores y otros pastores, hacia otras metas y otras formas de salvación, a través de otros procedimientos y otros métodos” (Foucault, 2006, p. 53); la voluntad de no ser gobernados del modo en el que lo estamos siendo, la cual se despliega indefectiblemente en una dimensión siempre local y de un modo siempre estratégico.

Anteriormente se señaló que la verdad es, en gran medida, lo que nos hace ser quienes somos. Lo que comenzamos a temer es que la verdad algorítmica desarrolle la capacidad de monopolizar las definiciones de quiénes somos y las orientaciones respecto de quiénes nos convendría ser. En ese sentido, los algoritmos habrían llegado para hacernos la vida más fácil –en apariencia–, pero a costa de nuestra soberanía (Botticelli y Dalmau, 2024).

Se dijo antes que, mediado por la customización del algoritmo, el mundo no será más “nuestro”, sino “solo mío”. La sentencia que contraría aquella, la que afirma que el mundo es y seguirá siendo indefectiblemente “nuestro”, debe funcionar en estos tiempos que corren (y que parecen corrernos) como mascarón de proa. Debemos aspirar a que este mundo nuestro no se oriente exclusivamente por los designios disfrazados de sugerencias que el algoritmo elabora para todos y para cada uno, esas cartas astrales que no solo pretenden informarnos dónde estamos, sino que además aspiran a indicarnos hacia dónde debemos ir.

Si las verdades algorítmicas se nos presentan como un atlas de caminos trazados con certeza y garantía, quizás no estaría nada mal procurar alejarnos de esos senderos para perdernos, para arriesgarnos a enriquecer las posibilidades de nuestra experiencia, allí donde nuestra voluntad –aquello de lo que las máquinas carecen– siga funcionando como sustrato. En definitiva, echando mano de la frase de Enrique Bunbury que actúa como epígrafe de este texto, que nuestros mundos no obedezcan a sus mapas.

Bibliografía citada

Anderson, C. (20 de noviembre de 2008). El fin de la teoría: El diluvio de datos, ¿hará obsoleto el método científico? Tercera Cultura. Ciencia para el debate público.

Arendt, H. (2003). La condición humana. Paidós.

Berti, A. (2022). Nanofundios. Crítica de la cultura algorítmica. UNC / La Cebra.

Botticelli, S. y Dalmau, I. (2024). El problema de la soberanía en el pensamiento político contemporáneo: arqueo-genealogía y deconstrucción. Universum. Revista de Humanidades y Ciencias Sociales, 39(1), 155-174.

Cabanchik, S. M. (2021). Comunicación y silencio en el sentido ético de nuestra crisis. En Humanismo y posthumanismo. Crisis, restituciones y disputas (pp. 233-252). Teseo.

Citton, Y. (2015). Des livres de la liberté aux algorithmes néolibéraux. En B. Lescaze, Facettes du libéralisme (pp. 163-183). Slatkine Editions.

Foucault, M. (1994). Préface in Jackson (B.), Leurs prisons. Autobiographies de prisonniers américains, Paris. En M. Foucault, Dits et écrits. 1954-1988. II.1970–1975 (pp. 694-695). Gallimard.

Foucault, M. (1996). La verdad y las formas jurídicas. Gedisa.

Foucault, M. (2000). Un diálogo sobre el poder y otras conversaciones. Alianza.

Foucault, M. (2006). Seguridad, territorio, población. Curso en el Collège de France (1977-1978). Fondo de Cultura Económica.

Foucault, M. (2013). La tecnología política de los individuos. En La inquietud por la verdad. Escritos sobre la sexualidad y el sujeto (pp. 239-256). Siglo xxi Editores.

Kant, I. (1941). ¿Qué es la Ilustración? En Filosofía de la Historia (pp. 17-22). Fondo de Cultura Económica.

Marx, K. (1968). Manuscritos de economía y filosofía. Alianza.

Nicolás, J. A., y Frápoli, M. (1997). Teorías actuales de la verdad. Diálogo Filosófico, (38), 148-178.

Nietzsche, F. (1997). Más allá del bien y del mal. Alianza Editorial.

Pasquinelli, M. (2014). Gli algoritmi del capitale. Accelerazionismo, macchine della conoscenza, e autonomia del comune. Ombre Corte.

Pasquinelli, M. (2019). How a machine learns and fails. A grammar of error for artificial intelligence. Spheres. Journal for Digital, 5, 1-17.

Rouvroy, A. y Berns, T. (2018). Gobernabilidad algorítmica y perspectivas de emancipación: ¿lo dispar como condición de individuación mediante la relación? Ecuador Debate, 104, 124-147.

Sadin, E. (2020). La inteligencia artificial o el desafío del siglo. Caja Negra Editora.

Salecl, R. (2011). The Tyranny of Choice. Profile Books.

Schwartz, B. (2005). The Paradox of Choice: Why More Is Less. Harper.

Simondon, G. (2007). El modo de existencia de los objetos técnicos. Prometeo.

Srnicek, N. y Williams, A. (2017). Manifiesto por una política aceleracionista. En A. Vanessian y M. Reis (comps.), Aceleracionismo. Estrategias para una transición hacia el postcapitalismo (pp. 33-48). Caja Negra.

Stiegler, B. (2003). La técnica y el tiempo I: El pecado de Epimeteo. Ediciones Hiru.

Sunstein, C. (2020). Choosing Not to Choose. Understanding the Value of Choice. Oxford University Press.

Thompson, E. P. (1979). Tradición, revuelta y conciencia de clase. Estudios sobre la crisis de la sociedad preindustrial. Crítica.