Torque y potencia en la trastienda de la automatización de lo común

Paula Bustos Paz^[1] y Gustavo Gordillo^[2]

Técnica, opacidad y cultura algorítmica

La tesis con la que José Ortega y Gasset (1996) comienza la serie de clases que dicta en 1939 arroja algo de luz sobre nuestras relaciones actuales con la técnica. El filósofo español comienza planteando que “sin técnica el hombre no existiría ni habría existido nunca”, con el fin de mostrar que habitamos un ambiente artificial que hace posible la existencia humana en los términos en que la conocemos (Ortega y Gasset, 1996). Sin embargo, propone luego un contraargumento para resaltar que, aunque la técnica no sea consubstancial al humano, sino un añadido que sobrevivió accidentalmente a su existencia elemental y primaria, no es posible negar que, desde hace un largo tiempo que la técnica es un componente ineludible de la vida humana. En otras palabras, el humano no puede existir sin la técnica, en tanto que no vive en la naturaleza, sino alojado en una “sobrenaturaleza” generada por él. Ahora bien, la particularidad que tiene la concepción de técnica en Ortega (1996) proporciona una interesante lupa teórica para el presente, puesto que la conceptualiza en términos de “transparencia” y “opacidad”. Con el desarrollo de las sociedades industriales, la técnica deja de ser un fenómeno visible y sencillo para tornarse cada vez en un procedimiento complejo que se esconde a la percepción directa del humano. Por ejemplo, el humano pasa de ver errar un caballo o labrar un campo a desconocer los procesos por los que se genera energía en un motor de combustión interna. Así, Ortega (1996) sugiere que el hombre moderno es más ignorante de las condiciones en las que vive. En ese sentido, cabe preguntarnos sobre la cultura algorítmica que, desde hace aproximadamente veinte años, media cada vez más nuestros vínculos sociales. En otros términos, ¿qué tan opacos se volvieron nuestros vínculos con los algoritmos de aprendizaje automático? ¿Cuánto sabemos de lo que ocurre detrás de una pantalla cuando damos un inofensivo golpe de tecla para aceptar la sugerencia de una serie en las plataformas de streaming, o para retroalimentar nuestras ideas con modelos de lenguaje en chatbots?

De la “caja negra” al nooscopio: infraestructura y extracción

Agustín Berti (2022) propone que los algoritmos que motorizan las plataformas de streaming cumplen la función de extraer datos para la perfilización de los usuarios en vistas a mejorar las ofertas de entretenimiento. Los espejos negros, o mejor dicho las pantallas como las de los Smart TV o las de los Smartphone, esconden aparatos de extracción de datos mientras miramos, tecleamos o escuchamos. La estructura que se mueve por detrás puede ser pensada de diferentes maneras, por ejemplo, según Matteo Pasquinelli y Vladan Joler (2021) es un “Nooscopio” o instrumento de extracción de conocimiento en el que se estructura un universo de precariedad laboral. La perspectiva operaísta de estos críticos desafía la identificación conceptual entre la IA y la “caja negra”. El diagrama del Nooscopio, o arquitectura de los sistemas de IA de aprendizaje y generación maquínicos, consta de tres elementos que operan de manera cooperativa: el primero es un objeto observable (o datos de entrenamiento), el segundo es un instrumento de observación (o algoritmo de aprendizaje) y el tercero es una representación final (o modelo estadístico). De esta manera, Pasquinelli y Joler (2021) sostienen que el procedimiento mediante el cual la IA de aprendizaje maquínico traza un “mapa” del mundo no es inescrutable u opaco, como sugiere la lógica del efecto “caja negra”. El aprendizaje automático

no aprende nada en el sentido propio de la palabra, como lo hace un humano; el aprendizaje maquínico simplemente mapea una distribución estadística de valores numéricos y establece una función matemática que, con suerte, se aproxima a la comprensión humana (Pasquinelli & Joler, 2021, p. 7)

Racionalidad neoliberal y economía de plataformas

Ahora bien, la lógica económica neoliberal traza el marco en el que se desarrollan estas tecnologías extractivistas de la cultura. En este panorama, Guillermo Vega (2019) sostiene que las posiciones neoliberales, europea y norteamericana, coinciden en postular la “libertad” y la “competencia” como principios reguladores de la actividad social. Para la Escuela de Friburgo, las sociedades deben organizarse con una lógica empresarial regulada por el derecho para la libre competencia. En contraste, la Escuela de Chicago sostiene que la ley debe eliminar costos de transacción sin interferir en la maximización de utilidades. En otros términos, para la variante europea, el mercado es algo creado que el Estado de derecho debe regular mínimamente para garantizar los principios de libertad y competencia, pero, para la variante norteamericana, el mercado debe autorregularse^[3] y constituirse como “principio de regulación de otros órdenes” (Vega, 2019). Sin embargo, el pensamiento neoliberal del siglo XX coincide en que el mercado debe gobernarse para garantizar su existencia y permanencia, por lo que “el derecho juega un papel fundamental en los modos de pensar lo económico y en las estrategias programáticas desplegadas en torno del gobierno del mercado” (Vega, 2019, p. 54).

Desde mediados del siglo XX, los principios de la economía de mercado están en la base de las formas de gobierno de la gran mayoría de las sociedades occidentales. En este escenario aparece la IA como un producto de la libertad y competencia económicas de las corporaciones digitales, cuyos fines son el “extractivismo de datos” y la construcción de “dobles estadísticos” (perfilización) para la generación y distribución de contenido en vistas a la monetización de la “atención”. La IA es otro síntoma de esta lógica gubernamental que emplaza al mercado como principio de regulación de los diferentes órdenes sociales, debido a que los algoritmos machine learning y deep learning trazan una economía de plataformas en la que la cultura es apropiada, codificada y acumulada por las corporaciones como “bien de cambio” (Berti, 2022). En otros términos, en el marco de la racionalidad neoliberal, el problema que nos presenta la IA radica en dos aspectos, a saber, que los algoritmos generativos están entrenados para administrar y gestionar la atención como “bien de cambio”, y que este entrenamiento no sólo carece de una regulación estatal, sino que parte de un general intellect, lo que podemos entender como un modo silencioso e invisible de explotación laboral.

Automatización, excedente y explotación del general intellect

En el marco del “operaísmo”, Tiziana Terranova (2017) plantea que la IA no es solamente un acontecimiento técnico, sino también un fenómeno político y económico que exige una revisión a la luz de las categorías marxistas de “plusvalía” y “automatización”. Los algoritmos operan a través de una “cultura estadística” generada mediante el extractivismo inconmensurable e invisible del general intellect (Terranova, 2017). Por ejemplo, entre 2009 y 2015, Google se propuso digitalizar todos los libros del mundo, pero algunas imágenes de las páginas escaneadas no eran del todo claras. Para acelerar la corrección humana/artesana realizada en las oficinas de Silicon Valley, Google implementó el servicio de autenticación reCAPTCHA. Cuando había algún “ruido” en la imagen, el software lo remitía a este sistema para que lo enviara a “evaluadores” humanos que debían autenticar su realidad no maquínica mediante la decodificación de esos caracteres. De este modo,

sin que lo sepamos, un dispositivo de cribado para evitar el ingreso de ciertas máquinas digitales funciona al mismo tiempo como fuente de trabajo humano gratuito para otras máquinas (y sus dueños) […] Cumplida esa labor, hoy le estamos enseñando a Google a mirar, cada vez que nos pide que identifiquemos sendas peatonales o semáforos en una imagen fraccionada en una grilla (Berti, 2022, p. 183).

Terranova (2017) sostiene que el libre capitalismo de datos ve en la información la fuente para el incremento y acumulación desigual de las riquezas^[4], y que esta lógica de mercado se mantiene, reproduce y continúa gracias a procesos de autorregulación o de economía de mercado. En este colonialismo epistémico, entonces, la relación entre humano e IA presenta algunas resignificaciones de la división de clases del sistema capitalista: (a) los “medios de producción” digitales son monopolios^[5]; (b) hay un establecimiento y consolidación de una “cultura hegemónica” en redes sociales y plataformas de streaming, cuyo fin es moldear conductas, gustos, preferencias y construir identidades funcionales a los intereses del mercado (maximizar y efectivizar el tiempo frente a las pantallas).

Posthumanismo débil e hibridación: más allá del instrumentalismo

En este plano de tensiones políticas y económicas generadas por los monopolios de las máquinas informacionales, cuya “opacidad” esconde una explotación de nuestras fuerzas productivas (habilidades, conocimientos y capacidades físicas) a una velocidad importante, se vuelve necesario repensar otra de las aristas de la noción de técnica propuesta por Ortega (1996). Esta posición consiste en añadir a la técnica un carácter instrumental e identificar en ella una tendencia a la automatización. En cuanto a la primera acepción, la técnica es una serie de procedimientos que transforman la naturaleza y crean artefactos con el propósito de generar una condición material de “bienestar” (Ortega y Gasset, 1996). El humano es un ser técnico que modifica la circunstancia para que en ella exista lo que no hay, de modo que la técnica es la adaptación del medio al sujeto para su existencia placentera. Por lo tanto, implica procedimientos que le permiten al humano no solamente “estar en el mundo”, sino también “estar bien” (Ortega Gasset, 1996).

La discusión con esta posición instrumental de la técnica se basa en que responde a un modelo humanista, caracterizado por plantear diferencias ontológicas substanciales entre humanos y no humanos, específicamente entre humanos y objetos técnicos. Al instrumentalizar la relación humano-técnica, la naturaleza y los artefactos son entidades al absoluto servicio del humano. Sin embargo, desde la noción de posthumanismo débil que propone Diego Parente (2020) para la filosofía de la técnica, podemos decir que la perspectiva de Ortega (1996) carece del reconocimiento del aspecto agencial de lo no humano, que en este caso son los objetos técnicos y la naturaleza. Parente (2020) entiende que una mirada más completa de nuestra relación con este tipo de objetos debe darse desde la categoría de “hibridación”. A diferencia de la noción de “uso”, que implica una determinación unidireccional que va del usuario al objeto, la categoría de hibridación

tiene la ventaja de pensar la imbricación entre las habilidades humanas y el tipo de andamiaje artificial en el que dichas habilidades emergieron evolutivamente. Hablar de “hibridación” es una alternativa conceptual que juega un papel de “justo medio” en la medida en que deja abierta la posibilidad de comprender a las cosas en sí mismas (por ejemplo, los vínculos cosas-cosas, no mediados por intereses, valores o interacciones humanos) pero no renuncia a pensar cómo y en qué sentido ellas están entrelazadas con nuestras intenciones, prácticas y capacidades cognitivo-agenciales (Parente, 2020, pp. 339-340).

Esta consideración posthumanista de la técnica evita las visiones instrumentalistas y deterministas de la relación humano-objeto técnico. Es decir, ni el humano conduce la técnica, ni la técnica conduce al humano en términos plenos. Según Parente (2020), la noción de hibridación destaca cómo los medios disponibles nos configuran efectivamente, tanto en nuestras metas y prácticas como en nuestras capacidades cognitivo-agenciales en un sentido amplio. Esto significa que no solo somos creadores de nuestros artefactos, sino también configurados por ellos, de manera que prácticas cotidianas están inextricablemente ligadas a las posibilidades que estos ofrecen y restringen simultáneamente. En esta línea posthumana, Claudio Celis Bueno ve

necesario pensar los algoritmos de aprendizaje automático como el resultado de una compleja red que incluye máquinas técnicas y máquinas sociales, elementos orgánicos y elementos inorgánicos. No se trata de preguntar ya si los algoritmos piensan o no (la ya canónica disputa sobre la posibilidad de una inteligencia artificial general), sino de investigar la composición de esta red de elementos técnicos, naturales y sociales responsables tanto de la producción de lo humano como de los actuales algoritmos que predicen y moldean sus hábitos, afectos, y deseos (y que delimitan el territorio de posibilidades de nuestra imaginación) (2021, p. 8).

De esta manera, si toda creación artificial reviste agencia y se estructura en una red compleja, cabe preguntarnos lo siguiente: ¿cómo podemos esbozar una conceptualización más o menos prudente de nuestras relaciones con los algoritmos de aprendizaje automático en el capitalismo de plataformas? En este marco político y económico, ¿qué proporciona la tecnología como capital fijo?

Tiempo libre y atención: torque y potencia

Desde este marco relacional, podemos reabrir el problema clásico del excedente en condiciones de automatización algorítmica. En este sentido, la concepción de técnica de Ortega (1996) nos proporciona una clave relevante para pensar un futuro inmediato del mundo del trabajo, en la medida en que vincula la automatización con la absorción de habilidades prácticas y cognitivas del humano. En esta línea, podemos establecer una conexión entre la crítica a la automatización algorítmica desarrollada por Terranova (2017) y la formulación orteguiana del problema del esfuerzo y su ahorro. En efecto, al preguntarse por el destino del esfuerzo liberado por la técnica, Ortega anticipa una cuestión que hoy reaparece bajo nuevas condiciones: ¿qué ocurre con el tiempo y la energía que la automatización sustrae al trabajo humano? En términos del propio filósofo:

¿No se cae en la cuenta de lo sorprendente que es que el hombre se esfuerce precisamente en ahorrarse esfuerzo? Se dirá que la técnica es un esfuerzo menor con que evitamos un esfuerzo mucho mayor y, por lo tanto, una cosa perfectamente clara y razonable. Muy bien; pero eso no es lo enigmático, sino esto otro: ¿Adónde va a parar ese esfuerzo ahorrado y que queda vacante? La cosa resalta más si empleamos los otros vocablos y decimos: si con el hacer técnico el hombre queda exento de los quehaceres impuestos por la naturaleza, ¿qué es lo que va a hacer, qué quehaceres van a ocupar su vida? Porque no hacer nada es vaciar la vida, es no vivir; es incompatible con el hombre. La cuestión, lejos de ser fantástica, tiene hoy ya un comienzo o de realidad. Hasta una persona aguda, ciertamente, pero que es sólo economista –Keynes– se planteaba esta cuestión: dentro de poco –si no hay retroceso, se entiende– la técnica permitirá que el hombre no tenga que trabajar más que una o dos horas al día. Pues bien: ¿qué va a hacer el resto de las veinticuatro? De hecho, en no escasa medida, esa situación es ya la de hoy: el obrero trabaja hoy ocho horas en algunos países y sólo cinco días–y según parece éste será el porvenir inmediato general; trabajar sólo cuatro días semanales–; ¿qué hace ese obrero del resto enorme de su tiempo, del ámbito hueco que queda en su vida? (Ortega y Gasset, 1996, p. 13).

En el fondo, la cuestión es la siguiente: en el sistema capitalista neoliberal, la tecnología se vuelve un capital fijo que automatiza tareas. La consecuencia es la liberación de fuerzas productivas o, lo que es igual, tiempo libre. Ahora bien, en el capitalismo de plataformas, o de aplicaciones publicitarias como Google y Facebook, de la nube como Amazon Web Services y de productos como Spotify y Netflix (Srnicek, 2018), tanto Terranova (2017) como Celis Bueno (2021) y Berti (2022) entienden que este excedente debe ser “reanudado” al sistema productivo para producir valor. La automatización del trabajo está asociada a la implicación entre capital y tecnología, cuya naturaleza relacional tiende a ubicar al ser humano como suplemento de la máquina. La pregunta por este fenómeno tiene una historia crítica que se remonta al famoso texto “Fragmento sobre las máquinas” (1857-1858). En este trabajo, Karl Marx define a la automatización como un proceso de absorción en la máquina de las fuerzas productivas generales del humano, de tal manera que se muestran como atributos del capital. Mientras el autómata industrial era un organismo de máquinas termodinámicas y humanos, el autómata digital es un sistema electrocomputacional constituido por máquinas eléctricas, humanos y algoritmos generativos. La automatización digital, con la reedición del desplazamiento y la caducidad de algunas labores históricamente humanas, abre un espacio problemático para el excedente de las fuerzas productivas. Al automatizarse tareas rutinarias o monótonas, queda abierto un nuevo escenario del trabajo, cuyos desafíos pueden ir desde la administración del tiempo libre a la reorganización virtuosa entre humano y algoritmo. Terranova (2017) advierte que el autómata digital tiene como punto de fuga la liberación de energía y tiempo de trabajo, por lo que el capitalismo de plataformas pronto “reanuda” este excedente al sistema productivo. Por lo tanto, dice Terranova, lo que caracteriza a la economía capitalista en el marco del desarrollo tecnológico es que

el excedente de tiempo y energía no es simplemente liberado, sino que es reabsorbido constantemente en el ciclo de producción de valor de cambio, lo que conduce a la creciente acumulación de riqueza por parte de unos pocos (el capitalista colectivo) a expensas de muchos (las multitudes) (Terranova, 2017, pp. 97-98).

Por su parte, Celis Bueno identifica que,

Desde esta perspectiva, las plataformas digitales se convierten en verdaderas “líneas de producción” cuyo modelo de negocio se levanta sobre la generación de valor a partir de la extracción de todo tipo de datos de las actividades de sus usuarios. Al usar estas plataformas (muchas de ellas “gratis”), los usuarios están “trabajando” para las corporaciones digitales que luego generan una renta a partir de la información extraída y procesada (2021, p. 5).

En esa misma línea, Berti (2022) plantea que habitamos un orden político caracterizado por la “administración algorítmica de la cultura”, cuyo fin es la captura y gestión de la atención. Partiendo de la semántica del latifundio, Berti (2022) propone el concepto de “nanofundio”^[6] o “granjas de servidores” para clasificar este nuevo orden político/económico, dado que las distintas plataformas a las que tenemos acceso se fundan y funcionan a partir del “extractivismo de datos”, por ejemplo, para esta reanudación del tiempo libre, podemos indicar las redes sociales y las plataformas de streaming. Pablo “Manolo” Rodríguez sostiene que la arquitectura política que trazan estas plataformas consiste en

la administración capitalista de la cultura que se diferencia de las anteriores por el uso de una infraestructura informacional que permite codificar toda la vida social. Los contenidos son digitalizados, pero no democratizados, y la industrial cultural, detrás de la fachada de la tradicional oferta de contenidos, actúa por medio de los reconocimientos de patrones y la explotación de una economía de la atención para “mirar cómo miramos” y para “escuchar cómo escuchamos” (2022, p. 14).

Los sistemas machine learning y deep learning tienen como fin “gestionar” y “conducir” la atención de los sujetos. El ejercicio del poder algorítmico se expresa en la manera de “guiar”, “direccionar” u “orientar” la atención (conducta) de los sujetos que se ubican detrás de los diversos tipos de pantalla. Los sistemas de IA no pretenden homogeneizar a las masas que emplean plataformas digitales, sino clasificarlas o armar perfiles individuales para gobernar las conductas de la atención con eficiencia personalizada. En otras palabras, los humanos sumidos en el scroll^[7] o en una maratón en Netflix son el resultado de una programación algorítmica, en el sentido de que la “atención” fue reanudada con éxito a la oferta de contenido. Por ejemplo, pasado algún tiempo, Netflix pregunta “¿aun sigues ahí?”. Con esto, la plataforma intenta asegurarse de que mantiene el control de cierta porción vital de los humanos: su atención. Como indica Berti (2022), las corporaciones generaron una “infraestructura de la percepción” de la “vida social” para la construcción de perfiles individuales, con el motivo de anticipar conductas, acciones y comportamientos, que se traducen en ganancias o incremento de las utilidades de este capitalismo postindustrial.

De lo dicho hasta aquí sobre las implicancias de la automatización del trabajo mediante la tecnología, se desprende que las relaciones humano-máquina superan la dicotomía instrumentalismo-determinismo. Si bien aquí pusimos mayoritariamente el foco sobre la administración del tiempo que se libera, estamos en condiciones de decir que la capacidad de agenciamiento que estructura el vínculo cuerpo-capital-trabajo esconde una instancia de posible insurrección humana. Con el capitalismo de plataformas es cierto que las fuerzas productivas se reincorporan rápidamente al sistema productivo, pero, visto desde el enfoque de la hibridación, las máquinas no hacen del humano un autómata, ni el humano hace de las máquinas sus herramientas. Sin embargo, retomando el foco sobre la lógica del capitalismo de plataformas, tenemos que decir que la administración ubicua de la atención liberada por la automatización del trabajo se vuelve energía (torque) que se entrega al sistema en el menor tiempo posible (potencia). En otros términos, así como un motor de combustión interna entrega fuerza o energía en el menor tiempo posible, el humano entrega el excedente de sus fuerzas productivas a la misma velocidad con que pasa videos durante el scroll, y a la misma velocidad con que acelera el próximo capítulo de la serie, rechaza un anuncio y selecciona otro.

Cierre

En este trabajo, examinamos los puntos de fuga de la automatización algorítmica del trabajo en el capitalismo de plataformas, atendiendo a las formas que asume el tiempo libre en las dinámicas de captura de la atención mediadas por pantallas. Mostramos que este excedente no se libera, sino que es sistemáticamente reabsorbido por las lógicas de valorización del capital, en un marco neoliberal que extiende la racionalidad de mercado a la vida social.

Desde un posthumanismo “débil”, propusimos una lectura relacional de la técnica que permite comprender este proceso más allá del instrumentalismo y el determinismo. En este sentido, al recuperar –en sintonía con el gesto simondoniano– las nociones de “torque” y “potencia”, sugerimos que la atención opera como una forma de energía capturada y modulada algorítmicamente. Así, el tiempo libre deviene en una superficie de inscripción de un régimen técnico que organiza tanto la producción de valor como las condiciones contemporáneas de la experiencia.

Bibliografía

Celis Bueno, C. & Sticchi, F. (2021). ¿Sienten los algoritmos sus cuerpos eléctricos? Reflexiones sobre el trabajo vivo a partir de San Junípero. La Fuga (25), 1-11. https://shorturl.at/vZyWQ

Berti, A. (2022). Nanofundios: crítica de la cultura algorítmica. La Cebra

Ortega y Gasset, J. (1996). La meditación de la técnica y otros ensayos sobre ciencia y filosofía. Revista de Occidente

Parente, D. C. (2020). El giro posthumanista en las humanidades y sus implicaciones para la filosofía de la técnica. Isegoría, (63), 329-348. https://shorturl.at/FU40h

Pasquinelli, M. & Joler, V. (2021). El Nooscopio de manifiesto. La inteligencia artificial como instrumento de extractivismo del conocimiento. La Fuga, 25, 1-20. https://shorturl.at/b8YP7

Rinesi, E. (2003). Política y tragedia. Hamlet, entre Maquiavelo y Hobbes. Colihue

Rodríguez, P. (2022). Sobre el arte de contar y de pensar. En A. Berti, Nanofundios: crítica de la cultura algorítmica. La Cebra.

Srnicek, N. (2018). Capitalismo de plataformas. Caja Negra

Terranova, T. (2017). Red stack attack! Algoritmos, capital y la automatización del común. En A. Avanessian & M. Reis (Comps.), Aceleracionismo. Estrategias para una transición hacia el postcapitalismo. Caja Negra

Vega, G. (2019). Intervencionismo jurídico y neoliberalismo. El problema del gobierno del mercado, en J. Bartlett & D. Chao (comps.), El gobierno como problema. Objetos y abordajes en clave de gubernamentalidad, UNNE: Teseopress

---