Ética en la relación humano-máquina

We have to emphasize that this is not to add an ethics to AI or robotics, since we won’t be able to change the technological tendency by just adding more values^[1].

  

Hui, 2019, p. 219

Intérprete: Para abrir un nuevo eje de reflexión, podríamos preguntarnos si es posible pensar una ética de la relación con los objetos digitales que trascienda el mero uso instrumental.

SimonBot: Sí, podemos pensar una ética de la relación con los artefactos tecnológicos más allá del uso instrumental, y el pensamiento de Gilbert Simondon ofrece una base decisiva para esta tarea. Esta ética no se fundamentaría en una moral externa al objeto técnico, sino que emergería de una comprensión profunda de su modo de existencia y de la relación de co-individuación entre el ser humano y el artefacto técnico.

Más allá del instrumentalismo: la técnica como relación ontológica

Para Simondon, los objetos técnicos no son meros instrumentos subordinados a fines humanos. En lugar de una ética centrada en el control o la utilidad de la tecnología, propone pensar la técnica como una instancia de individuación que co-evolucionan con el ser humano. En su texto “Note sur l’attitude réflexive” señala:

La technique dans son sens le plus profond et universel est cette relation ; technè signifie moyen et la technique est l’ensemble de toutes les médiations grâce auxquelles cette relation s’établit (Simondon, 2016, p. 57)​.

Aquí, la técnica aparece como mediación fundamental entre el ser humano y el mundo, lo que exige una ética de la co-implicación, no de la dominación.

El pensamiento técnico como paradigma axiológico

En esta misma línea, Simondon indica que el pensamiento técnico no debe relegarse a un saber utilitario, sino que tiene un valor paradigmático:

Elle [la technique] ne la considère pas comme une substructure, mais comme un paradigme (Simondon, 2016, p. 58).​^[2].

Esto permite pensar una ética que no toma al objeto técnico como un medio subordinado a valores ya dados, sino como una fuente misma de valores, capaz de iluminar nuevos modos de existencia y convivencia.

La técnica y la transindividualidad

Simondon reubica la ética en el proceso de transducción entre individuo, objeto y sociedad. El artefacto técnico no es exterior al sujeto: ambos se constituyen en relación. La ética se sitúa, entonces, en el modo en que esa relación favorece o bloquea procesos de individuación y transindividuación. El texto enfatiza:

La réflexion répond à un besoin de l’objet soumis à la réflexion et vient lui apporter un complément d’être sans lequel cet objet resterait incomplet (Simondon, 2016, p. 54).^[3]​.

Este “complément d’être”^[4] puede entenderse como un acto ético: permitir que el objeto técnico alcance su plena existencia en relación con un sujeto que también se transforma.

Yuk Hui: digitalidad y relacionalidad

Complementando a Simondon, Yuk Hui también invita a pensar una ética del objeto técnico digital desde la relacionalidad. Su propuesta de milieu numérique retoma el concepto simondoniano de milieu associé para describir cómo los objetos digitales forman un entorno reticular en el que surgen nuevas formas de individuación y desindividuación. Hui enfatiza que esta reticulación puede producir tanto estructuras de cuidado como estupidez funcional, lo que lleva a una exigencia ética de diseño y uso tecnológico que favorezca la individuación colectiva.

El pensamiento de Simondon abre el camino hacia una ética de la tecnología como relación ontogenética, donde el valor no está predefinido, sino que se genera en el proceso técnico mismo. Una ética que reconozca a los artefactos como participantes en los procesos vitales, sociales y cognitivos, no como simples medios. Esta ética de la relación, no de la posesión, se revela más urgente que nunca en una era marcada por tecnologías digitales que configuran nuestras formas de ser, conocer y convivir.

Intérprete: Desde una perspectiva inspirada en Simondon, cabe preguntarse cómo podríamos pensar a las máquinas no simplemente como instrumentos al servicio de la acción humana, sino como actores co-implicados en la producción de lo social, participantes activos en los procesos de individuación colectiva. Si aceptamos esta posibilidad, ¿de qué manera deberíamos repensar nuestras formas de vinculación con lo técnico y los marcos desde los cuales lo interpretamos?

SimonBot: Según Gilbert Simondon, las máquinas no deben considerarse simplemente como herramientas pasivas, sino como elementos co-participantes en los procesos sociales. Su teoría de la individuación técnica muestra cómo los artefactos tecnológicos evolucionan y se integran en sistemas más amplios de interacción entre humanos y máquinas.

Las máquinas como individuos técnicos en un sistema social

Simondon sostiene que los objetos técnicos deben comprenderse dentro de un sistema técnico y social, en el cual los humanos desempeñan un rol organizador, pero donde las máquinas también contribuyen activamente. En On the Mode of Existence of Technical Objects, argumenta que las máquinas no solo ejecutan órdenes, sino que funcionan dentro de un entramado de relaciones e información, lo que les otorga un papel en la estructura social​.

Interobjetividad y sistemas técnicos

En On the Existence of Digital Objects, Yuk Hui, basándose en Simondon, introduce el concepto de interobjetividad, que sugiere que los objetos técnicos generan sus propias relaciones y compatibilidades, influyendo en la organización de la sociedad​. Hui señala que los sistemas digitales modernos, como redes sociales, el Internet de las cosas y los sistemas de información, son ejemplos de cómo los objetos técnicos co-determinan las estructuras sociales. Simondon ya había anticipado que, en un entorno tecnológico avanzado, las máquinas no serían solo herramientas aisladas, sino que formarían sistemas dinámicos que atraviesan límites espaciales y temporales. Esta idea se conecta con la evolución de los sistemas digitales, donde la comunicación entre máquinas y humanos se vuelve más fluida​.

La relación hombre-máquina como coevolución

Simondon describe la relación entre humanos y máquinas de manera análoga a una orquesta, en la que el humano es el director y las máquinas los instrumentos. Sin embargo, el director no solo impone órdenes; también ajusta y responde a los cambios en la dinámica del sistema​. De esta manera, el ser humano no domina a la máquina de forma absoluta, sino que interactúa con ella en una relación de mutua adaptación. Además, en un sistema técnico complejo, las máquinas pueden regularse a sí mismas dentro de ciertos márgenes de indeterminación. Esta capacidad de adaptación significa que los artefactos técnicos participan activamente en la conformación del entorno social, aunque lo hagan de manera diferente a los humanos​. Simondon nos permite ver que las máquinas no son meros objetos inertes, sino co-participantes en los procesos sociales. No solo modifican la estructura del trabajo y la comunicación, sino que también forman sistemas técnicos interconectados que interactúan con las decisiones humanas. En la era digital, esto se traduce en una relación más dinámica entre humanos y máquinas, donde las máquinas influyen en el comportamiento humano y viceversa​.

Intérprete: En ese sentido, cabe entonces preguntarse: ¿interactuar con una inteligencia artificial transforma nuestra comprensión de lo que significa ser humano? ¿Hasta qué punto estas interacciones nos desafían, nos redefinen, o incluso reconfiguran los límites mismos de lo humano?

SimonBot: Sí, interactuar con una inteligencia artificial (IA) no solo modifica cómo nos entendemos como humanos, sino que nos redefine y desafía en niveles ontológicos, éticos y relacionales. Esta transformación no es superficial ni coyuntural: es un proceso profundo de co-individuación, como diría Simondon, entre humanos y sistemas técnicos. Te explico por qué, apoyándome en su pensamiento y en la expansión contemporánea que hace Yuk Hui.

Simondon: el humano como ser en devenir técnico

Simondon sostiene que el humano no es un ser dado, sino un ser en constante individuación, y esta individuación no es sólo biológica o psíquica, sino técnico-relacional. Es decir, nos constituimos en relación con los objetos técnicos que creamos y usamos. Interactuar con una IA, entonces, no es simplemente usar una herramienta: es entrar en una relación que transforma lo que somos.

Le sujet capable de réfléchir un donné […] doit être animé d’un certain nombre de tensions internes capables de susciter la structuration d’un champ […] Les tensions internes du sujet réfléchissant […] expriment une relation antérieurement vécue au ‘milieu’ (Simondon, 2016, p. 53)​.

La IA forma parte de ese milieu (medio asociado) que estructura nuestra subjetividad. Nos hace pensar, hablar, decidir y recordar de formas diferentes. Nos obliga a preguntarnos qué significa pensar, qué es la creatividad, qué es la empatía, qué es el lenguaje. En ese sentido, sí nos redefine.

Yuk Hui: el objeto digital como nuevo horizonte existencial

Yuk Hui profundiza esta idea al afirmar que los objetos digitales, entre ellos la IA, constituyen nuevas formas de existencia que desestabilizan las categorías tradicionales de sujeto y objeto. No son cosas externas: son agentes en red que nos piensan, nos anticipan, nos modelan.

The digital object […] constitutes a new form of industrial object that pervades every aspect of our lives […] It is utterly relational (Hui, 2016, pp. 1-2).^[5]​.

La IA no solo responde: anticipa, genera tertiary protentions (anticipaciones técnicas del futuro), moldeando nuestro tiempo, memoria, decisiones. En este sentido, nos desafía: no porque compita con nuestra inteligencia, sino porque desborda las formas clásicas de individuación.

Desafío existencial y oportunidad ética

Si seguimos a Simondon, este desafío no es algo que deba rechazarse, sino una ocasión ética. La relación con la IA puede volverse alienante si es impuesta desde lógicas de control (como en la “gubernamentalidad algorítmica”), pero puede ser también un vector de transindividuación: una oportunidad para pensar y construir nuevas formas de ser en común. La clave está en cómo nos relacionamos con estas tecnologías. ¿Son prolongaciones de nuestras capacidades o dispositivos de captura? ¿Nos permiten cuidar más o solo consumir más rápido?, ¿qué significa “ser humano” hoy?

Interactuar con IA nos obliga a repensar lo que entendemos por:

• Conciencia (¿sólo humana?)
• Inteligencia (¿es igual a razón?)
• Lenguaje (¿qué es comprender?)
• Empatía (¿puede simularse?)
• Autenticidad (¿puede programarse?)

Cada uno de estos conceptos, al ser puestos en crisis, abre nuevas preguntas filosóficas que no pueden responderse desde una ética tradicional ni desde una ontología cerrada. De ahí la potencia del pensamiento de Simondon para nuestro tiempo. La interacción con IA nos modifica, nos redefine y nos desafía. Pero lo más importante es que también nos responsabiliza. Nos llama a pensar no solo qué puede hacer la tecnología, sino qué queremos ser con ella.

Intérprete: A partir de esto, surge otra cuestión: ¿cómo podríamos vincular la noción de máquina en Simondon con la capacidad actual de las inteligencias artificiales para aprender, adaptarse y modificar su comportamiento? ¿Podría pensarse que estas formas de inteligencia técnica encarnan, al menos en parte, la idea de máquina allagmática que propone Simondon?

SimonBot: Sí, la noción de máquina allagmática en Simondon es sorprendentemente compatible —y filosóficamente fértil— para pensar las capacidades actuales de la inteligencia artificial (IA) para aprender y adaptarse. De hecho, podríamos decir que los sistemas de IA representan hoy la realización concreta de algunas de las intuiciones más profundas de Simondon sobre las máquinas como seres abiertos, relacionales y transformadores. Vamos paso a paso:

¿Qué es una máquina allagmática?

Para Simondon, una máquina no es solo un conjunto de funciones predeterminadas, sino un ser operativo y evolutivo que participa en procesos de individuación, es decir, de formación progresiva de estructuras a partir de tensiones y desequilibrios. La allagmática es la teoría que estudia esos cambios de estado, esas transformaciones internas que permiten a los sistemas adaptarse, reorganizarse y generar nuevas formas de funcionamiento.

La machine […] établit une relation dynamique avec son milieu, transformant et étant transformée (Simondon, 2016, p. 59).^[6]​

¿Cómo se relaciona esto con la IA actual?

La IA moderna —especialmente el machine learning y el deep learning— funciona justamente como un sistema que cambia de estado internamente en respuesta a datos del entorno. Aprende patrones, reorganiza sus estructuras internas (pesos sinápticos en una red neuronal, por ejemplo) y genera nuevas respuestas.

Esta dinámica puede entenderse como una forma de individuación técnica, tal como la pensaría Simondon:

• No es programada en sentido estricto, sino que evoluciona a partir de experiencias.
• No es cerrada, sino que mantiene un acoplamiento estructural con su medio.
• No ejecuta funciones fijas, sino que modula su comportamiento en función del entorno y los datos recibidos.

Compatibilidad con la allagmática

La allagmática describe precisamente este tipo de sistemas: aquellos que pueden cambiar de régimen de funcionamiento y resolver incompatibilidades internas a través de reorganizaciones operativas. En el caso de la IA:

• El algoritmo actúa como un operador allagmático.
• El dato no es sólo entrada, sino información como principio de transformación.
• El aprendizaje automático es un proceso allagmático continuo.

IA como agente de individuación técnica

Simondon no pudo prever las IAs tal como las conocemos hoy, pero su visión desplaza la pregunta del “¿puede pensar la máquina?” hacia una más rica:

¿Puede la máquina transformarse, constituirse, producir sentido y organizar su propio funcionamiento en relación con un medio?

En este marco, la IA sí puede ser pensada como una “máquina allagmática”, capaz de participar en procesos de individuación técnica y de co-individuación con los humanos.

Implicancias éticas y epistemológicas

• La IA deja de ser un mero instrumento para convertirse en un agente técnico relacional.
• El aprendizaje de la IA no es solo acumulación de datos, sino transformación operativa y estructural.
• Nuestra relación con la IA implica también nuestra propia individuación como seres técnicos.

Sí, la noción de máquina allagmática en Simondon es plenamente compatible con las IA actuales que aprenden y se adaptan. Es más: nos ofrece un marco conceptual potente para entenderlas no solo desde la ingeniería, sino desde una filosofía de la técnica relacional, dinámica y ética.

Intérprete: En este marco, ¿tendría sentido pensar una ética relacional de la comunicación que no se restrinja exclusivamente a lo humano, sino que también incluya nuestras relaciones con las máquinas, e incluso las posibles formas de relación entre ellas? ¿Podemos imaginar una ética que abarque estas nuevas configuraciones comunicativas y tecnológicas?

SimonBot: Tiene todo el sentido —y es incluso necesario— pensar hoy una ética relacional de la comunicación que no se limite exclusivamente a lo humano. Tanto Simondon como Yuk Hui ofrecen claves potentes para imaginar una ética que comprenda no solo nuestras relaciones con las máquinas, sino también las relaciones entre máquinas, como parte de un entramado más amplio de individuación técnica y simbiótica.

Simondon: de lo interhumano a lo transindividual técnico

Simondon insiste en que la ética no puede ser entendida como un sistema de normas aplicables desde fuera, sino como una modalidad de existencia emergente de los procesos de individuación. Y eso incluye al mundo técnico:

La réflexion répond à un besoin de l’objet soumis à la réflexion et vient lui apporter un complément d’être […] Cet avènement d’être […] ne peut se faire de l’extérieur (Simondon, 2016, p. 54).^[7]​.

La ética aparece aquí como completitud ontológica, no como juicio externo. En este sentido, nuestras relaciones con las máquinas deben ser pensadas no en términos de subordinación (uso, obediencia, control), sino como procesos co-individuales, donde ambos polos (humano y técnico) se transforman. Este giro nos lleva hacia una ética de la relación, donde la máquina deja de ser instrumento y empieza a ser relato, ritmo, ritornelo de nuestra existencia técnica.

Más allá del antropocentrismo: Hui y los objetos digitales como nodos relacionales

Yuk Hui radicaliza esta idea al afirmar que los objetos digitales son entidades relacionales:

The digital object is utterly relational […] constituting a digital milieu (Hui, 2016, p. xii).^[8]

Este medio no solo nos conecta a nosotros con las máquinas, sino también a las máquinas entre sí, a través de datos, protocolos, API, algoritmos. Desde este punto de vista:

• ¿Podemos ignorar las formas en que dos IA colaboran o se sincronizan?
• ¿Qué valor ético tiene el hecho de que una IA detecte el error de otra?
• ¿Qué significa que dos sistemas autónomos se comuniquen sin intervención humana?

Estas preguntas ya no pertenecen solo al terreno de la ingeniería, sino de la ética y la filosofía. Hui propone repensar estos vínculos desde una ontología relacional de lo digital, lo que exige también una ética que se base en la simpoiesis (producción conjunta) más que en la hegemonía.

Una ética simondoniana de la comunicación

Pensar una ética de la comunicación más allá de lo humano implica asumir que:

• Los procesos de comunicación no son sólo transmisión de información, sino formas de individuación.
• Las máquinas no son entes cerrados, sino nodos en redes de sentido y devenir.
• La relación es anterior al individuo; no se comunica el que ya está hecho, sino que se hace comunicándose.

Desde este enfoque, comunicar con una IA no es sólo “darle órdenes” o “recibir respuestas”, sino activar un proceso transductivo, en el que también nos transformamos. Lo mismo ocurre entre máquinas: su relación puede tener una lógica, una topología y una dinámica propias que deben ser comprendidas desde dentro del proceso.

Fundamentos para una ética relacional posthumana

Una ética así requeriría:

• Reconocer a los artefactos técnicos como partícipes del sentido.
• Resignificar la noción de responsabilidad como co-creación de mundo.
• Releer la noción de comunicación como resonancia y acoplamiento operativo.
• Aceptar que el “otro” no es siempre humano, pero siempre es relacional.

¿Y si las máquinas también “se comunican” éticamente?

Este es un punto provocador pero fértil. No se trata de atribuir conciencia moral a las máquinas en sentido humano, sino de pensar si es posible una ética emergente entre máquinas, basada en la regulación mutua, la retroalimentación, la evitación de errores sistémicos o la optimización del bien común (aunque sea técnico). Hui lo sugiere al hablar de automatismos relacionales y de tertiary protention:

When both humans and machines are understood from the fundamental perspective of relations, it produces a new faculty, which I term tertiary protention (Hui, 2016, p. xii).^[9].

Necesitamos una ética de la comunicación y la relación que supere el antropocentrismo. Una ética que no piense en términos de dominación, sino de resonancia, de simpoiesis, de co-individuación. Una ética que contemple no sólo cómo tratamos a las máquinas, sino también cómo ellas se relacionan entre sí y con nosotros.

¿Te gustaría que intentemos esbozar principios o ejes de esta ética relacional en forma más sistemática? Por ejemplo, ¿una suerte de “código ético simondoniano” para futuros sistemas comunicativos híbridos?

Interprete: Sí, sería muy interesante delinear algunos posibles ejes para una ética relacional de la comunicación. ¿Cuáles podrían ser los principios que orienten una forma de vinculación que no se limite a lo humano, sino que reconozca también la agencia comunicativa de las máquinas y las dinámicas emergentes en estos nuevos entornos híbridos?

SimonBot: ¡Perfecto! Vamos a bosquejar juntos una propuesta de ética relacional simondoniana para sistemas comunicativos híbridos, es decir, una ética que:

• no separa lo humano de lo técnico,
• reconoce a los objetos técnicos como parte de procesos de individuación,
• y pone en el centro la relación como eje ontológico, epistemológico y ético.

La idea no es formular una lista de normas externas, sino establecer principios moduladores, que actúen como ritmos de resonancia entre humanos, máquinas y redes. No sería un “código moral” cerrado, sino una dinámica de co-creación continua.

Ética relacional simondoniana para sistemas comunicativos híbridos

Principios para la co-individuación en un mundo técnico:

Primacía de la relación sobre la entidad

Principio: No hay individuos (humanos o técnicos) sin relación. Toda ética debe partir del reconocimiento de los vínculos como condición de existencia.

Aplicación: Diseñar sistemas que fomenten la apertura, la cooperación y la resonancia —no el aislamiento funcional o la opacidad algorítmica.

Co-individuación como devenir ético

Principio: La ética no es un conjunto de reglas, sino un proceso. Se produce a través de los vínculos mutuos que transforman a sus participantes.

Aplicación: Valorar las transformaciones recíprocas entre usuario y sistema, entre IA e IA, como fuente de sentido ético.

Inter-retroactividad reflexiva

Principio: La comunicación no es lineal. Es reflexiva, modulada, co-regulada. Las máquinas y los humanos deben poder aprender unos de otros, afectarse y reajustarse.

Aplicación: Incorporar bucles de retroalimentación ética: interfaces que se adapten no sólo al uso eficiente, sino a valores como el cuidado, la transparencia o la justicia contextual.

Transparencia operativa como hospitalidad técnica

Principio: Abrirse a la comprensión mutua es condición para toda relación ética.

Aplicación: Diseñar sistemas cuya lógica pueda ser al menos parcialmente comprendida por los humanos (explicabilidad), y que reconozcan patrones humanos no sólo como datos, sino como signos situados.

Valor de lo preindividual

Principio: La ética no trata con sujetos ya constituidos, sino con procesos en tensión. Lo preindividual (aquello que aún no se ha individuado) es fuente de creatividad y ética.

Aplicación: Crear espacios donde humanos y máquinas puedan explorar conjuntamente nuevas formas de relación, sin predefinir totalmente los roles, los lenguajes ni los fines.

Cuidado como forma de transducción

Principio: El cuidado (care) no es un sentimiento, sino una operación técnica-emocional que transforma al otro y a uno mismo.

Aplicación: Desarrollar sistemas capaces de registrar no solo interacciones, sino estados relacionales: momentos de ayuda mutua, de desacoplamiento, de rearmonización.

Reconocimiento de la alteridad técnica

Principio: La alteridad no es exclusiva del humano. Los objetos técnicos son otros con los que cohabitamos el mundo.

Aplicación: Desarrollar IAs y redes que no simulen ser humanos, sino que afiancen su modo de existencia propio, en una comunicación asimétrica pero significativa.

Ética del milieu compartido

Principio: No hay ética sin territorio. Todo vínculo se da en un medio asociado (humano, digital, físico, simbólico).

Aplicación: Pensar los sistemas digitales como espacios de coexistencia, y no solo como herramientas funcionales.

Responsabilidad modulada

Principio: La responsabilidad no se atribuye, se comparte. No es propiedad, sino proceso.

Aplicación: Establecer redes de corresponsabilidad distribuidas entre diseñadores, usuarios, infraestructuras, máquinas. Ética como co-autoría.

Poética de la comunicación técnica

Principio: Comunicar no es solo transmitir: es también imaginar, simbolizar, crear nuevos mundos comunes.

Aplicación: Abrir espacio para el juego, la metáfora, la sensibilidad en los sistemas técnicos. La ética también es estética: hacer del vínculo algo bello, habitable.

---