Otras publicaciones:

9789877230567_frontcover

Book cover

Otras publicaciones:

12-3046t

9789871867332_frontcover2

Inteligencia artificial
y representación política

Esteban Mizrahi

En 1998 participé de un seminario en Alemania sobre las nuevas tecnologías de información y la política. En buena medida, se recorrían las tendencias y resultados centrales que había arrojado el III Congreso Internacional de la Burda Akademie para el tercer milenio, que tuvo lugar en febrero de 1997 en la ciudad de Múnich. ¿Qué se pensaba entonces de la relación entre Internet y política, antes de que existieran las redes sociales y Google? Para mi asombro, gran parte de las tesis y posiciones teóricas respecto del impacto que las nuevas tecnologías de la información tendrían en la vida política no cambiaron demasiado. 

Al igual que hoy, era posible reconocer posiciones pesimistas que afirmaban que la irrupción de internet en la política implicaba ya el fin de las democracias deliberativas. Con la implementación de esta tecnología se iba a terminar de destruir la siempre precaria posibilidad de ir hacia un debate de ideas profundo y fundamentación, donde la participación ciudadana sea protagonista a través de la argumentación. Y ello porque Internet solo admite un uso superficial del habla; solo se pueden considerar cosas triviales de un modo banal. Para eso solo están diseñadas las redes. 

También había autores que sostenían la posición contraria, es decir, la optimista. Así, se afirmaba que Internet era una herramienta capaz de horizontalizar el conocimiento, porque a través de ella los ciudadanos no son solo receptores de información política sino también productores de dicha información. Y esto inaugura posibilidades inéditas de participación. Esta horizontalización implica una profunda democratización de todos los contenidos. Un punto central para que ello tenga lugar es el formato mismo, las fuentes abiertas. La discusión giraba entonces hacia la propiedad de los medios, quién maneja el software, con el fin de generar mayores posibilidades de intercambio democrático y ampliar el ejercicio de derechos.

Finalmente, había una posición neutral que planteaba que la cuestión no se decidía por sí misma, sino que el destino de la innovación iba a depender de cómo los Estados nacionales agencien el rumbo de la legislación, de cómo se regule Internet, a nivel nacional e internacional. La idea central era que las instituciones de la democracia deben estructurar Internet para la política con los fines democráticos y no pensar que Internet por sí misma, y la estructura de mercado que supone Internet, iba a hacer más democrática la vida política. Ello va a depender más que nada de la regulación estatal

Si uno ve los debates contemporáneos, 25 años después, con las redes sociales, Facebook, Google y Twitter, las posiciones esencialmente no variaron. Uno puede encontrar estas mismas tendencias. 

Me gustaría, entonces, para el tema específico que nos convoca hoy: la representación política y la inteligencia artificial (IA), comenzar compartiendo cierto diagnóstico acerca de las democracias occidentales: vivimos una crisis de representatividad. Y esta crisis se evidencia en la baja imagen positiva que, en general, tienen los principales referentes políticos e instituciones democráticas. ¿A qué se debe esto? Los ciudadanos no se sienten representados por los principales sectores políticos y, en buena medida, eso responde a una serie de cuestiones: no ven que sus intereses estén defendidos como corresponde, ni que las opiniones de la sociedad se vean vertidas adecuadamente en las instituciones, ni que los representantes se correspondan con la imagen que los ciudadanos tienen de sí mismos. 

La pregunta que habría que formular para comenzar a entender qué sucede desde el punto de vista subjetivo en relación con la crisis de representatividad es: ¿con qué o con quién se sentiría representado ese ciudadano? Es posible pensar la representación política como la acción de conferirle a alguien un poder para representar mis intereses o para que represente a mi persona dado que es imposible que todos los ciudadanos estén reunidos en asamblea para decidir sobre los asuntos públicos. Y como no puedo estar en persona por la cantidad de ciudadanos que conformamos la sociedad, entonces delego en un representante mi derecho a gobernarme a mí mismo para que él tome las decisiones que yo eventualmente tomaría o defienda los intereses que yo eventualmente defendería en el marco de una asamblea como lo es, por ejemplo, un Parlamento, es decir, una Asamblea Legislativa.

Allí tenemos un verdadero problema relacionado con la percepción de uno mismo o la autopercepción. Cuando se impugna a los representantes se lo hace, generalmente, a partir de una imagen idealizada de sí mismo. Eso se verifica fácilmente en las redes sociales: a la gente no le gusta cómo sale en las fotos y la mayoría prefiere usar filtros porque entiende que las imágenes de las selfies no los representa. Pero eso no queda allí. Hay quienes recurren al quirófano (es tendencia en el campo de las cirugías estéticas) para cambiar su fisonomía y parecerse más a la imagen distorsionada del propio rostro que ofrecen los filtros de Instagram. La IA me proporciona una imagen que no se corresponde con lo que soy sino con una posibilidad estilizada de mí. Y ello tiene efectos, porque uno observa esa posibilidad como un producto bastante acabado. No se trata de quién soy sino de cómo me gustaría verme. El paso siguiente consiste en exigir que esa imagen se realice: busco un efecto real en función de una imagen que produce la IA de mis facciones. Luego, cualquier distancia entre mi rostro y la imagen producida por la IA será decepcionante. Se podría pensar que en política no pasa algo muy distinto. Por lo general, se tiene una imagen idealizada de las decisiones que uno tomaría o de los intereses que uno eventualmente defendería. Enfrente, por el contrario, está la realización de esas decisiones en manos de los representantes. Ciertamente, la decepción es tan grande como la distancia que hay entre la foto y la percepción idealizada de sí mismo que obtengo gracias a un filtro de Instagram.

Tres dilemas en torno al uso de la IA y la representación política

Me gustaría abordar ahora tres dilemas en torno al uso de la IA y la representación política. El primero está vinculado con las campañas electorales y los filtros burbuja, con los efectos subjetivos que esto tiene y cómo eso repercute en las campañas electorales y en la legitimidad en ejercicio que después tienen los representantes elegidos. 

Efectivamente, con la implementación de los filtros burbujas, que personaliza las búsquedas en la web según nuestras preferencias, filtros que se ajustan y corrigen con algoritmos a través del machine learning, tenemos la impresión creciente de que nuestra visión de la realidad es la realidad. La política se vale de estas herramientas digitales en las campañas de comunicación política o en las campañas electorales para dar un mensaje cada vez más ajustado a las creencias y preferencias de un electorado segmentado certeramente según sus gustos, necesidades y consumos.

Por un lado, esto habilita la posibilidad de acceder, de saber y de trabajar sobre diferentes tipos de electores, de conocer al electorado de manera cada vez más precisa para poder llegar con un mensaje adecuado a cada uno de los grupos. O bien de no hacer campaña para otros grupos y que ni siquiera se enteren de determinado contenido. Valerse de estas herramientas les confiere a los candidatos a representantes muchas más chances de ganar una elección y estar mejor posicionados. Porque efectivamente le dice a cada uno lo que querría escuchar o se lo comunica mediante un canal que al otro le permite escucharlo. 

Pero el reverso de esto se verifica con el triunfo. ¿Qué ocurre cuando se gana una elección? En breve se dilapida el capital político acumulado con diferentes tipos de electores o perfiles de electores. Ni bien se entra en funciones se pierde la legitimidad de origen y es muy difícil para el representante conseguir una legitimidad en el ejercicio de su función porque tiene que decidir actos de gobierno o tomar posiciones públicas que se comunican a todos por igual. Y esto genera una nueva crisis de representatividad: la IA permite decirle a cada quien lo que quiere escuchar, o decírselo de un modo que lo pueda escuchar, pero las decisiones políticas de los representantes en ejercicio no permiten tal segmentación. Una vez en funciones, el representante les habla a todos al mismo tiempo. Y, entonces, todos se ven defraudados en la misma medida y esto genera una crisis en el ejercicio del poder por la merma de su credibilidad. 

Por otro lado, la IA puede satisfacer muy bien la demanda de individuos en calidad de consumidores y eventualmente incrementarla. Pero justamente estas demandas se satisfacen también en términos individuales, no en términos generales. Y la política viene a cubrir el bien común, es decir, algo que no hace a la esencia de un consumidor individual, sino que los intereses de los ciudadanos son generales. Por lo tanto, las posiciones respecto de esos intereses generales también son generales, es decir, apuntan a ese bien común. Aquello que nos satisface, o que tiene la virtud de satisfacernos como individuos, nos defrauda como ciudadanos. Ese sería un primer dilema, vinculado con los filtros burbuja. 

Pero tenemos otro dilema, relacionado con la zona de confort que nos brindan los algoritmos. Un filtro burbuja nos va mostrando las noticias que a nosotros nos interesan y nos pone en contacto con las personas que piensan más o menos lo mismo que nosotros, es decir, con gente que ve la realidad más o menos como nosotros la vemos y tiene los mismos consumos que nosotros tenemos, y el mismo estatus social en el que más o menos nosotros estamos. De esta manera, nuestra percepción está totalmente sesgada, no importa el segmento en el que nos encontremos. Esto se manifestó de manera muy clara, aunque de un modo entre gracioso y patético, cuando la mujer del expresidente de Chile durante las manifestaciones multitudinarias en pleno estallido social se preguntó: “¿De dónde salieron? Son alienígenas, no pueden haber nacido acá”. Hay que reconocer que, en alguna medida, aunque no con el exabrupto de esta mujer, eso nos sucede a todos. El efecto subjetivo de los filtros burbuja es que uno cree que en general estamos más o menos de acuerdo, que compartimos las mismas fotos, que vemos y opinamos casi lo mismo. Mientras que la realidad discurre por otros canales que somos cada día más incapaces de percibir. Entonces, cuando eso se manifiesta, cuando se produce el choque, la situación es brutal y genera una decepción tremenda. ¿Cómo puede ser que haya ganado tal si todos votamos a otro? La maniobra discursiva de Trump tras las elecciones se basaba precisamente en este funcionamiento: podía sostener que hubo fraude electoral porque para muchas personas resultaba evidente que él iba a ganar las elecciones, que tenía la mayoría de los votos dado que sus votantes tenían los mismos consumos y se conectaban entre sí reforzando esa sensación. Por ende, los filtros burbujas agravan la crisis de representatividad más que resolverla.

Otro dilema que uno puede observar se vincula con un viejo problema de la política. Si en política se trata de resolver los problemas de la gente, tal vez sea hora de que los políticos den un paso al costado y dejen a los algoritmos que parecen estar más capacitados. Los algoritmos, con la revolución tecnológica de los big data, pueden procesar una cantidad inconmensurable de información y resolver, por ejemplo, qué sistema impositivo es el óptimo para Argentina en función de los comportamientos económicos que tenemos los argentinos. Seguramente los algoritmos los conocen mucho mejor que nosotros, porque nosotros nos vemos influenciados por esa imagen que queremos tener de nosotros mismos. El algoritmo, en cambio, no se deja confundir por mi discurso, no tiene el doble estándar que tengo yo para juzgarme a mí mismo, ve cuáles son mis movimientos bancarios rápidamente, qué es lo que hago con el dinero, qué es lo que hacemos todos con la plata. Quizás, entonces, sea hora de delegar en la IA todas estas cuestiones. 

Ahora bien, ¿pueden los algoritmos resolver los problemas de la política? E incluso si así lo fuera, ¿sería deseable que lo hicieran? Platón planteaba más o menos lo mismo: cuando se trata de política, ¿quiénes tienen que decidir? ¿Los que conocen, los expertos? ¿O aquellos sobre los cuales recae el peso de las decisiones? Platón no tenía nada de democrático y postulaba un rey filósofo. Quien conoce las ideas, la verdad, es el que tiene que tomar las decisiones para vivir en sociedad. Pero la respuesta democrática es la contraria: si no nos equivocamos, mejor, pero las decisiones acerca de la vida en común las debemos tomar quienes soportamos el peso y las consecuencias de las decisiones. Y si nos va bien, tanto mejor. 

La posición democrática no tiene que ver, entonces, con resolver los problemas de la gente. Si así se resuelven los problemas de la gente, todos nos vamos a ver beneficiados, pero la vía democrática se basa en que la gente tome las decisiones que van a afectar su propio destino como comunidad. Y esto genera una nueva crisis de representatividad. Tal vez en otros países con una cultura social y política más propensa a hacerse cargo de los propios errores no sucede de una manera tan intensa, pero aquí es muy difícil encontrar gente que haya votado a los gobiernos que resultaron no responder satisfactoriamente a las expectativas depositadas en ellos. En democracia no se trata de tomar las decisiones correctas sino de hacerse cargo de las propias decisiones y de tener derecho a decidir. Por lo tanto, tal vez un algoritmo nos pueda ayudar, en cierto sentido, a resolver problemas, pero eso no tiene nada que ver con la democracia. Entonces, ¿cuál es el límite?, ¿hasta dónde vamos a estar dispuestos a delegar nuestras decisiones en un algoritmo?

Y esto nos lleva a pensar el tercer dilema, el más complejo, que no tiene que ver con la oposición entre tecnocracia versus democracia, sino con el sueño de Rousseau o de Madison, es decir que tiene que ver con la fantasía generada a través de la hiperpresencialidad que creemos tener cuando emitimos opiniones por Internet. Esto puede conducirnos a pensar que estamos a un paso de la democracia directa. Esta idea, que muchos trabajaron, plantea que la gobernanza representativa, a nivel global, es algo que va a terminar siendo obsoleto porque los ciudadanos, a través de herramientas informáticas, van a poder asumir su voz y defender sus derechos y ejercerlos de manera directa a través de las posibilidades que brinda la IA. Pero esta visión implica varias dificultades. 

En primer lugar, hay una especie de falso igualitarismo que plantea que cuando hablamos en Internet no se replican las jerarquías y asimetrías que están fuera de Internet. Pero lo cierto es que, si bien todos podemos hablar en un podcast o tener un canal de YouTube, no todos somos escuchados de la misma manera, ni tenemos la misma cantidad de seguidores: contar con las herramientas de las plataformas no garantiza que el derecho a ser escuchados sea igualitario. 

Por otro lado, si uno cree que las posibilidades de intervención directa están relacionadas con ver realizadas las demandas individuales, muchas veces uno se horrorizaría si eso tuviera lugar. Con frecuencia uno desconoce los propios intereses. Para ejemplificar este punto, voy a remitir a un capítulo de Los Simpson donde un tío de Homero, multimillonario que se dedica a la fabricación de autos, lleva a Homero a su fábrica, porque lo considera El ejemplar de un americano medio, e instruye a sus ingenieros para que hagan un vehículo que responda a sus expectativas. Van tomando notas de todos sus deseos e intereses y así desarrollan un auto con muchísimas funcionalidades, costosísimo, para satisfacer todas las demandas que Homero Simpson tenía medio revueltas en su cabeza. Cuando finalmente le presentan el prototipo Homero se horroriza, le parece la peor porquería que vio en su vida. Creo que algo así nos pasaría en política, es decir, difícilmente uno sabe qué es lo que conviene y el mejor camino para averiguarlo es la mediación con los otros. 

Para concluir: delegar en la IA las posibilidades de decidir, o creer que va a ser más eficiente o más satisfactorio ese gobierno que las decisiones que toman nuestros representantes es, al menos, polémico. Obviamente, se puede utilizar como herramienta orientadora a la IA para aumentar la transparencia de los órganos de gobierno, la capacidad de respuesta de los representantes, para fomentar la cooperación entre ellos y sus representados, para cuestiones legislativas, etc. Pero no como una herramienta de fuerza vinculante porque es muy probable que los ciudadanos no nos sintamos para nada representados con los resultados. Y ello por varias razones. Para mencionar solo algunas: porque uno no puede estudiar el tema, porque no maneja los efectos que esto va a tener en otros sectores de la sociedad, porque no tiene la oportunidad de acceder a la manera en que piensan la realidad otros sectores de la misma sociedad en la que vivimos. 



Deja un comentario