Otras publicaciones:

9789871867516_frontcover1

12-3048t

Otras publicaciones:

9789871867509-frontcover

Book cover

El aporte de la cultura al desafío de la inteligencia artificial

Octavio Kulesz

Cuando hablamos de la relación entre la inteligencia artificial (IA) y la cultura, el impacto es doble: la inteligencia artificial está teniendo un impacto en la cultura y la cultura también tiene, o podría tener, un impacto en la IA. 

Como bien sabemos, la IA ocupa hoy un lugar preponderante en las agendas políticas, económicas y tecnológicas a escala global. Se habla mucho, por ejemplo, de cómo la IA revolucionará la medicina —ya hay sistemas IA capaces de predecir o detectar enfermedades con enorme precisión—; de la influencia de la IA en la educación —donde está creciendo cada vez más fuerte el tema de contenidos personalizados para cada estudiante—; del impacto de la IA en los transportes —con el boom de los vehículos autónomos—; de la IA en las finanzas —hay muchísimos bancos y fondos de inversión que entrenan algoritmos con grandes cantidades de datos para poder anticipar y localizar nichos de alta rentabilidad para sus futuras inversiones—; del uso de la IA en defensa —por ejemplo, con el caso de las armas letales autónomas, en concreto, “los enjambres de drones”, que actúan de forma sincronizada para atacar determinados objetivos bélicos: el cerebro detrás de ese enjambre de drones es una IA—; y del rol de la IA en las manufacturas —con la robotización de la industria, es decir, la industria 4.0. 

Pero ¿qué pasa con la cultura? Rara vez en las conferencias internacionales o en los informes sobre la IA aplicada a diferentes sectores se menciona la cuestión de cómo la IA puede transformar el trabajo de las y los artistas, o la actividad de las industrias culturales y creativas, o cómo impactará en las audiencias. Esta omisión de la cuestión cultural es bastante llamativa. De hecho, la cultura no solo no debería omitirse sino que debería estar en el centro del debate, por varios motivos. Primero porque la cultura es hoy un input o insumo de muchísimos sistemas de inteligencia artificial. En efecto, en la modalidad de IA que está más en boga en la actualidad, que es el aprendizaje automático o machine learning y sobre todo el aprendizaje profundo o deep learning, hay que alimentar la máquina con grandes cantidades de datos, para que luego la máquina pueda llegar a establecer una predicción o ejecutar una acción. Lo que ocurre es que una parte enorme de esos datos, de esos big data que se entregan a la máquina como alimento, proviene de la creatividad humana: son textos, canciones, melodías, videos, pinturas, etcétera. Así, las expresiones culturales son un alimento primordial de las máquinas en la era del aprendizaje automático. Por ello es que podemos hablar de la cultura como input clave de la IA. 

Ahora bien, también nos encontramos con la cultura del otro lado de la ecuación, porque desde hace algunos años se están generando cada vez más obras artísticas, de altísima calidad, gracias a la IA. Por ese motivo, la cultura asimismo puede ser vista como output, como resultado de la IA. Actualmente, ya casi todos los grandes jugadores de la tecnología están desarrollando sistemas de generación de textos mediante grandes modelos del lenguaje —como GPT-3, de OpenIA, o LaMDA de Google/Alphabet, entre otros. Para ello, utilizan enormes cantidades de datos y consiguen realizar todo tipo de operaciones de lenguaje natural —por ejemplo redactar un cuento, escribir un soneto o responder a ciertas preguntas, e incluso traducir un texto. Estos sistemas permiten también producir código de programación de manera automática.

La IA es entonces una herramienta clave a la hora de crear contenidos editoriales. En el sector de la música ocurre algo parecido porque existe un sinnúmero de startups, como AIVA, Amper, Matchtune y otras, que utilizan diferentes sistemas de IA para generar melodías y canciones de forma automática o semiautomática. En el mundo audiovisual, por su parte, la IA constituye hoy un instrumento fundamental para trabajar con efectos especiales. En el campo de las artes visuales tenemos casos como Obvious Art —un colectivo de arte francés compuesto por tres artistas-emprendedores que desarrollan y entrenan sus propios algoritmos, su propia IA para crear pinturas, esculturas y otras obras de arte—, y también sistemas como Dall-E, ideado por OpenAI, que permite al usuario ingresar un comando de texto, un prompt, y obtener una serie imágenes ultrarrealistas que tienen como descripción ese comando. 

Así, en muchísimos campos de la creación cultural se está utilizando la IA como motor, como herramienta, como medio de creación. De modo que la cultura se halla en las dos “puntas” de la IA: como input —insumo— y como output —resultado. Por ello es que la cultura debería recuperar un lugar preeminente en las discusiones sobre la IA. 

En este contexto de profundas transformaciones, surgen oportunidades y también desafíos. De hecho, toda tecnología constituye un arma de doble filo, con enormes ventajas pero también graves riesgos. Se trata entonces de ver cómo podemos maximizar las oportunidades a la vez que mitigar los desafíos. 

Tuve la suerte de entrevistarme con el equipo de Obvious Art en París hace unos tres años, mientras trabajaba en un proyecto de investigación. Ya desde aquella época ellos tenían muy claro que, en el mundo de la cultura, la IA no va a reemplazar al artista sino que lo va a complementar. Esto inaugura la figura del “artista aumentado”: un artista que, gracias a determinadas herramientas, determinados sistemas que ese propio artista o esa propia artista pudo construir o mejorar, logra una mayor inspiración y accede a un mayor potencial creativo. 

Para crear la obra Edmond de Belamy, lo que hicieron fue reunir bases de datos de pinturas de los siglos XVII, XVIII, XIX que sirvieron para entrenar la máquina. Utilizaron redes generativas antagónicas —GAN, por sus siglas en inglés—, esto es, un sistema compuesto por dos redes neuronales: una primera red que trata la información que recibe —el input— y propone una muestra de obras y otra que hace las veces de discriminador y filtra las obras generadas por la primera. Así, cualquier obra que logre saltar la segunda red será en general una obra de mucha mayor calidad que cuando la IA trabaja con una sola red. Este cuadro se vendió en Nueva York en Christie’s a fines de 2018, a más de 400.000 dólares, lo que significó un paso gigante para la consolidación del mercado del arte IA. Por cierto, lo que vendieron no es la imagen digital, sino la tela, una tela física, con la firma del artista, condensada en una fórmula matemática. 

Podríamos mencionar otros ejemplos, como las máscaras al estilo africano desarrolladas por Obvious Art. Los artistas alimentaron la máquina con miles y miles de modelos de máscaras africanas tradicionales y luego generaron nuevos modelos. Finalmente, eligieron de manera manual aquellos que más les gustaban y encargaron a un artesano ghanés que reprodujera las máscaras en formato físico. 

Estos ejemplos refuerzan la idea de que la IA puede ayudar a “aumentar” al artista. Otra ventaja de la IA es que permite reducir las barreras de entrada para los nuevos creadores. Tradicionalmente, en el mundo de la música uno necesitaba tener conocimientos de orquestación y composición, entre otros, para crear una sinfonía. En la era de la IA esto se modifica, porque aunque no tengamos conocimientos específicos sobre esas áreas, si manejamos ciertos parámetros, podemos componer una sinfonía o un tema de jazz en alguna de las plataformas de música automática. También podemos generar imágenes a partir de comandos escritos, utilizando cualquiera de los sistemas mencionados anteriormente. 

Por ejemplo, la imagen siguiente puede obtenerse con el comando “Estatua griega antigua, hecha en bronce, de una divinidad usando un casco de realidad virtual”. 

Escultura de una persona  Descripción generada automáticamente con confianza media

Si solicitamos a la máquina que genere una imagen de “Darth Vader riéndose a carcajadas”, el resultado es el siguiente:

Vale la pena notar el realismo y el asombroso juego de luces y sombras que estas imágenes presentan. Si tenemos en cuenta que cualquier usuario, con solo escoger el comando adecuado, puede generarlas, parece evidente que las barreras de entrada para la creación disminuirán de forma acelerada, y que pronto habrá millones de nuevos creadores que antes no tenían acceso al proceso artístico. 

Del lado de las industrias culturales y creativas, la IA implica un salto de productividad formidable. Pensemos en las empresas que desarrollan videojuegos o en las productoras cinematográficas, supongamos que necesitan editar algunas escenas y borrar parte del fuego de una explosión, o cambiarle el color al automóvil que pasa en segundo plano. Esa no es una tarea tan sencilla —en todo caso es bastante más compleja de realizar en una escena en movimiento que en una imagen estática. Con las técnicas que teníamos hasta hoy, este tipo de procesos demandaban bastante tiempo y esfuerzo, podían requerir no solo horas sino en ocasiones varios días, dependiendo de la complejidad del asunto. Ahora bien, hoy ya existen sistemas de IA que nos permiten seleccionar determinados elementos, para que luego la máquina los borre o los modifique, no solo en un cuadro puntual sino en toda la escena. Esto obviamente representa un salto en eficiencia y en productividad sin precedentes. En este marco, sin duda asistiremos a la aparición de un sinnúmero de nuevas empresas que desarrollan aplicaciones y sistemas de IA de este tipo, pensados para los sectores creativos. Ello derivará en la creación de nuevos puestos de trabajo calificados.

Si antes mencionamos a los y las artistas y las industrias culturales —esto es, si pensamos en términos de la cadena de valor, de los eslabones de la creación, la producción y la distribución—, tendríamos que referirnos también a la situación del público o audiencia, que ocupan el eslabón del acceso o consumo, al final de la cadena. Para el público, todas estas técnicas o sistemas de IA empleados por los artistas y las industrias derivarán, necesariamente, en una explosión de la oferta cultural: los libros, películas, pinturas y creaciones de toda clase realizadas, en parte gracias a sistemas de IA, harán incalculablemente mayor la oferta cultural a la que tenemos acceso. 

Ahora bien, no debemos limitarnos a analizar las oportunidades, sino que debemos estudiar los desafíos, que son considerables. En primer lugar, es cierto que la IA permite disminuir las barreras de entrada para aquellos usuarios que no tienen conocimientos acerca de una disciplina artística determinada, como la música. Pero ¿qué ocurre con los pianistas o los guitarristas —por poner un ejemplo— que manejan algunas herramientas digitales pero que su actividad principal pasa por el manejo del instrumento musical? ¿Tienen realmente la posibilidad de utilizar y desarrollar sistemas de IA adaptados a su profesión? En efecto, para un artista “tradicional”, trabajar con sistemas cerrados y listos para el uso puede resultar sencillo, pero si de verdad quieren lanzarse a experimentar, deberán personalizar la herramienta y adaptarla a sus necesidades. Para componer con IA, un o una artista necesita tener conocimientos finos sobre cómo obtener y depurar datos de calidad, cómo alimentar y entrenar la máquina, cómo utilizar algoritmos, etcétera. Y para la mayoría de los artistas “tradicionales”, el aprendizaje profundo parece algo fuera de alcance: no se les puede pedir a todos los guitarristas que tengan un PhD en ciencia de datos, porque perderían el foco de su carrera por completo. Existe un problema en términos de conocimientos y competencias sobre la IA que afecta a los artistas “tradicionales”. 

Otro reto se vincula con la falta de datos en el sector, en particular la falta de datos abiertos y reutilizables. Si para entrenar un sistema de IA necesito macrodatos, lo cierto es que la mayor parte de los datos hoy están en manos de grandes empresas cuyo negocio es precisamente controlar esos datos y exprimirlos hasta sacarles el último centavo de beneficio. En este contexto en el cual las grandes plataformas tienen pocos incentivos para compartir datos, es como si el sector cultural se estuviera secando de datos —algo que de hecho ocurre no solo en este sector sino en muchos otros ámbitos—, porque esos datos están siendo absorbidos y manejados por terceros. Estamos entonces ante un desierto de información, un desierto de datos, que son precisamente el insumo para el aprendizaje profundo. 

Vinculado con esto último, debemos referirnos a la concentración económica. Los grandes actores tecnológicos están ocupando no solo un eslabón en la cadena cultural sino que empiezan a constituirse en la cadena como tal. Por ejemplo, Amazon no es una simple librería virtual, una simple tienda. Comenzó como una tienda virtual pero luego se expandió de manera arrolladora hacia los extremos de la cadena. Amazon hoy es una editorial —maneja 16 sellos editoriales—; es uno de los principales traductores de literatura extranjera en Estados Unidos; administra sistemas de impresión bajo demanda; tiene la principal tienda de ebooks del mundo; produce un dispositivo propio como el Kindle, etcétera. Estas plataformas constituyen ecosistemas cerrados que ya conforman cadenas en sí mismos. Al interior de esos ecosistemas circula la información, los usuarios pueden entrar y salir, comprar y vender, pero el control de los datos le permite a la plataforma acceder a una ventaja decisiva a la hora de luchar contra otros competidores. El peligro es que, cuando estas empresas ocupan toda la cadena, para el resto de los actores del ecosistema ya es muy difícil mantenerse autónomos. Una pequeña editorial que utiliza servicios de Amazon o de Google o de algún otro gigante tecnológico tendrá muy poco margen de acción a la hora de desarrollar sus propias soluciones. Esto deriva en mayor dependencia y resulta muy difícil de revertir. 

Ahora bien, ¿cómo impacta esta concentración económica en los contenidos? Todavía no es el caso hoy, pero con la explosión del metaverso puede llegar a ocurrir que este aceitado control de toda la cadena —desde la creación hasta el acceso o consumo— habilite a las grandes plataformas a generar contenidos automáticos gracias a la IA. Contenidos que estarán específicamente pensados para mí como usuario final. Los algoritmos de recomendación llevan ya bastantes años en el mercado, funcionan con IA y permiten a las empresas conocer el perfil y los gustos culturales de los usuarios de una forma muy fina. Así, podría ocurrir un día que las grandes plataformas generen obras culturales personalizadas, no para una cierta comunidad, sino para un individuo. Algunos movimientos recientes —por ejemplo la contratación de expertos en la generación de música automática por parte de grandes plataformas de streaming— podrían permitirnos pensar o anticipar que en algún momento esto puede llegar a ser el caso, no para todas las creaciones pero sí para algunas por ejemplo, como la música funcional, que no precisa de una letra ni de un cantante, y que puede adaptarse en función de nuestros estados de ánimo. Esto puede ser una gran oportunidad en términos comerciales, pero si lo pensamos desde el punto de vista de la cohesión social, una cultura atomizada y desprovista de símbolos, identidades y sentido podría hacer que todo el andamiaje que nos mantiene juntos se resquebraje. Por cierto, ¿es viable una sociedad en la que no existe una cultura compartida? 

Si antes vimos que la IA permitirá generar muchísimos puestos de trabajo calificados —sobre todo de especialistas que vienen de la tecnología y que desarrollan proyectos en el cruce entre la tecnología y la cultura—, al mismo tiempo la IA puede llevar a la destrucción y a la pérdida de miles de puestos de trabajo llamados tradicionales. Por ejemplo, si las editoriales empiezan a utilizar sistemas de traducción automática para traducir libros o artículos de revistas, y los diarios hacen lo mismo, ¿qué ocurrirá con los traductores, las traductoras? La profesión de traductor tal vez no desaparezca, pero muy probablemente las tarifas actuales estarán bajo tensión, porque si una máquina puede hacer en diez minutos un trabajo que antes insumía días, estamos frente a un quiebre sumamente profundo. Por otra parte, ¿qué ocurrirá con los diseñadores y diseñadoras, ilustradores e ilustradoras, si la industria se lanza a utilizar imágenes generadas de manera automática, como las referidas anteriormente? Todos los sectores creativos enfrentarán desafíos de esta clase. 

Hay otro problema, que remite a los desequilibrios Norte-Sur: un desafío presente en cualquier ámbito tecnológico es la brecha digital. Es cierto que para utilizar la IA necesitamos computadoras, necesitamos acceso a Internet y otros requisitos técnicos que en muchos países del Sur no abundan. Esta asimetría entre Norte y Sur puede empeorar de manera exponencial si tenemos en cuenta los recursos que invierten en investigación y desarrollo los principales centros industriales. Encontramos hubs de primer orden en EE. UU. —sobre todo Silicon Valley—, en China —por ejemplo en Tianjin—, en Canadá —en particular en Montreal—, en Inglaterra —en especial en Londres—, en Francia, Alemania, Japón, Corea del Sur y en algunos otros puntos clave. Fuera de estos centros, son pocos los polos que podrán competir en el desarrollo de la IA. En este sentido, las regiones del sur —América Latina, África Subsahariana, el mundo árabe y muchas naciones del sudeste asiático— no se encuentran en una situación sencilla. Fuera de algunos nichos muy específicos, las posibilidades que estas regiones tienen de competir a escala global se reducen cada vez más. 

Ahora bien, el riesgo en términos culturales es que los países del Sur terminemos importando nuestra propia cultura. Si las máscaras africanas del futuro se diseñan con IA en el Norte y ya no en África, si la música argentina se empieza a componer con sistemas de aprendizaje profundo que son alimentados con canciones argentinas de décadas pasadas, se podría presentar un problema grave: la posibilidad de que la brecha digital se transforme en una brecha creativa. Nos encontraríamos en una situación en la cual ciertas zonas del planeta se volverían más creativas que otras —una situación absolutamente inédita. 

Otro desafío se relaciona con la dificultad de determinar quién es el titular de los derechos de autor en las obras creadas con IA. En la actualidad asistimos a discusiones a todo nivel, en muchísimos países. Si yo utilizo una aplicación de IA para crear una imagen, ¿de quién son los derechos? Alguien podría argumentar que los derechos son del usuario final —que fue quien pensó el comando o prompt para que la máquina generara la imagen. Pero no solo deberíamos pensar en el usuario final, sino también en los programadores y en la empresa que desarrolló el sistema. Y además del usuario final, de los programadores y de la empresa, tendríamos que incluir en la ecuación a los titulares del derecho de autor de los contenidos que se utilizaron para alimentar la máquina. Si alimentamos la máquina con obras del siglo XVII, XVIII, XIX, no hay problema, porque son insumos de dominio público. Pero ¿qué pasa si alimentamos la máquina con imágenes de pinturas de Picasso? Ahí sí puedo estar en un problema, porque eso es dominio privado. ¿No podrían acaso los herederos de Picasso argumentar que esas obras no se deben utilizar para data mining o para alimentar la máquina, porque esas pinturas forman parte de la creatividad de Pablo Picasso? La discusión no está para nada zanjada. 

Por otro lado, debemos notar que existen lenguas que tienen cientos de millones de hablantes y otras apenas cuentan con unos pocos millones o incluso menos. El chino mandarín es hablado por 1.440 millones de personas aproximadamente; el inglés —como lengua materna— es hablado por más de 500 millones de personas; el español, por más de 600 millones. Ahora bien, el hecho de que una lengua sea más “grande” que otras, por así decirlo, hará que los proveedores de soluciones de IA que trabajan con lenguaje natural prioricen las herramientas pensadas que para ciertas lenguas, en detrimento de otras. Pensemos que una lengua como el italiano tiene una masa de hablantes que es casi siete veces menor a la del español, y esta diferencia de escala podría derivar en una situación desventajosa. 

Por último —pero no menos importante—, llegamos a la cuestión de los sesgos. Se trata de un enorme dilema para todos los que trabajan en IA. Veamos por ejemplo el siguiente caso tomado de Google Translate. Existen lenguas que no tienen género, como el malayo. En ese idioma, la expresión utilizada para decir “ella es una enfermera” y “él es un enfermero” es la misma. En malayo, la frase “dia adalah doctor” significa “él es un doctor” o “ella es una doctora”. Pero Google traduce la frase en castellano como “Él es un doctor”. Ahora bien, si introducimos en Google Translate la frase “dia seorang jururawat”, que significa “él es un enfermero” o “ella es una enfermera”, el sistema la traduce como “ella es una enfermera”. Así, para la máquina, hay profesiones que son masculinas y profesiones que son femeninas. Esto constituye un claro sesgo de género, que proviene seguramente del hecho de que los textos que Google utilizó para alimentar el sistema Translate contenían una mayoría de referencias a doctores hombres y a enfermeras mujeres. Imaginemos qué ocurrirá cuando los sectores culturales comiencen a utilizar estas herramientas a escala masiva: los sesgos de género así como los sesgos contra minorías sexuales, minorías religiosas y minorías étnicas que encontraremos en las novelas, las pinturas o las películas del futuro podrían multiplicarse de manera descontrolada. 

Interfaz de usuario gráfica, Aplicación  Descripción generada automáticamente

Interfaz de usuario gráfica, Aplicación, Teams  Descripción generada automáticamente

Para concluir, resulta evidente que el impacto de IA en los sectores culturales se profundizará en los próximos años. En un escenario en el que existen tanto oportunidades como retos, para las políticas públicas la clave será encontrar modos de maximizar las ventajas y mitigar los desafíos. Para el sector cultural, sería fundamental lograr una mayor sensibilización en torno a la cuestión de la IA. A menudo, en los debates sobre esta tecnología se suele pensar en la imagen de un Terminator que amenaza con destruir el mundo, y eso lo único que hace es correr el eje de discusión de los problemas reales, que son los sesgos, la concentración de los ingresos en manos de unas pocas plataformas, la brecha creativa, entre otros temas. 

Por ello, será indispensable promover una mayor sensibilización, así como más oportunidades de capacitación para suplir la falta de competencias digitales en los sectores creativos y también más instancias de vinculación profesional. Por cierto, hoy más que nunca hace falta vincular al sector de la cultura con el sector tecnológico, en particular con desarrolladores de aplicaciones, empresas que producen sistemas de IA, programadores y creadores de videojuegos: de ese cruce pueden surgir innumerables colaboraciones e iniciativas. 

Luego, sería clave fomentar una política de datos abiertos, que tenga en cuenta las necesidades del sector cultural. También habría que fomentar más investigaciones sobre el impacto de la IA en la cultura y viceversa. En los grandes eventos y conferencias sobre IA, el sector creativo permanece en silencio, como si fuera ajeno al asunto, como si se tratara de un tema exclusivo de los científicos y de los ingenieros. Pero vale la pena notar que, en realidad, la tecnología y la cultura son primas o hermanas, por así decirlo: comparten el mismo ADN porque ambas son fruto de la creatividad humana. Y en rigor, el verdadero pionero en IA ha sido el sector cultural, no la ciencia. Pensemos que muchísimas de las palabras que utilizamos en IA provienen de la cultura, la propia palabra “artificial” significa “hecho con arte”; la palabra “tecnología” remite a téchne, que en griego remite al saber del artesano; la palabra “robot”, utilizada en el sentido de máquina humanoide, fue introducida en el año 1920 por Karel Čapek en su obra de teatro RUR: allí se describe un escenario en el que los humanos idearon máquinas que los ayudan en sus tareas cotidianas, pero luego las máquinas se rebelan. Se trata de una línea argumental que luego reaparece en decenas o cientos de otras obras de ficción, que a su vez inspiraron a los científicos. 

El impacto de la cultura en la IA es, pues, considerable y podría crecer aún más en los próximos años. Por ejemplo, cuando debatimos la cuestión de los sesgos, ¿qué es un sesgo? Más allá de los sesgos estadísticos que siempre existen, ¿acaso los sesgos no tienen que ver con estereotipos culturales? Estos temas merecen ser estudiados más a fondo. La solución difícilmente provendrá de artilugios técnicos, sino que demandará un enfoque más amplio. 

Para terminar, vale la pena insistir en la importancia de incluir la perspectiva de la cultura en las estrategias nacionales de IA. En la actualidad, muchísimos países —inclusive la Argentina— están desarrollando estrategias de IA a largo plazo, pero rara vez incorporan la voz, las expectativas, las prioridades o las necesidades del sector de la cultura. Hoy, más que nunca, se vuelve urgente colocar esa mirada cultural en el centro de los planes de IA. En este sentido, la Recomendación mundial sobre la Ética de la IA, que ha sido adoptada por unanimidad en noviembre de 2021 por todos los países de la UNESCO, es un texto pionero. El documento propone una serie de valores y principios firmes para trabajar en IA —pensando en el sector público, el sector privado y la sociedad civil—, así como guías de acción muy concretas, en una serie de áreas políticas estratégicas: educación, género, medio ambiente, datos y también cultura, entre otras. Es el primer instrumento normativo sobre IA a escala mundial que incluye la cultura como un área clave. Seguramente la Recomendación de la UNESCO inspirará nuevas políticas públicas a escala global. 



Deja un comentario