Otras publicaciones:

614_frontcover

9789871867769_frontcover

Otras publicaciones:

9789877230581-tapa

12-4473t

Soberanía tecnológica
e inteligencia artificial

Sofía Scasserra

La inteligencia artificial (IA) es una dinámica difícil de comprender pero a su vez se encuentra muy de moda, y un poco el desafío aquí es separar la paja del trigo porque en estos temas de moda, lo que suele ocurrir es que hay mucho marketing, mucho de lo que se dice y se vende como lo que deberíamos estar pensando, vis-a-vis con los análisis profundos de qué es realmente la IA y cómo impacta en la vida de las personas y en la autonomía del Estado. 

¿Revolución? 4.0 

El desafío que yo quiero enfrentar empieza por el concepto de Revolución 4.0. Esto es importante porque se habla mucho de la Revolución 4.0 y siempre se muestran fotos de seres humanos en alianza con los robots como si esa fuera la novedad, como si el robot dándole la mano al ser humano fuera una cosa maravillosa que ocurre en la Revolución 4.0 y que no ha ocurrido nunca hasta ahora en la historia de la humanidad. La realidad es que cuando uno se pone a ver la historia, los robots existen hace más de 30/40 años, no es que son una cosa de ahora, quizás tienen mejoras tecnológicas, mejoras estéticas, de funcionamiento, pero no es la novedad productiva que encontramos hoy día. ¿Quién tocó o vio un robot en los últimos meses? Ese no es el gran cambio de paradigma y no es la transformación productiva que importa. 

La Revolución 4.0, desde el punto de vista económico (si bien personalmente no creo que se pueda hablar de “revolución” porque no hay ningún cambio verdadero), es en realidad una profundización del desarrollo tecnológico a una velocidad y una escala nunca antes vista, a partir de una nueva materia prima. Esto sí es un elemento disruptivo, tenemos una nueva materia prima que ha cambiado el curso de los desarrollos tecnológicos y que ha profundizado ese desarrollo y lo ha acelerado, pero esto no implica un cambio de paradigma. Esta tecnología sirve para profundizar el paradigma capitalista en el cual venimos viviendo. 

Ahora bien, cuando uno piensa en qué es la IA a mí me gusta desarmar la cadena de valor, desmembrarla, para que eso nos ayude a pensar en términos de autonomía, soberanía y economía. 

Primero tenemos la gran cantidad de datos; lo que ha cambiado es que ahora, a partir de la utilización de las tecnologías de la información y la comunicación, producimos una enorme cantidad de datos, que son utilizados como materia prima. Esos datos se transforman en información, ¿y cómo lo hacen? A partir de su procesamiento por sistemas algorítmicos. Pero ¿qué es un algoritmo? Poca gente comprende realmente lo que es un algoritmo. 

Cathy O’Neil, en su libro Armas de destrucción matemática, lo cuenta con un ejemplo que nos va a servir para entender la importancia de la autonomía: ella tiene un algoritmo en la cabeza con el cual programa, todas las noches, lo que va a cocinar a la hora de la cena para su familia y ese algoritmo tiene datos (la materia prima), ¿y cuáles son esos datos?: qué hizo la noche anterior, qué le gusta a la familia, si hay alguna restricción alimentaria, si tiene tiempo para preparar la cena o no, la valoración nutricional de los alimentos, si algún familiar es celíaco, las ganas de cocinar, entre otros. Ella, todas las noches, procesa ese algoritmo, le asigna valores y, sobre esa base, decide que van a comer pollo con ensalada, por ejemplo. Esto no parece un algoritmo pero lo es, lo tiene en su cabeza y todas las noches lo procesa, lo optimiza, lo maximiza; todas las noches trata de que sea el mejor plato para su familia con las condiciones dadas esa noche. 

Ese ejemplo tiene algo muy llamativo porque nos hace cuestionarnos la IA: al algoritmo hay que actualizarlo, no es cierto que la IA se autoprograma y aprende y por ende no necesita asistencia humana una vez que está programado. Existe esta fantasía de que el machine learning nos va a dejar sin trabajo a todos porque como se autoprograma es un sistema que “va solo” y que no necesita la asistencia del ser humano. Pero el ejemplo citado nos muestra cómo es necesario actualizar ese algoritmo, esa información, los datos, optimizarlo. Puede incorporar recetas nuevas, que surjan reuniones, que no tenga ganas, hay muchas eventualidades que pueden surgir que hacen que ese algoritmo necesite una actualización constante. 

La segunda enseñanza que deja el ejemplo es que quién programa y quién optimiza no es un dato menor. Si ella optimiza el algoritmo, obviamente la valoración nutricional va a tener una fuerte incidencia sobre el resultado de la algoritmización; ahora bien, si en vez de hacerlo ella lo hiciera su hijo de 10 años, evidentemente los gustos van a prevalecer por sobre la valoración nutricional y la milanesa con papas fritas le va a ganar al pollo con ensalada sistemáticamente. 

Aquel que tiene el poder de decisión sobre la programación de la IA tiene el poder de destino de cómo se va a hacer esa maximización, por ende ya empezamos a identificar un problema de autonomía y soberanía respecto de dónde aplicamos la IA y quién es la persona que va a programarla. No es lo mismo una programación que fue decidida, programada, realizada de forma nacional o regional, que una optimización que fue hecha en otra latitud con otra forma de pensar, con otra cultura. Si observamos la diversidad en torno a aquellos que toman la decisión (que en general son hombres de entre 30 y 40 años, con estudios completos en países desarrollados), empieza a haber un cierto sesgo respecto de algunas cuestiones. 

La tecnología no es neutral, la neutralidad tecnológica no existe y no podemos decir que, como tiene información perfecta (big data), puede decidir sobre la vida de las personas de una manera neutral, porque la neutralidad no existe: tanto en los datos que alimentan esa información como en cómo son procesados esos datos. Después se obtiene un producto final que es el ordenamiento, la maximización o el diseño de distintos sistemas. 

Si lo pensamos desde un punto de vista productivo, ¿qué es una industria? Una industria es introducir materia prima (que es heterogénea, variable, cambiante), procesarla y obtener un producto homogeneizado, estandarizado para llevar a la sociedad. La IA hace exactamente lo mismo: mete datos que son heterogéneos, distintos, diversos, de distintas poblaciones; los procesa a través de algoritmos y los transforma en información, la cual será un producto final, homogéneo y vendible en el mercado. Por ejemplo, ordena la información de determinada manera, maximiza la información de otra o diseña premios y castigos para estandarizar nuestro comportamiento, este caso sería el de los algoritmos que utilizamos en redes sociales, para informarnos, en el mundo del trabajo. 

Esto es importante entenderlo porque nos señala que no es lo mismo cualquier IA para cualquier cosa, no es lo mismo aquella que se puede utilizar para procesar pagos, por ejemplo, que aquella que se utiliza para gestionar a los trabajadores, emitir sentencias judiciales o para decidir el destino de la salud de las personas. No es lo mismo cualquier IA, si uno está estandarizando, homogeneizando la información, si está tratando de llevarlo a un producto vendible. Muchas veces, cuando tenga que ver con la vida humana y con los derechos de los seres humanos, esa estandarización va a ir en contra de los intereses de la ciudadanía porque, obviamente, no somos todos iguales, no partimos de la misma base y no tenemos todos las mismas condiciones iniciales, y por eso la importancia de la ley y de dar derechos a aquellas minorías que no los tienen o no los gozan en el cotidiano. 

Ya aquí nos encontramos con varios problemas. Esta IA, que aparentemente como tiene muchísimos datos, podría llegar a decidir con información completa y por ende ser una especie de guía en la vida de las personas, empieza a ser bastante cuestionada. 

Cuando se piensa el empleo de plataformas, hay dos elementos a destacar: una conducta humana y un sistema que diseña premios y castigos, y así estandariza el trabajo y el comportamiento de las personas para que sean cada vez más eficientes, para que la empresa gane más dinero, etcétera. Por ejemplo, en el caso del trabajador de delivery se busca que tenga una tasa de aceptación cada vez más alta (que acepte pedidos sin parar) y que los incentivos, los premios y castigos que diseña la IA, vayan en esa dirección. Este producto homogéneo que lanza la IA son los sistemas de premios y castigos para estandarizar cómo se comportan las personas, los seres humanos. 

No es tanto el peligro de que los robots nos dejen sin trabajo sino que, por conservar el empleo, nos estemos robotizando: todos tenemos que aceptar la próxima tarea o tenemos que comportarnos de determinada forma para que el algoritmo nos juzgue de manera correcta. 

Esta inteligencia artificial, ¿de qué modo afecta la soberanía de los Estados, su autonomía estratégica?

Lo primero y principal es que la soberanía se juega en la política de acceso a los datos porque lo que hay es una suerte de extractivismo. Cuando hablamos de extracción de materias primas (cobre, litio), estamos hablando de extracción para ser utilizada y consumida de forma local. Pero cuando hablamos de extractivismo nos referimos a empresas que se llevan esa materia prima de una manera indiscriminada a los fines de exportar, y muchas veces sin pagar impuestos o sin dejar ningún tipo de rédito a nivel nacional. Si pensamos en los datos, en realidad hay un extractivismo de datos porque lo que tenemos son personas que utilizan tecnologías digitales a las cuales les extraen datos de manera indiscriminada, y esos datos no quedan en la República Argentina ni se utilizan por plataformas argentinas para diseñar instrumentos de industrialización digital para los argentinos y argentinas. Esos datos se llevan a Silicon Valley o a otros grandes repositorios de datos y el Estado pierde el acceso a ellos. 

Ahora bien, ¿por qué es tan importante esto? Nosotros en economía hablamos de bienes rivales y bienes no rivales, ¿qué significa esto? Si yo me estoy tomando una taza de té significa que Esteban no se puede tomar la misma taza de té que yo, porque son bienes rivales. Con los datos eso no ocurre, que yo tenga un dato, una base de datos, un centro de almacenaje no significa que la República Argentina no pueda tener una copia exacta e igual de esos datos, los datos son bienes no rivales: que Google o Facebook tengan datos no implica que Argentina no pueda decir “dame acceso a esos datos, o copiámelos”, porque por ahí el Estado los necesita para diseñar políticas públicas. Por ejemplo, en la ciudad de Nueva York, la municipalidad le exigió a Uber que comparta sus datos (sin interés en quién es el usuario, su privacidad está garantizada por la Ley de Protección de Datos) y utilizó esa información para rediseñar el sistema de transporte urbano de la ciudad de Nueva York. Este es un claro ejemplo de cómo la política de acceso a los datos tiene que ser una política pública, sobre todo cuando el Estado firma contratos con una empresa de tecnología, que le garanticen el acceso a los datos para diseñar políticas públicas, porque si no estamos frente a un problema de dependencia de las plataformas, que nos indiquen qué y cómo tenemos que hacer en vez de nosotros poder generar nuestras propias políticas públicas a partir de datos concretos de la realidad (lo cual hace que las políticas públicas sean mucho más efectivas). 

Esto también trae un problema porque, en los acuerdos de libre comercio que se están negociando a nivel internacional en términos de digitalización (Argentina está participando del Acuerdo de Comercio Electrónico de la Organización Mundial del Comercio), una de las cosas que se plantean en ellos es que las empresas tienen derecho a extraer datos y llevárselos a otras latitudes sin permitir al Estado o a las comunidades el acceso a ellos. Lo que quieren lograr las grandes multinacionales es que los datos pasen a ser bienes rivales para obtener así el monopolio de esa información. Esto ya está generando problemas; principalmente desde la UNCTAD, que es un organismo de Naciones Unidas que se dedica a temas de comercio y desarrollo (la versión global de la CEPAL), se expresó el rechazo a este tipo de acuerdos y que no se debería estar negociando en estos términos. Entonces en cuanto a la materia prima, ya se está jugando un aspecto soberano. 

El segundo aspecto soberano que es importante tiene que ver con el valor agregado, en el diseño de la IA propia. ¿Dónde está el valor agregado de la inteligencia artificial? Si uno piensa en la cadena de valor (datos, materia prima, procesamiento algorítmico y producto final), el valor agregado no está en los datos, está en el algoritmo, en la programación. No solamente está en la programación sino en la decisión de la programación. En Argentina nosotros tenemos este discurso de que vendemos las materias primas para que después vuelvan a ingresar al país de una manera enlatada, y la realidad es que, en la programación de algoritmos, está pasando lo mismo: hay un discurso que circula según el cual si uno estudia programación, se salva y que la República Argentina va a pasar a ser desarrollada si todos estudiamos programación y trabajamos todos para Silicon Valley. Esta idea hay que ponerla un poco en duda porque en realidad lo que estamos haciendo es exportando línea de códigos, o sea, tenemos un ejército de programadores trabajando para Silicon Valley que exportan esa línea de códigos, que luego reingresa enlatada en los diferentes dispositivos electrónicos. 

Hay que empezar a entender en dónde nos vamos a situar en la cadena de valor de la inteligencia artificial, ¿vamos a ser meros productores de materias primas, líneas de código? ¿O vamos a tomar la decisión de cómo fabricar la IA y nos vamos a quedar con ese excedente económico que nos permita desarrollar cadenas de valor? Hay que empezar a desarrollar políticas nacionales de desarrollo de inteligencia artificial propia. Argentina tiene mucho valor agregado en términos de recursos humanos para operar en el sector y para desarrollar IA, lo que está faltando es volcar esos recursos humanos a un producto de IA terminado que pueda ser vendido en el mercado externo y no meramente en productores de líneas de códigos. De lo contrario, esto va debilitando los términos de intercambio y cada vez más vamos a ser dependientes del sector externo porque nos va a costar conseguir divisas y vamos a quedar rezagados en las cadenas globales de producción tecnológica. 

El tercer tema en el cual se juega la soberanía es en la privatización, indirecta, de los servicios públicos. Lo que está pasando en el mundo es que los Estados subcontratan empresas multinacionales para modernizar el Estado de manera fácil y rápida por cuestiones de políticas, demandas tecnológicas, mayor eficiencia en los servicios públicos, etcétera. El problema es que, cuando el Estado no tiene cuidado respecto de en qué condiciones y términos firma los contratos con relación a la política de los datos, está cayendo en servicios públicos pensados con afán de lucro (porque las empresas privadas no buscan la inclusión y el bienestar de la sociedad, buscan el lucro) y el Estado debería tener otros objetivos que no tengan que ver con el superávit sino con garantizar derechos. 

Hay que ver qué tipo de IA contrato, para qué la contrato y en qué servicios públicos la estoy contratando. Muy probablemente la educación y la salud no sean lugares donde sea pertinente contratar IA desarrollada en otras latitudes por empresas multinacionales porque ahí tengo dos derechos muy importantes que resguardar. Hay cuestiones de colonialismo donde se pueden perder aspectos culturales relevantes respecto de los programas educativos si simplemente contrato soluciones tecnológicas hechas en otras latitudes. Hay que empezar a tener, desde el Estado, una política de desarrollo tecnológico propio sobre todo en las áreas de los servicios públicos donde es posible desarrollarlo. 

Este punto es importante porque no todas las tecnologías pueden ser desarrolladas localmente, hay tecnología que conviene contratar de afuera pero siempre que se pueda desarrollar a nivel local, y que tenga que ver con un servicio público, es muy importante que el Estado tenga la capacidad de hacerlo a nivel nacional para resguardar la cultura y los derechos de las personas. 

El cuarto punto importante es el tema de la regulación y los impactos. A nivel mundial se está debatiendo cómo regular la inteligencia artificial y los impactos sociales, económicos y políticos que esta tiene. La IA es responsable de la reproducción de fake news en Internet, de cómo nos informamos y de otro montón de cuestiones que tienen que ver con la democracia y la soberanía, pero también cuestiones relacionadas con los ámbitos jurídicos, culturales, sociales. Cada vez más es necesario establecer marcos normativos respecto de la IA. La Unión Europea, por ejemplo, publicó una normativa muy interesante en la cual se genera un ente regulador, donde las empresas y las instituciones que utilizan algoritmos deben inscribir esos algoritmos en esa institución y el ente juzga si son o no peligrosos y el grado de peligrosidad que puedan tener en cuanto al impacto en la sociedad. Si el impacto es poco peligroso entonces no tiene auditoría, pero si puede tener serios impactos en la cultura, en la sociedad o en la democracia entonces son auditados y pasan fuertes controles, porque se está jugando los derechos de las personas. 

Esta regulación está en jaque por los acuerdos de libre comercio mencionados previamente, porque a nivel internacional hay acuerdos supranacionales que se están negociando que dicen, expresamente, que no se pueden auditar los algoritmos de IA, y Argentina, si bien no lo firmó todavía, se encuentra negociando ese acuerdo. Si nosotros firmamos ese acuerdo, no vamos a poder regular la auditoría algorítmica tan necesaria para entender cómo funcionan estos sistemas y cómo afectan la vida de las personas. 

Finalmente, el último punto evidentemente son los impuestos, la recaudación. A nivel global existe un acuerdo que dice que las transferencias electrónicas de datos no pueden tener aranceles en los bordes, lo cual creó esta idea de que la tecnología no tiene bordes, que es inalcanzable, que es mundial, que no tiene correlato a nivel local y que no tenemos la capacidad de regularla a nivel local. Y esto es completamente falso, existe la capacidad de regular la transmisión de datos, se pueden establecer medidas para que el procesamiento se haga nivel local, lo mismo que el almacenaje (ya que son datos sensibles de los argentinos). Es por ello que es tan importante que la Argentina empiece a ejercer esa potestad en todos los contratos que firma y en sus regulaciones y que empiece a cobrar impuestos como forma de retribución por ese extractivismo de materias primas que se está realizando: si se está extrayendo una cantidad indiscriminada de datos de argentinos y argentinas que sirven para desarrollar IA, deberían, como mínimo, pagar impuestos por ese extractivismo. 

No solo eso sino que se empiezan a cobrar impuestos a las multinacionales que operan como plataformas de inteligencia artificial o plataformas de plataformas. En este punto es necesario pensar una estrategia hasta a nivel regional, ¿cuán difícil va a ser cobrarle un impuesto a Twitter cuando la empresa tiene una valuación similar a la deuda que tiene la Argentina con el FMI? La capacidad política de establecer una regulación impositiva es muy limitada cuando la empresa tiene el tamaño de tu deuda externa. De allí surge la necesidad de pensarlo en términos regionales: no es lo mismo la capacidad que tiene la Argentina que la capacidad de negociación que tiene el MERCOSUR. 

No solamente se impone la agenda a nivel local de pensar estrategias que le den recursos al Estado en el futuro. Todos sabemos que lo digital en el futuro va a ser todo lo que conocemos, cada vez más los bienes y servicios se comercializan, se producen y se venden a través de Internet, con lo cual si no empezamos a tener una agenda progresista, inclusiva y estratégica en términos impositivos vamos a sufrir un Estado con cada vez menos recursos y más complicaciones para poder tener dinero en el futuro que garantice servicios públicos de calidad, para invertir en infraestructura, etcétera. 

Por ende es necesario abordar la cuestión impositiva de doble forma: a nivel local y a nivel regional, porque a nivel local la capacidad de poder coercitivo que tiene el Estado argentino es muy limitada, ni hablar de países más chicos como Uruguay o Paraguay, donde la capacidad que pueden llegar a tener de regular y cobrar impuestos a grandes empresas multinacionales de IA se va a complicar cada vez más. 



Deja un comentario