David García Aristegui
Mi abuelo se llamaba Fernando García Morcillo y fue el compositor de la música de “Mi vaca lechera”, en sus orígenes un exitoso fox-trot, convertida con el paso de los años en canción infantil. Fernando fue bastante conocido en los años de posguerra. y, para que os acabe de estallar la cabeza, el letrista de “Mi vaca lechera” y otros temas de mi abuelo fue el policía Jacobo Morcillo (no tenían ninguna relación familiar). Hablamos de finales de los años 40 y en ese momento Jacobo ejercía de comisario en la zona centro de Madrid. El caso es que mi abuelo es coautor también de “La Tuna Compostelana”, imprescindible en el repertorio de esos peculiares personajes que van con mallas, guitarras y pandereta.
Saltamos a 1994. El ínclito Manolo Kabezabolo publica su primer disco, “Ya hera ora” y decide convertir “La Tuna Compostelana” en “La Tuna Punk”: “Cuando los punkis nos vamos de marcha”. A mí Manolo me provocaba (provoca) vergüenza ajena, pero mi abuelo hizo que comprara el CD y le pusiera en su estudio la versión de “La Tuna Compostelana” como cien veces seguidas, en bucle. Cuando la escuchaba se reía a carcajadas y seguía el “ritmo” con el pie. “David…. ¿pero esto de verdad vende?”. El disco no se vendió mal para lo que era “punk” desastroso y desafinado, pero muy alejado de las ventas que mi abuelo había manejado con sus producciones.
Manolo Kabezabolo no pidió permiso para adaptar (destrozar) varios temas de otros artistas en su primer trabajo. Y paradojas de la vida, de todos los artistas, mi abuelo resultó ser el más punk. Él, que desarrolló gran parte de su carrera durante la dictadura franquista y con un comisario de letrista. El más punk porque a los abogados de Sex Pistols o Bob Dylan no les hizo nada de gracia el experimento y pidieron la retirada del disco de Manolo Kabezabolo, que tuvo que ser reeditado con ocho temas menos. Pero la “Tuna punk” permaneció en él.
¿Por qué hablamos de un episodio así, en un texto sobre inteligencia artificial (IA a partir de ahora)? Pues porque si hablamos de IA, hablamos sobre todo de consentimiento y vulneraciones masivas de derechos. Antes de Internet y la IA se podía permitir o no que tu obra pueda ser usada por otras personas, incluso ser parodiada. Si Manolo Kabezabolo hubiese pedido permiso a mi abuelo probablemente se lo hubiera concedido, ya que posteriormente en la película “El milagro de P-Tinto” “Mi vaca lechera” se convirtió en “Tengo un ovni formidable”. Pero los algoritmos de la IA se tragan todo lo que pueden encontrar en Internet sin pedir permiso.
La cultura libre muere y la cultura del permiso vive
En el imaginario y el discurso de la llamada cultura libre, que buscaba que con licencias más laxas se mejorará la difusión de las obras, se caracterizaba a las “clásicas” como el principal soporte de la “cultura del permiso”. Para las y los defensores de la cultura libre, el pedir permiso por usar obras ajenas era, en el mejor de los casos, una pérdida de tiempo, como pareció intuir Manolo Kabezabolo y que sólo en el caso de mi abuelo le salió bien. Al final la moda de la cultura libre pasó, pero ahora parece que la IA va a poner todo patas arriba.
¿Estamos otra vez en una actualización de los debates sobre «la muerte del autor/a» que se inició con Barthes y Foucault? Para hablar sobre IA y su contexto político y social entrevistamos a la artista y experta en propiedad intelectual Ainara LeGardon y a Dan McQuillan, autor del libro Resisting AI – An Anti-fascist Approach to Artificial Intelligence.
LeGardon comenta sobre una hipotética muerte del autor/a que “un debate trascendental en los momentos que estamos viviendo es ese: la redefinición del propio concepto de autoría, ligada con el papel de la autenticidad como sustituta de la propiedad intelectual”.
MacQuillan por su parte expone: “Los debates posestructuralistas sobre el autor fueron una forma de cuestionar nuestras ideas no examinadas sobre el tema [la autoría]. Este cuestionamiento se aplicó igualmente a la identidad individual y a los sujetos colectivos de la historia (que, para Marx, era la clase trabajadora). Dado el inminente colapso del status quo debido a la insaciable destrucción del planeta por parte del neoliberalismo y el ascenso de la extrema derecha y el fascismo como respuesta a este colapso, nunca ha habido un momento más importante para reconstituir el sujeto colectivo.
Escribí ‘Resistir a la IA’ porque la IA es la concentración de la ‘optimización’ (explotación) neoliberal en forma concreta, y la subtitulé ‘Un enfoque antifascista’ porque esta misma tecnología de IA tiene tendencias que la hacen adecuada para formas de solucionismo fascista. Sin embargo, lo que intentaba describir no era simplemente el rechazo de una tecnología sino la creación de una tecnopolítica; es decir, de formas de resistencia que reconozcan la forma en que somos formados como sujetos por las tecnologías a las que nos sometemos. Hacer tecnopolítica significa luchar por cambiar nuestros sistemas técnicos y nuestras relaciones sociales al mismo tiempo, para que podamos volver a ser sujetos de nuestra propia historia”.
Cuando hablamos de IA hablamos de autoría, cultura, consentimiento y… antifascismo y política. Las ideas de LeGardon y McQuillan pueden ayudar a orientarnos dentro de una sociedad adicta a la inmediatez, la velocidad y redes sociales cada vez más tóxicas y con poco espacio para la reflexión. Y parece que la IA quiere acabar con la “cultura del permiso” no en los tribunales, si no por la vía de los hechos.
¿De qué hablamos cuando hablamos de inteligencia artificial?
Probablemente el mismo uso de “inteligencia” sea el origen de la infinidad de malos entendidos que hay en torno a la IA. McQuillan lo tiene claro: “no hay inteligencia en la inteligencia artificial, y cualquier cosa a la que se aplique la IA quedará deshumanizada mediante la reducción, la abstracción y la optimización, que es lo que el capitalismo hace con todas las relaciones humanas. La pregunta que tenemos ante nosotros no es cómo cambiar la IA, sino definir una visión del florecimiento humano y no humano en un mundo sostenible, y preguntarnos qué formas de tecnología amigable nos ayudarán a lograrlo”.
LeGardon da un paso atrás y hace otra reflexión complementaria a la de McQuillan, en torno a mitos que ahora mismo parecen inamovibles en torno a la IA: “Como dice Jaron Lanier, ‘puede que ni siquiera sea apropiado llamar tecnología a una tecnología que carece de los elementos necesarios para ser útil en el mundo humano; si no podemos entender cómo funciona una tecnología, corremos el riesgo de sucumbir al pensamiento mágico’.
Estoy de acuerdo con él en que incluso existe una resistencia a desmitificar la IA. Por ejemplo, es habitual ver el término escrito con mayúsculas, como si fuera un nombre propio, un ente. FundéuRAE lo seleccionó como palabra del año en 2022 (en este caso, expresión), precisamente por las dudas que generaba su escritura. ‘La expresión inteligencia artificial es una denominación común y, por lo tanto, lo adecuado es escribirla enteramente con minúsculas’, nos señalan. Si unimos esto a que no existe una única definición de IA, además de la antropomorfización mediante la utilización términos como “neuronas”, “redes neuronales”, “entrenamiento”, “aprendizaje”, “alucinaciones”, etc. estamos ante el mejor caldo de cultivo para asentar la mitificación de la IA”.
Fuertes intereses comerciales están empeñados en el relato de una IA con atribuciones humanas y que, de rebote, nos hará a todo el mundo artistas y creadores sólo tecleando unas palabras en una caja de texto.
El expolio de la IA después de la cultura libre
Como ya comentamos, los algoritmos de la IA se entrenan con todo lo que pueden procesar que esté accesible en internet. Y los neoliberales repiten como un mantra “EEUU innova, China copia, Europa regula”, para justificar los abusos y expolios de las empresas de IA. Sobre esto LeGardon alerta: “Creo que deliberadamente se intenta confundir todo aquello que está “públicamente disponible” en internet con lo que está en dominio público. Como sabemos, no es lo mismo.
Tampoco todas las obras o prestaciones que se han puesto a disposición del público mediante licencias libres permiten su uso para el entrenamiento de modelos de IA generativa. El tema es que si antes de la irrupción de estos modelos ya existía un desconocimiento generalizado sobre qué significan las licencias libres y qué se puede o no hacer con una obra licenciada bajo alguna de ellas, ahora la confusión se ha multiplicado. Cuántas veces hemos oído “he tomado esta imagen de internet, puedo usarla libremente porque está divulgada con licencias Creative Commons”, sin pararnos a examinar qué tipo de licencia CC: ¿permite el uso comercial?, ¿permite la obra derivada?, etc., incluso sin pararnos a analizar si el uso para el que va a ser destinada esa imagen entraría en primer lugar dentro de los límites y excepciones a la PI y, por tanto, pudiera ser irrelevante en ese caso concreto con qué tipo de licencia ha sido compartida la obra.”
Desde mi punto de vista, la IA ha vuelto a poner encima de la mesa todos y cada uno de los debates que no se cerraron con el auge de la cultura libre. Sobre las licencias Creative Commons LeGardon reflexiona: “una licencia CC en una obra protegida por propiedad intelectual (cuando no sea de aplicación cualquier límite o excepción legal) permite el uso para desarrollar y entrenar cualquier tecnología nueva o en desarrollo sin necesidad de pedir permiso a la titular de los derechos, siempre que se respeten las condiciones de la licencia. Y esto último es lo más importante: entender que hay que analizar cada tipo de licencia y cada caso concreto para saber si esa obra se puede utilizar con esos fines.
El lema “the right to read is the right to mine” (el derecho a leer es el derecho a extraer datos) surge en 2015 por parte de la League of European Research Universities (LERU), y lo hace en un contexto en el que se solicitaban dos cambios en el régimen de Copyright de la UE, que expresaban, eran de gran importancia para las universidades: una excepción obligatoria para fines de investigación (algo ya recogido en la DIRECTIVA (UE) 2019/ 790 bajo el término de “minería de textos y datos”), y una excepción obligatoria que permita a los usuarios extraer textos y datos de todos los contenidos a los que tengan acceso legal (bajo el lema “el derecho a leer es el derecho a extraer datos”). Creo que actualmente ese lema se ha descontextualizado y se está aplicando a otros contextos y entornos muy diferentes a aquel en el que fue concebido. De alguna manera se están instrumentalizando las licencias libres para justamente privatizar y concentrar el valor en unas pocas tecnológicas (recordemos que Open AI no es “open”).”
En este escenario confuso y con multinacionales invirtiendo ingentes cantidades de dinero en justificar sus prácticas… ¿qué podemos hacer?
¿Qué hacer?
Recientemente han aparecido herramientas como Glaze y Nightshade. Glaze es una herramienta defensiva que, aplicada a una imagen, impide que esta sea usada para entrenar un algoritmo de IA. Nightshade en cambio es una herramienta ofensiva: al aplicarse una imagen busca que el algoritmo de IA que la procese quede inservible. Preguntamos a McQuillan sobre el uso de estas herramientas por parte de creadores/as, aunque él es más partidario de la ocupación de fábricas
“Herramientas como Nightshade y Glaze son excelentes maneras de añadir un poco de fricción a la máquina, pero no hacen mucho para cambiar las relaciones estructurales y tecnopolíticas. Un mejor ejemplo de tecnopolítica es la ocupación de la fábrica GKN. Esta iniciativa cambia la producción tecnológica (de ejes de vehículos a bicicletas de carga y paneles solares) y las relaciones sociales (de la jerarquía a la asamblea general) al mismo tiempo. Aunque esta ocupación no tiene nada que ver con la IA como tal, creo que es un modelo excelente para una tecnopolítica de la IA. Es por eso que hay un capítulo en ‘Resistir a la IA’ sobre los consejos de trabajadores y populares como una forma de resistir la IA y reestructurar la forma en que hacemos tecnología”.
El sindicalismo en general y el anarcosindicalismo en particular tienen mucho que reflexionar sobre cómo articular una acción colectiva en tiempos de la IA. Y las respuestas que se planteen tiene que incluir, desde el principio, desde creadores/as, artistas y periodistas a riders, personal técnico y todo el enjambre de subcontratas que hoy supone cualquier actividad mercantil. Hay ya herramientas con las que sabotear los algoritmos de IA que roban el trabajo de miles de personas y colectivos desde los que luchar.
Este artículo se publicó en Libre Pensamiento nº 118. Verano 2024.
