© Redacción
El Consejo Europeo de Escritores (EWC), del que desde 2017 forma parte la Asociación Colegial de EScritores, se ha pronunciado con contundncia sobre la llamada «inteligencia» artificial (IA) y sobre la propuesta de Ley de Inteligencia Artificial que se está tramitando en el Parlamento Europeo.
Reproducimos a continuación el comunicado de su Junta Directiva, presidida por NIna George, y de la que forma parte Miguel Ángel Serrano, secretario general de ACE, como vicepresidente.
Los escritores del sector del libro reivindican un enfoque ético y jurídicamente eficaz de la llamada «inteligencia» artificial
Los ejes básicos del comnicado son:
• Reforma de la excepción relativa a la minería de textos y datos
• Sustitución de la inoperativa reserva de derechos por la exigencia de consentimiento por parte de los autores.
• Obligación de transparencia en la propuesta de Ley de Inteligencia Artificial de la Unión Europea
• Un marco jurídico independiente de la legislación sobre propiedad intelectual para el contenido generado automáticamente
«Cualquier tecnología suficientemente avanzada es indistinguible de la magia.»
Arthur C. Clarke, físico y autor de ciencia ficción
Introducción
Los programas y productos que comercializan actualmente las empresas de inteligencia artificial (IA) son el resultado del uso no consentido ni remunerado de millones de imágenes, fotografías privadas y textos protegidos por derechos de autor y de una explotación del trabajo de seres humanos, de escritores, de ciudadanos europeos, llevada a cabo a lo largo de una década.
Esta forma de explotar nuestro trabajo y nuestra inteligencia creativa e imaginativa para desarrollar productos competitivos constituye una violación flagrante de los derechos humanos y perjudica a quienes están en el origen de todo el mercado europeo del libro y de la cultura.
Estamos en los albores de una crisis cuyo alcance va mucho más allá de los escritores; esta profunda ruptura afectará a toda clase de trabajos y profesiones, a la educación y el estudio, a la ciencia y los medios de comunicación. Sin embargo, establecer unas normas que regulen los productos de la llamada IA de una forma ética y que tenga en cuenta los aspectos económicos y jurídicos, así como la integridad de las políticas laborales, es una tarea humana y exigimos que por fin sea acometida.
Comunicado
El Consejo Europeo de Escritores (EWC), la mayor federación del mundo dedicada a la defensa de los derechos de los escritores del sector del libro desde 1977 y que representa a 46 asociaciones profesionales de 31 países, reclama urgentemente una amplia regulación de los sistemas de IA y de su uso de los datos que contemple las cuestiones éticas, la propiedad intelectual, los aspectos económicos, los derechos humanos y el derecho a la privacidad, y que ponga en el centro a los creadores humanos, lo que plasmamos en las siguientes reivindicaciones:
I – Con respecto al contenido utilizado para entrenar los programas de IA: un uso regulado, remunerado y transparente de los datos y de las obras protegidas por derechos de autor
- Reformar con celeridad la excepción relativa a la minería de textos y datos existente actualmente y adoptar un modelo que exija que se remunere a los autores a través de las entidades de gestión colectiva.
- Implantar un mecanismo de inclusión voluntaria para los autores. Durante el periodo de transición, implementar la «reserva de derechos mediante la utilización de medios de lectura mecánica» prevista por la ley, que actualmente no resulta operativa, de un modo que la haga ejecutable y aplicable.
- Obligar a los desarrolladores de productos basados en la IA a celebrar acuerdos de licencia individuales y colectivos con los creadores.
- La obligación expresa de demostrar la procedencia y practicar la transparencia en lo que respecta a las obras con las que se entrenan los programas debe recaer en los desarrolladores (y, por consiguiente, las empresas) de IA.
- En el caso de las llamadas voces clonadas, para las que se han utilizado voces de personas vivas y locutores de audiolibros sin su consentimiento, debe obtenerse la autorización expresa de los locutores humanos, que deberán recibir una parte adecuada de los beneficios.
II- Con respecto al contenido generado mediante IA: introducción de una obligación de transparencia en la Ley de IA y de una normativa para los productos basados en la IA independiente de las legislaciones sobre propiedad intelectual ya existentes
- Introducir la obligación de indicar si los textos, libros y publicaciones en prensa (incluidas las traducciones), así como las obras sonoras tales como audiolibros, obras radiofónicas, etc., han sido generados mediante IA. Para seguir protegiendo la libertad de expresión, etiquetar el contenido generado automáticamente resulta imprescindible para defender y reconocer los logros humanos. Es importante garantizar la trazabilidad de los productos para proteger también a los consumidores, que tienen derecho a conocer la calidad y la procedencia del producto y a saber quién es responsable de los posibles daños y perjuicios.
- Propuesta de Ley europea de Inteligencia Artificial 2021/0106(COD) – COM(2021) 206: Hasta la fecha, no se ha estipulado la obligación de etiquetar los productos generados mediante IA en los sectores culturales. Sin embargo, en las diversas enmiendas al artículo 52(3) del capítulo 5 del título IV, especialmente la 2275 o la 2278, se ha introducido una excepción para el contenido de tipo creativo, cultural o similar. Bajo ningún concepto debe aprobarse en el Triálogo ni en el Consejo el no etiquetado de los contenidos de tipo creativo generados mediante IA; es un derecho fundamental del lector y de todo consumidor de cultura saber quién ha escrito el libro o qué máquina lo ha compilado.
- Defendemos la transparencia a la hora de informar no solo sobre el origen de los contenidos, sino también sobre si los libros y obras culturales que se le presentan al consumidor han sido seleccionados, agrupados o recomendados por algoritmos u otros sistemas automatizados. La recepción y la visibilidad de los libros y las obras culturales europeos no deben depender de herramientas no europeas.
- Los editores tienen la obligación de informar a los autores de si sus obras han sido traducidas (íntegramente o en grado considerable) mediante traducción automática. Asimismo, recalcamos la importancia de que las editoriales sigan sirviéndose de las capacidades humanas para llevar a cabo las tareas de edición, diseño de cubiertas y selección de manuscritos.
- Los productos generados mediante IA no deben estar protegidos por la legislación sobre derechos de autor y propiedad intelectual; debería estar contemplándose una legislación independiente, inspirada en la Directiva 96/9/CE, de 11 de marzo de 1996, para los productos y contenidos generados automáticamente. Bajo ningún concepto debe
considerarse que una máquina es un autor. Los motores automáticos recopilan, combinan y computan datos que ya existen: lo que generan no son creaciones artísticas originales, sino productos.
Antecedentes:
La IA no es inteligente. Es un refrito
«La inteligencia artificial no existe. Lo que existen son formas de controlar la
tecnología actual, pero antes tenemos que dejar de mitificarla.»
Jaron Lanier, escritor y experto en ciencias informáticas
Durante años, se han extraído datos de las obras de más de un millón de escritores profesionales de todos los géneros del sector del libro europeo, sin que estos hayan dado su consentimiento ni recibido ninguna retribución, para desarrollar productos competitivos de software basados en la denominada «inteligencia» artificial.
El procesamiento del lenguaje llevado a cabo por programas informáticos de manera automática, a menudo llamado erróneamente «inteligencia» artificial, no tiene nada que ver con la inteligencia cognitiva, emocional y creativa en la que se basan todas las obras artísticas, culturales y literarias originales. El proceso no tiene nada de inteligente: la escritura o la traducción automáticas no son capaces de corregir el contenido generado ni de leer ni comprender aquello que generan, como tampoco de aportar ideas, invenciones ni hallazgos novedosos. La simulación de una entidad consciente es un truco barato, no magia, y, al mismo tiempo, todo ese vulgar ardid publicitario tiene un altísimo coste: es perjudicial para la propiedad intelectual, los derechos individuales, los derechos a la protección de datos y los derechos humanos; limita la diversidad lingüística, pues a las máquinas se las entrena mayormente en inglés; da lugar a sesgos y a discriminación, a desinformación y a bajadas de la remuneración; hace aumentar la desigualdad entre los países y entre las personas, y resta valor a la originalidad incomparable de las obras creadas mediante las aptitudes y el intelecto humanos.
En las editoriales, cada vez es más frecuente que el «potencial de ventas» de los manuscritos se evalúe mediante programas informáticos. En los comercios en internet, el algoritmo ha reemplazado a las recomendaciones personales. Las herramientas de análisis de palabras clave resumen los libros y generan los textos publicitarios con los que venderlos. Cada vez se contrata a menos traductores, que son sustituidos por poseditores a quienes se encarga revisar traducciones automáticas. En los sectores de la literatura infantil y la narrativa breve, los proveedores de servicios de autopublicación como Amazon reciben enormes cantidades de obras con ilustraciones creadas automáticamente y textos generados por ChatGPT. Las voces humanas de los locutores de audiolibros se clonan y se utilizan sin permiso. Por ejemplo, una copia artificial de la voz de Emma Watson (Harry Potter) se utilizó para hacer como si la actriz leyera Mi lucha, de Adolf Hitler.
En todo el mundo, empresas como Oracle, Alibaba, Google, Microsoft, OpenAI, Nvidia, Apple y Amazon llevan una década trabajando en el desarrollo de generadores de texto, herramientas de traducción automática y programas de doblaje artificial que convierten obras escritas en audiolibros. Los datos utilizados para «entrenar» los programas
de escritura y traducción automática proceden de obras de dominio público accesibles a través de internet y de obras protegidas por derechos de autor —publicadas en el periodo 2013-2021 y posteriormente— obtenidas de sitios piratas¹
La normativa sobre minería de textos y datos, vigente desde el 7 de junio de 2021 en virtud de los artículos 3 y 4 de la Directiva (UE) 2019/790 sobre los derechos de autor en el mercado único digital, también hace que resulte bochornosamente fácil para las empresas de fuera de Europa realizar la minería del material con el que entrenar sus programas. La «reserva de derechos mediante la utilización de medios de lectura mecánica» prevista por la ley para las obras puestas a disposición del público en línea —que, en lugar de exigir el consentimiento de los titulares de derechos, supuestamente les permite reservar el uso de sus obras o requerir un acuerdo de licencia — no se aplica en ningún sitio, ya que no existen los mecanismos técnicos ni contractuales para ello. Asimismo, la transposición de estos artículos a las legislaciones nacionales excluye cualquier tipo de compensación por este uso.
Nosotros calificamos esto de robo y de parasitismo y lo consideramos una política corta de miras que permite a las empresas de fuera de Europa beneficiarse de la producción intelectual de los creadores europeos. Sin embargo, la fuga del capital intelectual no solo tiene un impacto directo en los propios escritores; ya hay empresas de otros sectores distintos del cultural que están sustituyendo a los redactores de textos, creadores de contenido visual e intérpretes por programas automatizados. Al mismo tiempo, la adjudicación de responsabilidades por cuestiones como las violaciones de los derechos individuales o la desinformación ocasionada por los productos generados automáticamente no está clara.
Los más de 160 000 escritores a los que representan el Consejo Europeo de Escritores y sus 46 organizaciones miembros merecen una respuesta clara, contundente y basada en los valores europeos por parte de todos los responsables de la toma de decisiones legislativas y económicas del sector de la cultura. Dado que la vacilación actual de las políticas europeas pone en peligro no solamente la cultura escrita, sino también la democracia y el futuro del reconocimiento de los logros humanos, reclamamos medidas audaces. Desmitifiquemos la IA. Pongamos al ser humano y al ciudadano europeo en el centro de todos los esfuerzos. Solo así los logros de la tecnología podrán regularse de forma ética, digna y socialmente comprometida.
Bruselas, 24 de abril de 2023
Junta Directiva del Consejo Europeo de Escritores
https://aicopyright.substack.com/p/the-books-used-to-train-llms