Plagio con los generadores de imagen por IAs
México lanza su primera misión lunar, se prepara el desarrollo del Euro Digital y evidencias de plagio en modelos generadores de imágenes
Puedes encontrar las versiones tanto en audio como en video de este contenido en sus respectivas ligas.
Este 8 de enero el Proyecto Colmena despegará al espacio, siendo esta la primera misión mexicana que llegará a la luna. El proyecto consta de cinco microrobots desarrollados en la UNAM por un equipo liderado por el Dr. Gustavo Medina Tanco. Tras ser desplegados en la luna, los robots se conectarán entre sí de manera electrónica y ensamblarán un panel capaz de producir energía. Cada robot pesa 57.4 gramos y mide 12 centímetros de diámetro, son inalámbricos, cuentan con paneles solares y dos ruedas motorizadas. El objetivo de la misión es estudiar problemas de exploración y reconocimiento en terreno espacial y así se podrán diseñar estrategias para mitigar los efectos, como las interferencias electromagnéticas o la alta radiación., así como analizar la composición del terreno lunar. La misión durará un solo día lunar, o 15 días terrestres, para que después el módulo Lander se apague y se pierda comunicación con el equipo.
El Banco Central Europeo presentó un plan para el desarrollo del Euro digital. El Banco busca socios para cinco iniciativas distintas y el desarrollo de pagos fuera de línea encabeza la lista con un presupuesto de 662 millones, de los 1,300 asignados a todas las iniciativas. Se espera que el proyecto traiga un sistema de pagos locales al continente y fortalezca la infraestructura financiera europea.
La tienda de aplicaciones con GPTs de OpenAI, anunciada el año pasado, será lanzada la próxima semana después de algunos retrasos. Los desarrolladores deberán asegurarse de que sus GPTs cumplan con varios requisitos, verificar sus perfiles y asegurarse de que sus GPTs sean públicos antes de poder optar por ser incluidos en la tienda. No queda claro si la GPT Store tendrá un esquema de reparto de ingresos, ya que no han salido a la luz planes de pagos para desarrolladores.
Este viernes se presentaron nuevas demandas en contra de OpenAI y Microsoft en la corte federal de Manhattan, en esta ocasión, por parte de Nicholas Basbanes y Nicholas Gage,,dos autores que alegan que las compañías violaron copyright al incluir varios de sus trabajos para entrenar los modelos de Inteligencia Artificial usados por ChatGPT y otros servicios. Esta demanda sigue a varias presentadas por autores como George R.R. Martin o incluso la comediante Sarah Silverman, así como al New York Times.
Esta semana el artista Jon Lam compartió una lista con los nombres de varios artistas, la cual fue presentada en noviembre en la corte como parte de una demanda en contra de Midjourney, Stability AI, DevianArt y Runway AI. La evidencia más problemática, conocida como Evidencia J, incluye miles de nombres de autores cuyos estilos fueron usados para el entrenamiento del modelo generador, con nombres que van desde Wes Anderson hasta Norman Rockwell. Un artículo escrito por Gary Marcus y Reid Southen ilustra la profundidad del problema con el uso ilegal de contenido protegido para el entrenamiento para la versión 6 de Midjourney en donde se puede replicar fácilmente material de series o películas populares.
Plagio y Repulsión con Midjourney
2024 es el gran año para las Inteligencias Artificiales. Igual que fue el 2023, el 2022, y serán el 2025, 2026 y así hasta que surja la nueva gran moda. Pero la popularización de distintos modelos basados en la ingesta y vomito de datos, sonidos o imágenes no ha sido gratuito, y quienes son responsables de que haya contenido para generarse rara vez son recompensados.
Por un lado, tenemos demandas peculiares por parte de medios respetados como el New York Times, la cual habla sobre como resultados de sus textos están presentes en respuestas ofrecidas por ChatGPT. La demanda puede ser un poco contradictoria, porque al mismo tiempo alega que la herramienta basada en gran modelo de lenguajes copia de manera ilegal su contenido, y al mismo tiempo dice que copia mal la información, generando inexactitudes. Esta demanda más bien entra en la categoría de instrumento de negociación para que, en caso de comprobarse ante un juzgado que los datos del medio fueron usados sin consentimiento para el entrenamiento del modelo de OpenAI, se reciba una compensación económica.
Por otro lado, tenemos resultados bastante preocupantes sobre el uso de imágenes registradas por parte de modelos generadores de imágenes, tales como DALL-E o Midjourney. Tras la revelación de distintas evidencias, se hace notar que el uso de material disponible sin consentimiento y la catalogación de distintos artistas fueron parte base al momento de desarrollar estas herramientas. Esto no es gran sorpresa, sobre todo si fuiste parte de la explosión de gran cantidad de obras nada originales que copiaban descaradamente estilos de cineastas como Wes Anderson, pero la evidencia que se ha registrado es particularmente abrumadora, ya que esta indica que Midjurney podía mostrar y generar resultados que son calcas casi idénticas a imágenes de obras artísticas las cuales se usaron para su entrenamiento, y sobre las cuales no tiene derecho de uso.
Mientras que profesiones como “amo del prompt” ya pasaron de moda, ya que para generar resultados atractivos debes saber cómo pedirlos, esto parece no ser una necesidad, ya que instrucciones como “genera una imagen de un personaje de caricatura con piel amarilla de los 90s” te generaba a personajes de los Simpsons sin necesidad de especificar más.
Para el usuario de a piso, esto podría parecer genial. Necesita una imagen y no la encuentra, pues puede crearla y replicar así contenido que para su uso necesitaría el pago de una licencia o usos alternativos aprobados como el uso justo, el cual no es un derecho, sino una defensa, pero puede permitir el uso de estas imágenes. El problema viene precisamente porque estos usos generativos no están permitidos, aunque ha habido una desensibilización progresiva en donde un usuario común puede creer que tiene derecho a el reúso de obras que no son de su autoría sin ninguna consecuencia y sin considerar que el autor original podría merecer algún tipo de compensación. Esto es preocupante más en artistas independientes de estilos reconocibles que en el caso de corporativos gigantes, pero esta normalización afecta a todos.
Dicha desensibilización se refleja en comentarios del mismo Emad Mostaque, quien llegó a presumir como se metía a sitios de contenido privado para tomar la información ahí publicada para entrenar sus modelos, siendo esta una clara violación a las licencias de uso.
Los procesos de regulación de contenido generado por IAs continúan su marcha, pero sabemos que la legislación va detrás del uso de cualquier tecnología. Buenas prácticas implicarían el tener filtros tanto de generación como de emisión de material para que este pueda ser usado, pero esto podría repercutir en “artistas” frustrados que al pedir una imagen de un plomero bigotón con overol y cachucha roja no ven parecido entre la imagen generada y Super Mario, sin entender que no necesariamente tienen derecho al uso de imagen del reconocido personaje.
La escalada en las quejas sobre usos no permitidos debería poder permitir una mejor regulación, aunque esto es un camino largo y complejo, y probablemente no se logren compensaciones satisfactorias para los creadores cuyas obras fueron usadas sin consentimiento. Esto al mismo tiempo en que noticias como la entrada al dominio público de versiones de personajes reconocidos como Mickey Mouse hacen olas y surgen proyectos en donde la originalidad y creatividad están ausentes y los oportunistas se trepan del trabajo de alguien más.
Si quieres saber más sobre acercamientos de empresas como OpenAI y Shutterstock para el uso y generación de imágenes y dar compensación a artistas, revisa nuestro episodio 235 en donde encontrarás más información.