Desventajas y preocupaciones sobre el uso de la IA.

por María del Rosario Soto Román 

Anteriormente les mostre lo positivo, ahora les muestro el otro lado. Las desventajas y preocupaciones sobre el uso de la IA:

1. Desinformación

Una de las cosas que en algunos momentos era emocionante, si se utiliza mal puede crear desinformación.

Al generar imagenes, puede crear imágenes falsas.

Imagen generada con IA.

La capacidad de generación de audio hace que los audios sintéticos parezcan reales.

En la generación de videos se maneja al punto de crear videos manipulados.

Esto dificulta distinguir entre realidad y ficción.

2. Impacto laboral

Algunas tareas creativas pueden automatizarse parcialmente:

El proceso de diseño básico se vuelve más fácil.

La Ilustración comercial se simplifica tanto al punto que cualquiera puede hacerlo.

Hace que la redacción rutinaria sea menos compleja.

La edición de imagen es más sencilla y no se requiere de un profesional como tal.

Aunque también aparecen nuevos trabajos relacionados con IA.

3. Derechos de autor:

Existe debate sobre:

A. ¿Qué obras se usan para entrenar modelos?

  La respuesta corta es: depende del modelo.

Las fuentes pueden incluir:

1. Obras de dominio público (libros antiguos, pinturas históricas, etc.).

2. Contenido con licencia obtenida por las empresas desarrolladoras.

3. Datos creados específicamente para entrenamiento.

4. Información disponible públicamente en internet.

5. Obras cuyos autores han dado permiso para su uso.

La controversia surge porque algunos artistas, escritores y fotógrafos argumentan que sus obras fueron utilizadas para entrenar ciertos modelos sin consentimiento explícito. 

Las empresas de IA responden de distintas maneras: algunas firman acuerdos de licencia, otras permiten excluir contenido de futuros entrenamientos y otras sostienen que el entrenamiento constituye un uso transformativo de los datos.

Por eso actualmente existen demandas, negociaciones y propuestas de nuevas leyes en varios países.

B. ¿Quién es dueño de una creación asistida por IA?

Aquí la respuesta cambia según el país y el grado de participación humana.

En general:

Si una persona usa IA como herramienta y aporta decisiones creativas importantes (dirección artística, edición, selección, composición, retoques, etc.), normalmente esa persona puede reclamar derechos sobre la obra final.

Si la obra es generada de forma completamente automática por una IA, muchos sistemas legales no reconocen derechos de autor plenos porque no existe un autor humano.

Por ejemplo:

Una fotógrafa que usa IA para mejorar una imagen probablemente conserva derechos sobre su trabajo.

Una artista que genera cien imágenes y selecciona, combina y modifica una de ellas tiene un argumento fuerte para reclamar autoría.

Una imagen creada con un solo prompt y sin intervención adicional puede enfrentar más dudas legales dependiendo de la jurisdicción.

La mayoría de los países todavía están ajustando sus leyes para responder a estos casos.

C. ¿Cómo compensar a los artistas?

No existe un consenso universal, pero se discuten varios modelos:

1. Licencias directas.

Las empresas pagan a artistas, editoriales o agencias para usar sus obras en el entrenamiento.

Ventaja: los creadores reciben compensación clara.

Desventaja: puede favorecer a grandes empresas y dejar fuera a artistas independientes.

2. Sistemas de regalías.

Funcionarían de forma parecida a la música en streaming.

Cada vez que un modelo use conocimientos derivados de ciertas obras, una parte de los ingresos se repartiría entre los creadores.

Ventaja: recompensa el valor aportado.

Desventaja: técnicamente es muy difícil determinar cuánto influyó cada obra en un modelo.

3. Programas de participación voluntaria.

Los artistas eligen si desean que sus obras se usen para entrenamiento y bajo qué condiciones.

Ventaja: respeta el consentimiento.

Desventaja: reduce la cantidad de datos disponibles.

4. Fondos colectivos.

Las empresas de IA aportarían dinero a un fondo que luego se distribuiría entre creadores mediante organizaciones de gestión colectiva.

Ventaja: más fácil de administrar que rastrear obra por obra.

Desventaja: decidir cómo repartir el dinero puede ser complicado.

4. Homogeneización cultural:

Si muchas personas usan las mismas herramientas, existe el riesgo de que:

Los estilos se parezcan demasiado.

Algunas tendencias dominen.

Se pierda diversidad creativa.

5. Dependencia tecnológica:

Algunas personas temen que:

Se practiquen menos ciertas habilidades.

Disminuya la creatividad independiente.

Se dependa demasiado de sistemas automáticos.

Siempre hay que tener en cuenta de los datos o factores positivos y negativos antes de prejuzgar esta tecnología en evolución.

El debate de fondo.

La pregunta realmente no es si la IA debe existir o no. El debate principal es cómo equilibrar dos objetivos legítimos:

Permitir la innovación tecnológica y el acceso a herramientas creativas.

Reconocer y compensar el trabajo de artistas, escritores, músicos y otros creadores cuya producción cultural ayuda a construir estos sistemas.

Por eso encontrarás personas que ven la IA como una herramienta extraordinaria para democratizar la creatividad, y otras que están preocupadas por la protección de los derechos de los creadores. 

Ambas perspectivas tienen argumentos importantes y el marco legal todavía está evolucionando.