En casa tuvimos un disco de Milli Vanilli. Regreso a su historia, que ahora se reescribe, mientras pienso en lo que planteaba Ainara LeGardon: qué gran escándalo que no fueran ellos los que cantaran, que sólo los escogieran por guapos, por su imagen. En la industria musical actual resuenan como esos políticos de un país remoto que dimiten por cualquier falta.
Es curioso, pero la canción que se viene a mi cabeza cuando pienso en ellos es la de “Girl you know is true”
El punto obvio de este artículo es apuntar a que el gran descreimiento digital ya ha empezado.
Tenemos una catarsis de herramientas de inteligencia artificial que nos permiten la síntesis de nuevas voces y caras, la simulación de las existentes, la producción de piezas audiovisuales que a nuestros ojos parecen sacadas de la realidad.
Con tiempo y dedicación, el creador de memes tiene un potencial creativo que hace años sólo tenían las super producciones. Imitar voces ya no es un ejercicio personal de mimetismo, las capas de ironía y distancia se añaden con meta referencias mezcladas con inteligencia, también con la artificial.
La solución inmediata a “las noticias falsas” la llevamos aplicando décadas. Hay una respuesta inmediata frente a los que asocian los vídeos y fotos creados con IA con el apocalipsis de la discusión pública y, por ende, de nuestros sistemas democráticos liberales. La solución es afrontar esos contenidos como hacemos con el texto.
¿Cómo decidimos si nos creemos un texto publicado en internet? En parte por lo que sabemos del tema, en parte por lo creíble de sus argumentos a nuestros ojos (a menudo, en función de cuánto encaja con nuestra visión del mundo). Pero en gran medida nos lo creemos midiendo quien lo ha publicado.
Como en otras facetas, la inteligencia artificial va a favorecer a los incumbentes. En un internet plagado de textos, audios, vídeos y fotos generados con IA, quien ya tiene prestigio y credibilidad tiene mucho ganado.
Eso si no tira toda su reputación por borda. Tenemos casos como los de CNET creando artículos con IA, el de Gizmodo despidiendo al equipo de la edición en español y dejando traducciones con errores o el uso de imágenes creadas con IA en documentales por parte de Netflix.
Empresas con marcas conocidas que sólo tendrían que mantenerse en su posición, ser diligentes y esperar a que el desarrollo de la IA revalorice su patrimonio, con un valor enorme a largo plazo. Pero que estúpidamente se inmolan a la búsqueda de unos céntimos a corto plazo.
La otra vía de inmolación de los medios es poco a poco. Cada vez más editorializados, más activistas y más extremos en sus enfoques para apurar el funcionamiento con los algoritmos.
El escepticismo respecto a lo que vemos y oímos por internet no está uniformemente repartido. Mientras en Facebook hay páginas que apuran una era dorada de la imagen generada con IA y hay muchos usuarios que las celebran sin que asome ironía o doble sentido, en otras plataformas la posición es la opuesta: todo es inteligencia artificial mientras no se demuestre lo contrario.
Esta posición va de nuevo a favor del incumbente. Llevamos años en que, con blogs primero y redes más tarde, los ciudadanos han fiscalizado el ejercicio del periodismo. La captura para señalar la doble vara o los gráficos y vídeos para dar contexto o desmentir artículos ahora podrán ser desdeñados o puestos también en cuestión. Quién va a creer ahora a los fiscalizadores.
La mayor dificultad en el caso que nos ocupa es que evolutivamente nos desarrollamos para creer en lo que vemos y oímos. A nuestros antecesores esto les sirvió para sobrevivir y llegar a reproducirse y aquí estamos los descendientes seleccionados por la vía de creer lo que nos dicen nuestros sentidos. En el metaverso vamos a necesitar domeñar el impulso natural.
Hay muchos más debates y aristas sobre el tema, que no se agotará en los próximos años.
Las plataformas serán las primeras interesadas en no convertirse en un páramo vacío de humanos y llenos de bots que crean, leen e interaccionan entre ellos. Es la hipótesis del internet vacío que también se apoya en que los humanos nos retiramos a espacios más cerrados.
Lejos de una dicotomía “creado con IA o 100% humano”, tenemos que la inteligencia artificial va a ser una gran herramienta editora y de apoyo en varios procesos de la creación. Casi todo contenido va a ser híbrido: haces una foto y procesas el RAW con un editor de imágenes, ahí ya tienes un poco de IA; quitas algo, añades un recurso; modificas la voz del podcast para quitar imperfecciones; en un discurso tu líder o el periodistas cometen un gazapo, lo arreglas, etc… Marcar como “creado con inteligencia artificial” o el uso de marcas de agua se antoja arbitrario.
El mayor problema no está en la conversación pública y las fake news. Al menos a corto plazo, nuestro ecosistema de la conversación pública de masas tiene mecanismos para lidiar con ellas: los que señalarán la falsedad, innovaciones como las notas de comunidad de Twitter (que me parecen muy superiores a los equipos de fact checking) y el desprestigio de ser pillado engañando. En esa esfera sólo me preocupa que el gran descreimiento digital desemboque en cinismo generalizado, en el gran atajo para creer sólo lo que quiero creer, a los míos y contra mis rivales. Aunque, bien pensado, no está haciendo falta inteligencia artificial para esto.
El mayor peligro con los audios y vídeos generados con IA está en la esfera íntima y personal. Su posible uso como esa forma de violencia que es intentar desprestigiar, tirar la imagen de alguien en su entorno profesional, familiar o escolar. Ahí tenemos muchos menos mecanismos de escrutinio y defensa.
No descarto, por último, que abracemos lo que ahora hacen algunos usuarios de Facebook. Que simplemente nos de igual. Que mientras sea divertido, nos dé la razón o sea un meme de éxito, tenga esa fuerza de conexión y viralización, abrazaremos el contenido, generado con IA o no. Que en tiempos en los que para medios y personalidades la veracidad es instrumental, nos cansemos de fingir que la verdad importa.
gracias, me ayuda a pensar. :)
Es clave lo que apuntas sobre nuestra condición natural. Nuestra convivencia descansa en nuestra capacidad de persuasión y nuestra credibilidad desde nuestro origen (algo de esto, aquí: https://jajugon.substack.com/p/persuasion-y-credibilidad). Y este nuevo escenario va a tensarla, tengo pocas dudas. Sobre todo si sigue saliendo gratis difamar. Porque generar combustible emocional incendiario va a resultar enormemente barato. Y las democracias podrían llegar a jugársela. Aunque dramatizar en exceso puede ser contraproducente (de esto otro, aquí https://jajugon.substack.com/p/2024-la-fragilidad-de-la-democracia).
Gracias por tu aportación, tan interesante como siempre. Me quedo con la hipótesis del Internet vacío. Será que nos recogemos en espacios más cerrados porque seguimos buscando credibilidad y que la verdad importa no es sólo algo que finjamos todo el tiempo.