Ahora que se ha vuelto lugar común abjurar de los algoritmos de recomendación, señalarlos como máquinas de desinformación, de polarización y de enganche, a uno le sale defender su lado positivo. Sucede que un servidor ha estado «al otro lado», y cuando eres creador y quieres darte a conocer, el algoritmo es tu amigo: en su ausencia, el que ya es conocido tiene todas las ventajas.
Es más, como usuario, muchas veces he celebrado que me sumerja en un nicho y poder explorarlo en su insospechada profundidad: el problema de internet no es el de cámaras de eco, sino su desaparición. Y hay un momento que me sigue pareciendo feliz: un músico, un personaje de internet al que habías perdido la pista hace años vuelve a publicar y el algoritmo, que no lo había olvidado, te lo enseña.
Aún así, entiendo y celebro el movimiento del que es ejemplo lo que contaba hace unos días Andrej Karpathy. Una noche entró en YouTube buscando algo que ver y se topó con un muro de basura: miniaturas exageradas, los temas trillados de siempre, contenido digno de Idiocracia. A la mañana siguiente le pidió a Opus 5.5 que le construyera su propia portada de YouTube con los vídeos que la gente había recomendado en los comentarios de Hacker News. Dos horas después tenía HackerTube, con su propio «Para ti», sin cuentas de usuario y con un detalle importantísimo que me encanta: la miniatura es un fotograma de la mitad del vídeo, no la portada que eligió el creador.
Obviamente es el juguete de un usuario muy avanzado, pero creo que anticipa algo que irá a más: la inteligencia artificial rompe el monopolio que cada plataforma tenía sobre su propio algoritmo. Es otra consecuencia de que la IA vaya a ser el gran intermediario entre nosotros y todo lo digital. Si no te gusta lo que te pone delante YouTube, ya no sólo puedes irte o aguantarte. Puedes pedirle a tu agente que te lo reordene, que te lo filtre o que te monte otro: Karpathy discurrió que mejor la sabiduría de la multitud de Hacker News que las señales del usuario medio de Youtube que valora su algoritmo. Pero podría haber tomado otros caminos: yo voy a hacer que aprenda de mis gustos y siga mis instrucciones para avisarme de los vídeos nuevos que los cumplen. Todo esto, sospecho, va a romper más de un equilibrio.
Preferencias reveladas, preferencias declaradas
Las plataformas trabajan con un principio que ya discutimos a propósito de la ensalada del McDonald’s: lo que hacemos dice mucho más de nosotros que lo que decimos. Puedes declarar interés en documentales de historia y ensayo político siguiendo determinadas cuentas, pero si tu tiempo de permanencia, tu velocidad de scroll y lo que terminas de ver revelan un consumo sostenido de true crime, creadores zampones y memes, el sistema tiende a descartar el perfil declarado y optimiza a partir de la conducta. Es más, cuando nos dejan elegir entre la cronología de quienes seguimos y el «Para ti», la mayoría optamos por el segundo. Aunque decimos querer el control, solemos preferir que nos lo den hecho, lo que, a su vez, resulta otra preferencia revelada.
El lado oscuro de los algoritmos de recomendación existe, sería estúpido negarlo. La mayoría de los sistemas de recomendación están optimizados para la experiencia inmediata: predecir la siguiente pieza que maximice el objetivo de alargar la sesión, un vídeo más, un anuncio más. Hay una suerte de hackeo del ciclo dopamínico por parte de plataformas (es una forma de decirlo) adictivas por diseño. De alguna manera en TikTok o en los reels de Instagram, es el propio mecanismo de recomendación y experiencia de usuario y no el valor que nos aporta en la vida lo que nos mantiene pegados. Lo comentaba hace unas semanas en una conversación con Juanjo Villalba para elDiario.es: un problema de estos sistemas es que apenas tienen en cuenta los efectos a largo plazo. Aprenden de lo inmediato, del siguiente vídeo y la siguiente canción, y casi ninguno mide si, meses después, sigues volviendo, sigues regresando satisfecho y con la sensación de haber obtenido algo con valor real.
El caso es que a las plataformas también les interesa recomendar para que el usuario siga siéndolo a largo plazo, pero los trabajos que llevo leyendo los últimos años (por ejemplo uno que reúne a expertos de 15 plataformas y este otro de Stanford y Meta) abundan en que lo difícil es la atribución cuando pasa mucho tiempo: ¿qué es lo que hizo que el usuario dejara de venir, qué es lo que le mantuvo fidelizado? Hay casos claros: cuando Facebook quitó sus filtros contra el clickbait, la actividad subió al mes, pero se hundió a los dos años; entre los hallazgos tenemos que funciona preguntar directamente, “Oiga, esta recomendación ¿la valora usted realmente o es que sólo está enganchado a nuestro scroll?".
En el lío de los algoritmos de recomendación, Bluesky me parece un caso digno de estudiar. Lleva años permitiendo que cualquiera construya y elija sus feeds, y este año lanzó Attie para hacerlo con IA y lenguaje natural (para disgusto de buena parte de sus usuarios). ¿Quieres que el algoritmo de recomendación tenga un enfoque específico? Sólo tienes que pedirlo. Es un lanzamiento que conecta con el antiguo ideal de un internet abierto y de poder para el usuario en una plataforma en la que predomina la hostilidad antitecnológica. Sigo pensando que Bluesky no despega porque pelea con un brazo atado a la espalda: por defecto muestra el orden cronológico de tus seguidos, en lugar de un feed algorítmico, que genera mucha más adherencia.
Hay más, Spotify estrenó en marzo Taste Profile, que permite ver y retocar cómo interpreta tus gustos, algo así como una corrección, mediante preferencias declaradas, el perfil que Spotify ha deducido de nuestro comportamiento. YouTube anunció en septiembre feeds que describes con tus palabras y que construye Gemini, eso sí, en una pestaña aparte que no sustituye al feed principal. Volviendo sobre nuestro titular: las plataformas parecen querer decirnos que otros algoritmos van a ser permitidos por las buenas porque están viendo que será posible por las malas, cuando nuestros agentes accedan a ellas y les pidan lo que queremos.
El algoritmo tiene tres clientes.
Volviendo sobre lo de estar «al otro lado», apuntaría a que el algoritmo de una plataforma tiene muchas bocas que alimentar. Tenemos al usuario, cuyos gustos quiere atender para retenerlo; pero también está el anunciante, que paga y al que la plataforma necesita contentar; por último, tenemos al creador, que de no tener alcance o perderlo, se podría ir a otro sitio con sus contenidos (Y la plataforma debe arbitrar entre unos creadores y otros: cuánto favorece a los nuevos y cuánto protege a los ya establecidos).
El arte de la recomendación consiste en encontrar un equilibrio entre los tres porque la plataforma los necesita a todos: sin espectadores no hay anunciantes, sin creadores no hay nada que ver y sin anunciantes no hay dinero para pagar a los creadores. Pero ocurre que el agente de IA, en principio, sólo trabaja para uno de ellos. Es la ruptura del actual equilibrio: en el HackerTube de Karpathy no se tiene en cuenta qué temáticas atraen mayor inversión publicitaria ni los creadores tienen a priori una manera de optimizar para él.
Por deformación profesional me detengo en el creador. Hay una razón por la que los creadores usan miniaturas horribles y exageradas en youtube, por la que titulan sus piezas con amarillismo y misterio para Google Discover: maximizan los clics, que luego llevan a que la plataforma los muestre más. Alterado ese incentivo, el contenido será diferente.
Terra incógnita
Llegados a este punto es difícil saber qué puede pasar. Mi impresión es que la curación de contenidos, su descubrimiento y recomendación va a estar mediada por agentes de IA. En mi caso, ya lo está en parte: noticias de IA, papers y análisis del sector me los traen mis bots. Luego añado una capa de recomendación humana (X, listas) y de lecturas directas (voy a la web del medio, más newsletters).
Creo que irá a más por nuestra necesidad de protegernos: cada vez más todo se está llenando de contenido automatizado por lo general de muy bajo nivel, generado también con IA: es una suerte de escalada armamentística en la que no conviene quedarse atrás. A eso se suma que en la optimización algorítmica condiciona los titulares, aleja presentar las piezas del modo que preferimos los humanos.
En el lado de las plataformas toca gestionar esta transición. Manejar el algoritmo de recomendación, controlar la experiencia y tener una relación directa con el usuario son elementos clave en sus actuales modelos de negocio. Reddit acaba de anunciar que pasará a una experiencia pensada para usuarios con sesión iniciada. Los motivos declarados son proteger sus datos del scraping y negociar licencias con los laboratorios, y además dicen que el usuario identificado vale más para los anunciantes. Si pagar por el agente de IA ya nos puede parecer caro, sospecho que el modelo de algunas plataformas pasará por dejarle pasar… previo pago.
Ya escribí que el agente personal de IA va a ser tan grande como el teléfono móvil. Si lo es, creadores y anunciantes irán a buscarle a él, y el equilibrio a tres bandas se intentará reconstruir en otra capa. Sólo espero que si aquel creador vuelve a publicar años después, mi agente se acuerde de él tan bien como se acordaba el algoritmo.