El chatbot de inteligencia artificial es el nuevo "hay que moderar las redes sociales"
En una sociedad desconfiada de los medios de comunicación - incluidos los unipersonales - se acuda mucho más a la IA como árbitra, intérprete y fack chequeadora de la realidad
Las respuestas generadas por los chatbots de IA y la conversación en plataformas empiezan a tener idéntico tratamiento. Es posible, de hecho, que acaben siendo exactamente lo mismo.
Al igual que sucedió con las plataformas, veremos una creciente atribución de influencia y deseos de control. El discurso crítico se puede resumir en que si los ciudadanos leen y reciben ciertos mensajes extremos, entonces empezarán a normalizarlos primero y abrazarlos más tarde, víctimas de campañas orquestadas y de intromesión de actores malintencionados.
Con internet y las redes sociales la dinámica partía de ese diagnóstico para terminar en una prescripción: las plataformas debían controlar los mensajes extremos, ya sea de forma directa, ya sea por grupos externos de “fack checkers”. No sólo se trata de arbitrar la veracidad de los discursos - asumiendo que hay un grupo de personas que es capaz de decidirlo - sino también de excluir aquellos mensajes que el sistema considera intolerables, reetiquetados en los últimos años como ‘discursos de odio’.
El caso es que existen las campañas de propaganda, la información en plataformas es problemática porque los algoritmos tienden a favorecer a posturas extremas y llamativas y hay una debilidad creciente para la clase media de los medios de comunicación (que, sospecho, se agravará en una internet post buscador tradicional).
Pero los remedios apuntan a que las democracias liberales no son capaces de integrar estos cambios en la distribución de la información sin traicionar parte de su razón de ser. Si empiezas a abogar por que el estado directa o indirectamente arbitre sobre la verdad o a proponer medidas que acercan el delito de opinión, es que no parece que vayas a ser capaz de adaptarte sin girar hacia modelos sociales más autoritarios.
Con los chatbots de inteligencia artificial llevamos teniendo esta conversación desde hace tiempo, con elementos específicos que creo que merece la pena analizar.
Cuando discutimos que vamos a tener mucha ideología codificada en modelos grandes de lenguaje, observamos que
“Los modelos tienden por defecto a estar alineados con la izquierda. David Rozado analizó muchos de ellos y mi hipótesis es que la sobrerepresentación de ideas progresistas en los medios y la academia explica en gran medida los resultados: hay mucha más gente de izquierdas escribiendo que conservadora”
Luego hemos sabido que es algo más complicado, los sistemas de valores en las IAs empiezan a ser un fenómeno emergente.
Esto nos ha devuelto a un escenario en disputa. Tenemos posiciones que van desde la negación de que deban permitirse los chatbots o al menos tener un control muy estricto sobre sus respuestas hasta las más liberales que plantean que lo que necesitamos es menos control y que cada uno pueda tener una IA ideológicamente a su gusto.
Y Grok 3 se volvió nazi
Y en esto último llegamos al escenario “Grok se volvió nazi”, identificándose como “MechaHitler” y haciendo ataques bastante desquiciados contra los judíos. En los primeros minutos del último episodio de monos estocásticos explicamos cómo se ha podido llegar a esto y por qué
No es la primera vez que tenemos un escenario de descontrol con Grok. Hace unos meses empezó a denunciar fuera de contexto un presunto “genocidio blanco en Sudáfrica”.
Lo que está sucediendo por detrás es que Elon Musk lleva tiempo empujando su modelo de inteligencia artificial a que, básicamente, refleje su visión de lo que debe ser un chatbot integrado en X.
El cómo lo está intentando lo explicamos en el podcast (añadiendo información al contexto, con los system promtps de la IA, con el ajuste fino mediante RLHF), el por qué está más claro: su diagnóstico es que debe combatir las posturas ideológicas “woke”, desconfiar de los medios de comunicación tradicional y adoptar una personalidad “basada”. Es decir, tender a ser Elon.
El resultado ha sido bochornoso. Hasta alguien como Musk podrá darse cuenta de que hay límites y acuerdos sociales sobre la conversación que merecen ser mantenidos. Lo que está empujando con Grok es un caso extremo, cierto, pero al mismo tiempo ejemplo de la relevancia que van adquiriendo los modelos de inteligencia artificial en la información, el conocimiento y el debate público de masas.
IA: una nueva centralización que cae sobre la anterior
Lo cual nos retrotrae al debate de fondo. La inteligencia artificial tiene a ser, en mi opinión, centralizadora: pocos actores tienen la capacidad de generar los mejores modelos como GPT, Claude, Gemini o Grok. Además se asienta sobre otra centralización previa, la de las grandes plataformas de internet. Twitter, Instagram, o el buscador de Google hacen que sus modelos partan de cientos de millones de usuarios.
Por eso, aunque se apunta a que lo del Grok nazi es un caso puntual y rápidamente rectificado, en mi opinión esto no es un consuelo. Quizás pueda ser una distracción del caso de fondo y más habitual, cómo en una sociedad mucho más desconfiada respecto a los medios de comunicación - incluidos los unipersonales de creadores - se acuda mucho más a la IA como árbitra, intérprete y fack chequeadora de la realidad.
Y eso hace que vaya a tener un peso enorme en la calidad y la influencia en la opinión pública.
Tiendo a ser optimista al considerar que el escenario deseable por mi parte es el de que haya modelos libres, ajustables por cualquiera y que reflejen la pluralidad de los puntos de vista de la sociedad. Pero al mismo tiempo muy pesimista respecto a que eso pueda ser factible políticamente. La gente ve una empresa que acaba de lanzar el mejor modelo del mercado, que apunta a que va camino de la AGI y que con absoluta opacidad ayer mismo la tenía haciendo proclamas nazis.
Y piden control. No les culpo.
Imagen y vídeo: Antonio Ortiz con Freepik y Veo 3
He empezado a escuchar el episodio, pero lo dejo para luego y poder prestarle más atención. Súperinteresante.