¿Sueñan los abuelos sintéticos con sandías eléctricas?
Creo que no nos contentaremos con la simulación y buscaremos al humano real que nos hable desde su verdad. Pero, claro, yo soy un hombre del siglo XX.
Delia Rodríguez cuenta en El País el caso de Paco del Campo, un hombre mayor, campechano, con camisa de cuadros y chaleco, que sabe elegir sandías, recupera aguacates pasados y prepara remedios para dormir mejor. En dos semanas ha juntado más de un millón de seguidores entre Instagram y TikTok, y vende libros electrónicos con sus consejos.
Cinco de segundos bastan para entender que Paco no existe, que ha sido creado con inteligencia artificial, ¿verdad? Sucede que sus vídeos no van etiquetados como sintéticos y, por los comentarios y el alcance, todo apunta a que gran parte de sus seguidores no ha notado nada. El caso es que, como apunta la periodista, hay decenas de cuentas gemelas: sus creadores entienden bien que es muy difícil crear un meme de éxito.
Este juego con la credulidad resulta deplorable. Pero, sospecho, no va a durar mucho.
Siempre ha existido un desfase entre la aparición de una tecnología, sus nuevos usos y el momento en que el gran público desarrolla las defensas para reconocerlos. En ese hueco es donde florecen los vivos: pasó con las líneas eróticas telefónicas pre internet, con las granjas de contenido que explotaban el SEO primitivo de Google, con las páginas virales de Facebook, con el dropshipping. Paco del Campo es la versión 2026 de un patrón que muchos hemos visto pasar decenas de veces. Algo hay que reconocer a sus creadores y es el momento elegido: hace un año un abuelo sintético cantaba a la legua, hoy cuela mucho más.
Pero estos huecos se cierran. Lo hacen porque el público aprende. Más despacio de lo que nos gustaría, de hecho más de lo que uno esperaba: por aquí hablábamos del gran descreimiento digital hace dos años. Ciertamente está ocurriendo, pero no está uniformemente distribuido.
Pero se cierran, sobre todo, porque llega la regulación. El 2 de agosto entran en vigor las obligaciones de transparencia del artículo 50 del AI Act, para las que la Comisión publicó en junio su código de buenas prácticas. La norma exige dos cosas que afectan de lleno al mundo de los Pacos sintéticos. Primera, que los proveedores de sistemas generativos marquen técnicamente sus salidas (metadatos, marcas de agua), de modo que una máquina pueda detectar que un vídeo ha sido generado con IA. Segunda, que quien publique deepfakes, contenido que parece representar a personas reales sin serlo, lo revele de forma visible.
Es algo que analizamos, con todos sus matices, en el último episodio de monos estocásticos.
Votando a Paco el del Campo
Tenemos algo que rema a favor de la transparencia. Por aquí hemos discutido varias veces el dilema de las plataformas con el contenido generado con IA: la lógica del spammer que permite rentabilidad con tasas de éxito ridículas cuando producir cuesta céntimos, y la fricción que empiezan a reintroducir como respuesta: verificación de identidad, jerarquías que favorecen a quien ya tiene reputación, barreras de entrada para los nuevos.
Los vídeos de Paco y similares son un caso más sofisticado que el slop puro, y por eso más difícil de clasificar. Aquí no hay volumen indiscriminado esperando que alguna pieza funcione, sino la construcción de un personaje, una marca y una pretensión de relación de confianza con la audiencia, con producto propio al final del embudo. Genera engagement real de humanos reales que disfrutan de sus vídeos. Para una plataforma que vive de la atención, expulsarlo no es evidente: sus métricas dicen que Paco es un creador excelente. El debate que las plataformas tenían con el spam sintético (fácil de condenar, difícil de filtrar) se vuelve aquí más difuso, porque el contenido gusta. Desde un punto de vista humanístico uno podría considerarlo execrable (habría que analizar la calidad de sus consejos de paso), pero un ingeniero que mire los datos puede entender que la gente está votando con su tiempo de visualización, comentarios y me gusta.
La IA y los problemas del amor
No seré yo quien prometa que la ley acabará con el fenómeno. El spam es ilegal desde hace décadas y sigue llegando cada mañana. De hecho ahora se ha hecho más sofisticado a través de SMS o de mensajes directos en X. Es más, la misma tecnología que fabrica influencers alimenta el lado más oscuro de la red. Contaban esta semana en Antena 3 el caso de Jesús, que ha perdido 300.000 euros y la casa heredada de sus padres tras caer en una estafa del amor.
Las estafas románticas existían antes de la IA, claro, igual que había falsos gurús. Lo que cambia es la sofisticación y credibilidad: personas sintéticas convincentes, conversación emocional sostenida e infinitamente paciente, con fotos y vídeos a demanda. El estafador romántico artesanal atendía a unas pocas víctimas; pero ahora es factible una versión industrializada del mismo capaz de cortejar a miles en paralelo.
Daniel Púa, jefe de seguridad en Magnific, lo resumía en una entrevista de Amparo Babiloni en Xataka: “el usuario de a pie debería estar preocupado porque el phishing se está refinando con IA”. Se acabó el correo con faltas de ortografía de un banco que ni siquiera es el tuyo, tan fácil de identificar que casi daba ternura. Lo que viene, avisa Púa, son “llamadas con la voz de un familiar, videollamadas con el vídeo de un familiar, y ahí es cuando se va a complicar la cosa”. En las empresas ya está pasando: en Magnific acumulan intentos de suplantación de su CEO por WhatsApp, con audios incluidos, y es conocido el caso del empleado que transfirió 25 millones de dólares tras una videollamada donde todos sus supuestos jefes eran deepfakes. El pronóstico de Púa es que, una vez exprimida la mina de oro corporativa, el ataque masivo al ciudadano de a pie es el paso natural.
Aquí creo que conviene ser claros sobre los límites de la solución regulatoria: el estafador no va a poner el icono de la Comisión Europea en su videollamada. De hecho, perdonen que me resulte divertido que siga vigente el consejo que compartí en mi charla: tengan en la familia y en el comité de dirección de la empresa una contraseña para verificar nuestra humanidad. No tenemos tests de Voight-Kampff.
Prohibido ofrecer una IA antropomórfica emocional
Hay una última derivada que me interesa especialmente. China ha ido un paso más allá de exigir transparencia: el 15 de julio entran en vigor sus Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de IA. El objeto regulado está delimitado con bastante precisión: servicios que “simulan rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para ofrecer interacción emocional sostenida”. Quedan fuera los bots de atención al cliente, los asistentes de preguntas y respuestas, las herramientas de trabajo y los recursos educativos o de investigación, siempre que no crucen la línea de lo emocional sostenido. Los riesgos que citan las autoridades para justificarlas: ideas extremistas, filtraciones de datos personales, daños a la salud física y mental, y dependencia o adicción.
Conviene subrayar que Pekín no está contra los agentes en general: en mayo publicó directrices para su desarrollo controlado y en junio una batería de estándares nacionales de interconexión que cubre arquitectura, códigos de identidad, descubrimiento, interacción y uso de herramientas, con el objetivo declarado de hacer que sean identificables, autorizados, conectados y trazables. Es propio del paternalismo autoritario del gobierno chino intentar evitar lo que atisbamos con los usuarios que amaron a GPT-4o.
Los estados, las plataformas y los usuarios tenemos que decidir qué hacer ante una IA que se nos presenta humana, con personalidad y emociones. Cuando sale la conversación siempre digo lo mismo: no nos contentaremos con la simulación y buscaremos al humano real que nos hable desde su verdad. Pero, claro, yo soy un hombre del siglo XX.