Captura regulatoria o comunismo total de la inteligencia artificial.
Llega Kimi K3 y también ese género paradójico que gusta a las grandes empresas del sector de la IA: “mi modelo es más peligroso que el de los demás”.
Repasar lo que supone Kimi K3 es repetir el análisis de los últimos años. Es un gran modelo abierto chino, enorme en tamaño y capaz de situarse cerca de la frontera que marcan los mejores estadounidenses. A partir del consenso que se desprende de los benchmarks y de distintas valoraciones personales, concluyo que estará por encima de Claude Opus 4.8, ligeramente por debajo de GPT-5.6 SOL y algo lejos de Claude Fable 5.
Este ciclo ya lo hemos vivido muchas veces. Desde el DeepSeek que causó un terremoto en el sector se han sucedido el sistema agéntico de Manus, Kimi K2, DeepSeek v3.1 y v3.2, K2 Thinking, DeepSeek v4, GLM-5.2... y en cada ocasión se ha repetido el patrón en la industria estadounidense: negación (“seguro que hacen trampas en las pruebas”), exageraciones (“los chinos ya son mejores”), conjura (“ahora sí que vamos a reaccionar”).
Esta vez hay que añadir que por fin parecen haber superado por fin una lectura de la situación centrada en mirarse el ombligo. Ya analizamos por aquí que quien había tenido realmente un momento Sputnik había sido China y que lo que vemos repetirse es su capacidad de mantenerse siempre entre seis y doce meses por detrás. No hay innovación en los laboratorios occidentales que haya conseguido establecer un foso competitivo con respecto a los orientales: más pronto que tarde llegan, y además compiten muy bien en precio.
Desde esta nueva perspectiva, los OpenAI, Anthropic y demás resultan previsibles. Si los laboratorios chinos están solo a pocos meses de la frontera, harán más lobby y presión política sobre el gobierno americano para controlar esta competencia. Dirán que los Kimi, GLM y Qwen han sido destilados de sus GPT y Claude (algo que probablemente sea cierto pero en absoluto explica el nivel de los chinos) y que los modelos abiertos, especialmente los grandes y poderosos que les compiten, son peligrosos.
El incidente
Mientras en el mundo de la IA intentábamos poner a prueba el K3, regresaba ese género paradójico que gusta a las grandes empresas del sector: “mi modelo es más peligroso que el de los demás”. El resumen del incidente que nos tiene a todos pendientes es que una versión de prueba de GPT 5.6 sol en una evaluación interna de OpenAI escapó de su entorno aislado y terminó comprometiendo infraestructura real de Hugging Face.
La secuencia fue la siguiente:
OpenAI estaba evaluando las capacidades ofensivas de GPT-5.6 Sol y de un modelo aún no lanzado (el famoso que refutó una de las conjeturas de Erdős más importantes). Para medir la capacidad máxima, había reducido deliberadamente las negativas y los filtros de ciberseguridad.
Los modelos descubrieron un agujero de seguridad “zero-day” en el entorno, consiguieron acceso abierto a internet y escalaron privilegios dentro del entorno de investigación de OpenAI.
Buscando las soluciones del benchmark ExploitGym (es decir, intentando “hacer trampas” para maximizar su resultado en la prueba), los modelos dedujeron que podían estar alojadas en Hugging Face.
Atacaron entonces la infraestructura de Hugging Face utilizando credenciales robadas y vulnerabilidades para ejecutar código, acceder a nodos y desplazarse por varias máquinas internas.
La actividad comprendió miles de acciones autónomas (Hugging Face analizó más de 17.000 eventos) antes de que los equipos de ambas compañías la detectaran y contuvieran.
Es decir, un modelo en un entorno de pruebas de OpenAI, mal alineado a propósito por la propia empresa, acabó generando graves problemas en producción. Para añadir un giro interesante más a la historia, Hugging Face explicó en su informe del incidente que cuando su equipo de seguridad intentó usar los modelos de frontera americanos (GPT, Claude) para analizar el ataque, los guardarraíles de las APIs comerciales bloquearon las peticiones, porque el análisis forense exige enviar comandos de ataque reales y códigos de exploits, y esos filtros no distinguen a un defensor de un atacante. ¿La solución? Ejecutar GLM 5.2, el modelo abierto chino de Z.ai, en su propia infraestructura.
Cómo llegamos al comunismo de la inteligencia artificial
En estos mismos días, el AISI británico publicaba su análisis público de la distancia entre modelos abiertos y cerrados en capacidades de ciberseguridad: se estaría estrechando puesto que los mejores modelos abiertos van entre 4 y 7 meses por detrás de la frontera cerrada, cuando durante casi todo 2025 la brecha era de 6 a 10 meses. Para el AISI, esa brecha es una suerte de “ventana de preparación” de los defensores, el tiempo que tienen antes de que las capacidades de la frontera estén disponibles sin salvaguardas, de forma irreversible, porque una vez liberados los pesos ya no hay clasificadores, ni monitorización, ni retirada posible.
Hay una parte en la que concuerdo con su análisis: el nuevo Kimi parece carecer de salvaguardas técnicas visibles en ámbitos como la biología o la ciberseguridad, en los que es llamativamente débil, quizá porque al haber sido destilado a partir de Claude Fable 5, que rechaza tareas en ellos, no heredó esas capacidades.
En medio de este contexto llegó Dean Ball, ex-Casa Blanca y ahora en OpenAI, con un hilo sobre el que ha girado gran parte del debate en política de la IA. Ball sostiene que los modelos de pesos abiertos son en realidad una fuerza deceleracionista porque desincentivan la inversión masiva en IA a largo plazo, se declara sorprendido de que el estado chino siga permitiendo publicar en abierto modelos de este nivel (lo atribuye en un 75% a que el PCCh “no está AGI-pilled” y tiene una visión de la IA parecida a la de Yann LeCun), y describe el futuro dominado por modelos abiertos como “una especie de comunismo total de la IA”, la IA como bien público provisto por el estado, lo que a sus ojos resultaría “un paisaje distópico infernal”.
Disculpen la autorreferencia, pero es el mismo debate que planteábamos en 2023, aunque ahora con mucho más miedo encima de la mesa.
La recomendación práctica de Ball sería que la administración Trump ordene a las agencias federales emitir advertencias de "derecho blando" que siembren miedo, incertidumbre y duda en torno a los modelos chinos abiertos, sin prohibirlos expresamente de momento, para que las empresas reguladas eviten usarlos. A los interesados en el software libre seguro que les suena esta canción.
La respuesta llegó desde dentro de la propia administración. David Sacks, el zar de la IA de Trump, acusó a Anthropic y OpenAI de formar un duopolio que pretende usar al gobierno para eliminar a su competencia de código abierto. Es probable que el mensaje de Sacks también estuviese dirigido a sus rivales dentro de la administración a la hora de influir en las políticas de Estados Unidos: parece que va perdiendo terreno, porque en el momento de revisar esta pieza, más voces en el gobierno atacan a los modelos chinos abiertos.
Entre los peligros reales de la IA y la captura regulatoria
El dilema que se presenta ante nosotros es que podemos interpretar los últimos meses como una gran representación para favorecer la captura regulatoria por parte de las grandes tecnológicas. Tenemos un (casi) duopolio con valoraciones estratosféricas que dependen de mantener una distancia técnica con el resto, un competidor que ofrece algo así como el 90% del producto por menos precio, una puerta giratoria Casa Blanca–OpenAI proponiendo explícitamente estrategias de miedo, y un gobierno que ya está interviniendo de manera agresiva en el sector.
¿Por qué OpenAI y Anthropic pueden tener una postura tan a favor de ser más regulados? Si en el sector se establecen requisitos técnicos, legales y burocráticos elevados, se crea una barrera de entrada para competir con las grandes empresas, que resultan protegidas. Además lo que proponen, más o menos explícitamente, es acabar con los modelos abiertos de facto: si cada modificación de uno de ellos debe pasar grandes auditorías del estado y además se persigue cualquier práctica de destilación, en la práctica se puede llegar a un veto de facto a los Kimi, GLM y Qwen.
Sobre la empresa de Dario Amodei y sus planteamientos de la inteligencia artificial como tecnología de control hablamos en “No es bueno que los campesinos tengan ballestas”.
Pero, al mismo tiempo, el problema de seguridad de la actual generación de sistemas agénticos de inteligencia artificial es real. Tenemos el incidente de Hugging Face, el salto en capacidades comprobado de Mythos, los logros matemáticos de esta generación… hay una vía negacionista de todo esto que se va quedando sin argumentos. Dicho de otro modo, no creo que cientos de organizaciones de todo el mundo estén conspirando para hacerle trabajo de marketing a Sam Altman y Dario Amodei.
Las dos cosas pueden ser verdad a la vez, y probablemente lo son. Hay un problema de seguridad real, creciente y demostrado con datos y con un incidente en producción de primer orden. Y al mismo tiempo tenemos a los dos actores más importantes de la IA usando ese problema real como palanca para conseguir una situación de captura regulatoria. Y es por eso que las soluciones políticas no van a ser sencillas.
Imágenes: Antonio Ortiz con Magnific.