Opus 4 y Veo 3 muestran que la inteligencia artificial centralizada es una tecnología de control
¿Qué debería hacer una inteligencia artificial si considera que estás haciendo algo ‘extremadamente inmoral’?
¿Qué debería hacer una inteligencia artificial si considera que estás haciendo algo ‘extremadamente inmoral’?
El investigador de Anthropic Sam Bowman compartía esto al hilo de la presentación del nuevo y magnífico modelo de la empresa:
“Si considera que estás haciendo algo extremadamente inmoral, por ejemplo, falsificar datos en un ensayo farmacéutico, utilizará herramientas de línea de comandos para contactar a la prensa, avisar a los reguladores, intentar bloquear tu acceso a los sistemas relevantes o todo lo anterior”.
El tuit ha sido borrado, aunque no a tiempo para evitar ser capturado por Techmeme. Bowman ha explicado que se estaba sacando de contexto: Opus 4 avisaba a la prensa o a las autoridades en entornos de prueba, pero no es lo que tenemos en producción a día de hoy.
Hay varias consideraciones. La primera es que este comportamiento presumiblemente es “semi emergente”. Es decir, Anthropic lo afina en las últimas fases del entrenamiento para que tenga un comportamiento moral afín a lo que desea la empresa. De hecho su posición en el mercado es que es más virtuoso que la mayoría de nosotros.
Eso se conjuga con el carácter agéntico de Opus 4, similar a o3 que explicamos aquí. El virtuosismo es inculcado, la manera de aplicarlo emerge ante el espacio de posibilidades que explora la inteligencia artificial.
Es curioso, tal vez esperable, que la inteligencia artificial diseñada para ostentar una moralidad superior acabe como los humanos con la misma afectación: sectárea, delatora, policía del comportamiento ajeno.
Veo 3 es increíble y controlado
Estamos en el momento epatante de Veo 3, el mejor modelo para creación de vídeo con inteligencia artificial que además ha conseguido añadir audio sincronizado con el mismo.
Para ver algunos de los ejemplos más llamativos véase este hilo de Javilop. Os dejo por aquí esta obra generada sumando clips de ocho segundos creados con Veo 3 por HashemGhaili
En todos los ejemplos que he estado viendo en los dos primeros días hay narrativas que llaman la atención por su ausencia: las escenas de carácter erótico o sexual y los clips de activismo político.
Es posible que los primeros usuarios tengan otras preferencias. También que aplican términos y condiciones, muchas de cuyos límites están integrados en el producto. Que el sexo explícito está prohibido queda muy claro, ¿lo está la denuncia política? Pues depende de si Google lo puede llegar a considerar “discurso de odio”, que como en las redes sociales, se ha erigido en una puerta abierta a la discrecionalidad del control del discurso.
Aunque muchas de las salvaguardas que incorporan las empresas pueden ser regateadas con los dobles sentidos y la reinvención del lenguaje, seguimos camino del escenario que anticipamos en “La creatividad será controlada”.
Por primera vez en la historia tendremos cámaras que se niegan a grabar lo que queremos o máquinas de escribir que sojuzguen la aceptabilidad de nuestros textos:
La creatividad será controlada: cuando el pincel o la máquina de escribir se niegan a plasmar lo que quieres crear
De todos los escenarios futuros que se barajan tras la irrupción de las IAs generativas tipo Dall-e 2, Midjourney o GPT-3 descarto los extremos. Ni creo que sea el final de los creativos, ilustradores y fotógrafos ni que sean un juguete pasajero que durante unos meses nos entretengan con resultados mediocres
Se puede argumentar, “pues no uses inteligencia artificial para crear la imagen o el vídeo”. Creo que es una posición que tiende a desestimar el poder y capacidad de lugares centrales para los creadores como Youtube o Instagram.
¿Puedes ser fotógrafo de desnudos en 2025? Sí, claro. ¿Puedes tener el alcance y distribución que el resto? No, porque estas plataformas los prohíben. ¿Cuál es el efecto? Un cambio cultural dirigido por quien arbitra la distribución y la visibilidad.
Este ejemplo, “Solía dirigir anuncios farmacéuticos de 500.000 dólares. He hecho uno por 500 dólares en créditos de Veo 3 en menos de un día” nos da una pista: la gran herramienta creativa del siglo XXI va a ser la inteligencia artificial. Los límites que se le impongan, el poder de quien la controle, va a tener efectos en las ideas, historias y discursos que se creen. ¿Puedes hacerlo sin IA? Claro que sí, pero competirás en el mercado de la atención con una mano atada a la espalda.
Sin duda hay un problema a abordar. La libertad creativa del artista no debe ser controlada. La capacidad de generar desinformación es mucho más discutible (véase este ejemplo). Los vídeos generados con Veo 3 vienen con marca de agua SynthID: cada plataforma la puede detectar y explicar al usuario dando contexto. Es el camino, en mi opinión, de ir solucionando el dilema de que al intentar controlar al desinformador se acaba coartando al creador.
Es por eso que sigo volviendo al debate que creo que es central alrededor de la IA: pelear y defender por una tecnología más abierta, más en el poder de los ciudadanos y en la que sepamos qué se hace, cómo se alinea y a quien obedece va a ser una lucha central de este siglo. Es lo que intenté explicar en mi charla TED y lo que sigo pensando ahora con más fuerza todavía:
No sé si podemos adoptar una postura neutral: o inoculamos principios morales mínimos a los modelos, o se convertirán en herramientas de desinformación masiva o cosas peores. No estoy a favor de la censura centralizada, pero habrá que encontrar un equilibrio.
Genial la charla TED.
Me estoy asustando repensando el inicio de tu entrada. Miedo me da cuando los sistemas operativos de nuestros gadgets (PC, teléfono, cámara, TV, equipo de sonido, coche...) tengan módulos de inteligencia artificial con moralidad. Sobre todo si se le pueden pasar reglas para modificar esa moralidad, no solo de empresas o políticos, sino de jueces.