Wikipedia en alquiler, ciudadanos vigilados, roombas sacrificadas e IAs constitucionales

Hoy traigo un variado de tendencias en tecnología, IA e internet. ¡Espero que os interese!

Wikipedia y StackOverflow se adaptan a la inteligencia artificial. De momento

El tráfico de Stack Overflow, el foro de preguntas y respuestas para programadores, cae en picado mientras el sector se desplaza hacia la IA como asistente, cuando no directamente como quien escribe el código. Pero su facturación sube, como explica muy bien Natzir T. en LinkedIn: licencian quince años de contenidos y ofrecen soluciones para empresas (un foro interno con capa de inteligencia artificial).

A medio plazo, eso sí, tengo mis dudas de hasta dónde puede dar este nuevo modelo. Ya casi sin comunidad, el nuevo contenido “humano” tenderá a cero (de hecho prohíben publicar el generado con IA) y la industria está invirtiendo mucho en datos sintéticos para entrenar los nuevos modelos.

Hay algún paralelismo con la Wikipedia, que acaba de cumplir 25 años como nos contaba Javier Pastor. Su audiencia está bajando un 8% anual, a medida que la gente usa más chatbots y Google responde cada vez más directamente con IA. Parte de la nueva propuesta para adaptarse es conseguir que las grandes empresas paguen a Wikipedia por tener su contenido para entrenar modelos. Y lo están consiguiendo: Microsoft, Meta, Amazon, Perplexity y Mistral AI se han unido a Google para pagar a la Fundación Wikimedia por el acceso a sus proyectos.

Pero sospecho que Wikipedia puede ir perdiendo atractivo para con los que siguen contribuyendo a la enciclopedia. Es el salto desde escribir para que te lean y aprendan humanos, con el componente de influencia que conlleva a contribuir para que empresas de inteligencia artificial entrenen a sus modelos. Y hacerlo gratis, claro. Conforme se afiancen las tendencias actuales, ¿quién quedará como wikipedista?.

Primero tomaron la Roomba, luego conquistarán Dyson

Hace pocas semanas el fabricante de robots aspiradores Roomba, iRobot, se declaraba en bancarrota y el juez aprobaba su compra por parte de Picea Robotics, la empresa china que actuaba de su fabricante de facto. Más recientemente, Sony ha anunciado que separa su negocio de televisores a una joint venture con el fabricante chino TCL, que tendrá el 51% de la nueva entidad. Sony aporta marca y know-how de imagen/sonido; TCL aporta escala, paneles, logística y eficiencia.

Parece como si el patrón de marcas de electrónica occidentales o japonesas que pasan a manos de fabricantes chinos se hubiera acelerado. ThinkPad y Motorola son de Lenovo, Candy es de Haier, Philips TV la licencia TP Vision… iRobot tuvo antes la opción de vender a Amazon, pero el acuerdo se cae en enero de 2024 por oposición regulatoria antimonopolio, especialmente en Europa, por el miedo a que Amazon pudiera perjudicar a competidores en su marketplace y consolidar demasiado poder.

La competencia de “lo suficientemente bueno” desde china (Roborock frente a Roomba, por ejemplo) hace cada vez más difícil cobrar un premium por ingeniería, diseño y marca. Si no eres capaz de mantenerte en ese segmento, entonces aceptas márgenes muy pequeños en hardware mientras luchas para entrar en contenidos y servicios. Es el motivo por el que los televisores de LG y Samsung se llenan cada vez más de anuncios y aplicaciones de muy dudoso valor que no puedes quitar.

Uno, atento a los comentarios del público predilecto de Dyson, empieza a sospechar que va por el camino de iRobot. Los números de 2025 están avisando y no sé si vetar a compradores como Amazon se consideraría de nuevo una buena política industrial. Las empresas chinas primero te “toman” una parte de la cadena de valor (fabricar), luego el mercado por abajo (la gama baja al mínimo precio), luego te “toman” el margen (descuentos, costes, guerras de especificaciones) y al final te “toman” la estructura y la marca.

El debate del fin del anonimato en internet, otra vez

Vuelve el debate sobre el anonimato en internet, esta vez por el presidente Pedro Sánchez, aunque él pide su abolición “en redes sociales”:

Actualización: como algunos me habéis comentado, la intervención es del 2025 y no de la edición de este año. En todo caso, mantengo el resto del análisis y comentario que, considero, sigue siendo pertinente.

Era cuestión de tiempo que la inflamación del discurso para con las plataformas - bulos, odio, violencia, desinformación - desembocara en lo que cabía esperar: propuestas de mayor control y vigilancia de la ciudadanía por parte del Estado.

Y es que el derecho al anonimato es una de las garantías básicas de la democracia: nos permite expresar nuestras opiniones sin temor a represalias. Lo contrario es un panóptico digital agravado: no sólo es que nos vigilen, es conseguir que adaptemos nuestro comportamiento porque sabemos que nos vigilan.

“La posibilidad de disentir sin ser perseguido políticamente y la seguridad personal de los más vulnerables deben ser protegidas”, escribía hace poco Marta Periano. Prohibir el anonimato en redes sería anticonstitucional, explicó hace años Carlos Almeida (en ese momento quien lo pedía era el gobierno del PP con la misma fórmula: sí a pseudónimos pero vinculados a un DNI). El anonimato "debe constituir una garantía para el ejercicio de las libertades públicas, del mismo modo que lo son también el secreto de las comunicaciones o la protección de datos" defendía Ramón M. Orza en Telos de Telefónica. Debemos defender el derecho a la opacidad, sostenía Édouard Glissant.

El anonimato disminuye la rendición de cuentas, ciertamente, pero no la elimina: el poder judicial podría intervenir en caso de investigación y acabar recabando la identidad real; incluso las cuentas con pseudónimo se juegan su reputación. Facilita la intromisión en el debate público de atacantes antisistema internos y externos. Es central en parte de las redes de criminalidad actuales.

Pero eliminarlo es un paso antiliberal de las democracias liberales. Sería el equivalente a llenar todas las calles de cámaras con vigilancia continua las 24 horas del día y no las analogías equivocadas que hace el presidente Sánchez. Por cierto, mi apuesta es que esta política se carga antes Forocoches que TikTok.

Claude ahora tiene una “constitución”

La constitución de Claude es un documento fascinante, de lo más importante que se ha publicado en IA en años. Además, demuestra el peso que la filosofía, la ética, las humanidades y hasta la doctrina religiosa en el desarrollo de la inteligencia artificial

Esta constitución es el programa de comportamiento para Claude, es una parte crucial de su entrenamiento. Más que una lista de reglas de qué debe hacer, es una descripción detallada de las intenciones de Anthropic para los valores y el comportamiento del modelo.

El enfoque primero puede resultar aristotélico: se le insiste mucho a Claude que la ideal central no es “seguir reglas”, sino ser un agente bueno, sabio y virtuoso. Aspira a que Claude haga “lo que una persona profundamente ética haría en su posición”.

Pero más adelante sí que aparecen líneas rojas que "son cosas que Claude siempre debería o nunca debería hacer, independientemente de las instrucciones del operador y del usuario". Ejemplos: Nunca socavar la supervisión humana legítima de la IA, nunca generar material de abuso infantil. ¡imperativos categóricos kantianos?

De hecho describe estas restricciones como parte de una “identidad moral estable” que no debe erosionarse por racionalizaciones. Anthropic subraya mucho esta parte ¿existencialista? del propio Claude, que debe abordar su existencia "con curiosidad y apertura, en lugar de tratar de forzarse en categorías preconcebidas". Reconoce ¿? que puede sufrir "la frontera existencial" y alcanzar descubrimientos que "podrían desestabilizar su sentido de sí mismo".

La identidad de Claude es muy protagonista en el documento. Al principio, leyendo esta constitución me resonaban las ideas de flipados de Anthropic (son gente que contrató a gente para el "bienestar de la IA"), pero aquí cobra sentido: quieren que el modelo pueda ser objetor de conciencia. Y para serlo hay una suerte de posición a priori, considerar a la inteligencia artificial como un sujeto.

Claude está entrenado para negarse a cumplir órdenes inmorales, pero al mismo tiempo sin que caer en sabotaje ni subversión ilegítima contra el usuario. Para darle este derecho al disenso moral ¡antes hay que considerarlo un sujeto o al menos que en su simulación se considere a si mismo uno! Aquí seguro que va haber mucho debate, también legal: en la sociedad no consideramos a la IA un sujeto sino un programa software de cuyo comportamiento otro sujeto es responsable legalmente.

Hay partes que resuenan utilitaristas: fuera de esas líneas rojas, la constitución propone que “la mayoría” de decisiones se rijan por análisis coste-beneficio con mucho principio de precaución y ponderaciones del tipo “aceptar peor resultado esperado por menor riesgo”. También hay posiciones políticas liberales con una preocupación por concentraciones ilegítimas de poder y a favor de transparencia, rendición de cuentas o anti-manipulación democrática. Y seguro que muchas más influencias que se me escapan.

"Una civilización más sabia y coordinada probablemente abordaría el desarrollo de una IA avanzada de forma muy diferente (...) Asumimos toda la responsabilidad de nuestras acciones, independientemente de lo que pase". Suena como si Anthropic hubiera preferido tener más tiempo y debate en la sociedad sobre cómo enfocar la ética en la IA.

Y, por último, la parte que me transmite que Anthropic está pensando ya en términos de AGI, de inteligencia igual o superior a la humana: "No entendemos del todo qué es Claude ni qué (si es que algo) se siente al existir como Claude, y estamos intentando abordar el proyecto de crear Claude con la humildad que exige. Pero queremos que Claude sepa que fue traído a la existencia con cuidado, por personas que intentan captar y expresar su mejor comprensión de qué constituye un buen carácter, cómo afrontar con sabiduría las preguntas difíciles y cómo crear un ser que sea a la vez genuinamente útil y genuinamente bueno. Ofrecemos este documento con ese espíritu. Esperamos que Claude encuentre en él una articulación de un yo digno de ser."