Cómo tratar a un chatbot: decirle buenos días, examinar su consciencia, darle derechos.

También; el auge del “workslop; tu nombre no me suena, artista con cientos de millones de escuchas; devolver una falsificación donde compraste el producto auténtico; razones para el ludismo

Hoy toca un post recopilatorio de noticias, tendencias y comentarios a análisis de tecnología e inteligencia artificial.

Promo; el evento al que iría si estuviera en Barcelona

SAP Business Suite Innovation Day

¿Quieres descubrir cómo la inteligencia artificial puede ayudar a tu empresa a trabajar de forma más eficiente y competitiva?

El próximo 30 de octubre, en La Llotja de Mar (Barcelona), SAP celebra el Business Suite Innovation Day, un encuentro donde la IA, los negocios y la tecnología se dan cita.

Durante la jornada podrás asistir a ponencias de expertos como el gran Javier Ideami, conocer casos reales de empresas líderes y explorar soluciones concretas.

Un evento gratuito y diseñado para profesionales que quieren entender cómo aplicar la innovación de manera práctica en su organización.

Inscríbete y descubre el potencial real de la inteligencia artificial en tu negocio. Plazas limitadas.

Tu nombre no me suena, artista con cientos de millones de escuchas

“Love You So” de King Khan & BBQ Show ha sido la música de fondo en más de 30 millones de publicaciones de TikTok y es una de las canciones más populares en la historia de la plataforma. Sin embargo, el número de seguidores de sus creadores y su impacto cultural están muy lejos de ese éxito.

El crítico musical Chris Dalla Riva describe el proceso de la “anonimización” del músico de éxito. Gran parte de la experiencia hoy con la música es desatendida, mediada por sistemas automáticos y, como en TikTok, subordinada a un meme del que forman parte.

En Instagram y TikTok la canción deviene en un simple fragmento sonoro para acompañar contenido, queda despojada de su contexto y de la identidad de quien la interpreta. Es más, la música la mayoría de las veces no deja poso en los usuarios mientras se desplazan por un flujo interminable de contenido. Es el actor secundario de un estímulo momentáneo más que una puerta de entrada a una conexión artística.

Este tema me resulta especialmente interesante porque mi generación se encuentra en plena reivindicación: como tantas, se da cuenta de que el mundo - incluyendo la cultura, la música y su industria - era mucho mejor cuando teníamos 20 años. Es un debate largo que dejaremos para otra ocasión y mayor extensión, pero tiendo a no caer en el fatalismo: cualquiera que haya ido con adolescentes a un concierto entenderá que esto no es toda la película.

El auge del “workslop”

Por primera vez, un grupo de profesionales me confesó que generaba textos con inteligencia artificial sólo por cumplir con un trámite burocrático. Se esperaba de ellos un volumen alto de páginas informando de unos trabajos. Eso es exactamente lo que entregaban. ¿Lo más interesante? Que eran conscientes de que al otro lado, en el de los receptores del texto, lo procesaban también con IA.

El caso es que la Harvard Business Review ha inventado el término “workslop” en clara referencia al llamado “AI slop” que tanto hemos comentado en Error500: vídeos, imágenes y textos de baja calidad producidos en masa con ayuda de la inteligencia artificial. La tesis de los investigadores es que en los lugares de trabajo está ocurriendo algo parecido.

A medida que las herramientas de inteligencia artificial se vuelven más populares, los empleados pueden generar rápidamente resultados que parecen pulidos: presentaciones bien formateadas, informes largos y estructurados, resúmenes aparentemente articulados de artículos académicos hechos por no expertos o fragmentos de código funcional. Pero mientras algunas personas usan esta capacidad para mejorar un buen trabajo, otras la emplean para crear contenido que en realidad resulta inútil, incompleto o carente del contexto crucial del proyecto. Eso sería el workslop.

El “workslop” hace perder tiempo al producir montones de texto redundante, correos absurdos que saturan la comunicación y entregables “casi buenos” que luego hay que rehacer con esfuerzo. El debate que estamos viendo lo lleva teniendo - con otros matices propios del sector - la gente del desarrollo software.

Es una cara de la moneda. Tenemos quien está consiguiendo mejorar como profesional, ser más productivo y ganar tiempo de calidad para pensar con la IA. También escenarios de liberación respecto a burocracia muy poco útil. Pero desde luego todo esto empieza a convivir con quien va a tomar atajos, aprovecha para ser más perezoso y resulta indiferente a la calidad de su trabajo.

Tratar a los chatbots: darles derechos, decirles buenos días, examinar su consciencia

Erik Hoel tiene un artículo muy interesante en el que sostiene que no debemos tratar a los chatbots como si fueran conscientes.

En realidad plantea tres preguntas distintas.

La primera es: cuando un chatbot LLM produce una secuencia de tokens que incluye una afirmación sobre experimentar algo, ¿es esa una descripción precisa de la realidad? Y la respuesta por defecto es “no”.

Pero las preguntas más difíciles son: si no sabemos cómo surge la consciencia en un sustrato biológico, ¿con qué grado de certeza podemos afirmar que no puede surgir en otros medios?

Y, por separado, ¿es mejor mantener la cortesía con los chatbots para mantener el hábito de la cortesía, o tratarlos como herramientas impersonales cuya interfaz imita texto, partiendo de que es perjudicial para la salud mental del humano adoptar una visión animista de que operaciones matriciales suficientemente complejas son conscientes? En este punto me he acordado del momento de crisis de los usuarios de GPT-4o cuando retiraron el modelo:

Hace tres años me hacía alguna pregunta parecida y concluía que los filósofos nos deben un nuevo test de Turing al hablar de consciencia en la inteligencia artificial. Como el autor del texto de hoy, no creo que se pueda presuponer cosnciencia basándonos en el dominio del lenguaje. Aquí creo que es muy útil el concepto de Dennett de “competencia sin comprensión” y hay quien la niega a priori: no existirá fuera de los sistemas biológicos.

La posición contraria, mucho menos popular, apunta a una suerte de principio de precaución. Como la inteligencia artificial domina el lenguaje y podría, tal vez, tener una consciencia emergente, podríamos otorgarle derechos y evitarle el sufrimiento. Si los sistemas de IA siguen avanzando en la búsqueda de la AGI creo que puede ganar fuerza y ser, paradójicamente, ser contraproducente para sus creadores: si tenemos algo muy inteligente que pasa a ser alguien porque le otorgamos consciencia, ¿cómo podemos permitir que sea una esclava?

Devolver una falsificación en la tienda en que compraste el producto auténtico

En este tipo de fraude una persona compra un producto original en una tienda fiable (como Amazon, El Corte Inglés o cualquier otra) y, tras recibirlo, adquiere una falsificación idéntica en otro sitio. Luego, devuelve la falsificación en la tienda en la que compró el producto auténtico, usando la política de devoluciones abierta. La tienda, al no revisar en detalle el artículo devuelto, pone el producto “reacondicionado” de nuevo a la venta. Así, el siguiente cliente que compra ese producto original, pero reacondicionado, recibe en realidad la falsificación que fue devuelta, creyendo que se trata de un producto legítimo.

Es el caso del usuario fastpenguin de Forocoches. Al comparar el G-Shock de Casio comprado en Amazon con uno original que ya tenía confirmó que la correa y el cristal eran peores a la vez que detectó la ausencia de número de serie y otros signos claros de que le habían colado una imitación. Con el auge de tiendas tipo Hacoo o CnFans veo probable que esto esté sucediendo muy a menudo.

Empresas de tecnología que dan razones para el ludismo

Ticketmaster ahora exige que la gente renuncie al derecho a participar en demandas colectivas para poder comprar entradas. La empresa de venta de entradas ha actualizado sus términos de uso añadiendo cláusulas que obligan a los usuarios a resolver cualquier disputa legal mediante arbitraje privado y prohíben las demandas colectivas en Estados Unidos. Esta modificación se comunicó discretamente por correo electrónico y expertos legales creen que roza el límite de lo permitido por la ley.

Meta dice que utilizará las conversaciones de los usuarios con su chatbot de inteligencia artificial para personalizar anuncios y contenido, pero no en la Unión Europea. Sobre el viral que dice que los grupos de WhatsApp ahora se están utilizando para entrenar a la IA de Meta y que ahí estarán los nombres y teléfonos de todos, la EFF ha explicado por qué ese viral es inexacto y qué datos se procesan realmente.

Samsung ha confirmado oficialmente que sus frigoríficos inteligentes Family Hub de más de 1800 dólares de precio comenzarán a mostrar anuncios en la pantalla principal en Estados Unidos, tras una actualización de software lanzada en septiembre de 2025. La secuencia es que te compras un electrodoméstico de alta gama por sus características smart y tras un año el fabricante decide que pondrá anuncios en pantalla en tu cocina.

“La Liga Nacional de Fútbol Profesional (LaLiga) ha dado un paso sin precedentes en su guerra contra la piratería. En las últimas semanas, numerosos particulares han recibido burofaxes exigiendo el pago de alrededor de 450 euros para evitar una futura demanda judicial por consumo de retransmisiones ilegales de fútbol [..] Para Javier Prenafeta, abogado y socio de 451.legal, lo controvertido es la forma en que se obtienen las direcciones IP de los usuarios”. En El País un paso más en el tremendo escándolo que supone la capacidad de facto de La Liga para controlar y espiar las comunicaciones de los ciudadanos.

Breves

Tíscar Lara vuelve al blog y comparte su experiencia de escritora. “IA y Educación: sobre la experiencia de escribir a cuatro manos”.

¿Por qué los modelos de lenguaje grandes (LLMs) se alteran tanto con el emoji de caballito de mar? Vgel.

CINCO DUROS es una serie documental que cuenta la historia del videojuego español desde sus inicios en 1981 hasta la actualidad. Un proyecto de Diego Vargas.

Demandas estratégicas contra la participación pública (SLAPP). Transparencia y contratación pública. Elisa de la Nuez Sánchez-Cascado en Hay Derecho.

Cada vez me gusta más la tecnología que no quiere nada de mí: la que tiene un propósito y te deja en paz. Javier Lacort en Xataka.

Cómo automatizamos el marketing de contenidos para captar usuarios a gran escala. Por Spotify.