Los primeros casos que me contaron eran de pacientes en consulta. Grabar los diez minutos con el médico, para luego, al llegar a casa, transcribir y preguntar a ChatGPT. Algunos dicen que lo hacen para tenerlo guardado, entenderlo mejor en una segunda escucha, saber qué debería haber preguntado y no preguntó. Pero hay mucho más de búsqueda de una segunda opinión, la del sistema de IA que tiene mucho más tiempo y al que podemos poner a investigar hasta quedar satisfechos.
Luego me fueron llegando muchos más: el empleado grabando la conversación con recursos humanos, el inquilino que discute con el casero o el divorciado en sus conversaciones con la ex. Y eso sin contar la burbuja de los usuarios avanzados de la IA que sigo, que estaban ya en la fase de mandar a sus agentes a reuniones por ellos, que grabasen y luego les contaran.
Pero a mi me interesa mucho más la puerta por la que está entrando lo de la grabación en el gran público. OpenAI asegura que más de 230 millones de personas le preguntan cada semana a ChatGPT por salud. Cuando lanzó ChatGPT Health en enero (todavía no disponible en Europa), una de las utilidades que destacó fue preparar las visitas al médico. Es uno de esas veces en las que no puedes hacer marketing del caso de uso en el que realmente todos estamos pensando. Y es que hace tiempo defendí por aquí que el médico debería usar más la inteligencia artificial, no previendo que sería el paciente quien la metiera en la consulta.
Sobre la generalización de la grabación de conversaciones se puede apuntar, con razón, que el móvil lleva veinte años pudiendo grabar cualquier conversación y casi nadie lo hacía. Aunque grabar era fácil, lo de recuperar, consultar, preguntar a lo grabado tenía un coste elevado en esfuerzo y tiempo. ¡Precisamente eso es lo que ha cambiado! La transcripción automática convierte el audio en texto, y el modelo de lenguaje convierte el texto en algo sobre lo que podemos hacer preguntas, que podemos resumir o convertir en una lista de tareas.
Es más, el acumular información digital se está revalorizando aunque no la usemos. La idea de almacenar mucha información en una suerte de segundo cerebro tiene esa virtud: en algún momento en el futuro mi agente IA trabajará con ello y le encontrará utilidad.
Debido a esta nueva utilidad, está apareciendo una nueva familia de dispositivos que plantea la grabación continua, sin fricción. Los dispositivos especializados abrieron el camino. Plaud, la grabadora con forma de tarjeta que se pega al móvil, ha vendido más de 1,5 millones de unidades y aspira a 500 millones de dólares en ventas este año. Joanna Stern, del Wall Street Journal, llevó durante tres meses la Bee, el colgante de Limitless y el citado NotePin de Plaud. Le resultaron útiles, e inquietantes. Quizás más lo segundo que lo primero.
«A mí me están grabando, literalmente»
El punto de inflexión, sin embargo, llega de la mano de Apple al presentar los Apple Watch Series 12 y Ultra 4, con especial interés en dos funciones:
Live Rewind permite pulsar dos veces la corona del reloj y recuperar en texto los últimos quince segundos de conversación. Es la función “¿qué acaba de decir?” y nada más, con un diseño socialmente un tanto extraño: no se me ocurren casos de uso que no se solucionen mejor con un “perdone, ¿me lo puede repetir?”.
Siri Recap es donde está la chicha. La idea es que el reloj va tomando nota de tus conversaciones a lo largo del día. No te da los audios, sino que genera resúmenes de lo hablado, con título y puntos clave.
Javier Lacort lo explicaba con mucho detalle hace poco: el reloj cifra el audio, lo envía al iPhone, donde se transcribe y comprime, eliminando redundancias, muletillas y elementos asociados al tono, conservando fundamentalmente los temas tratados. Ese texto sigue cifrado hasta los servidores de Apple, donde se hace el resumen final. Y a eso es a lo que podremos acceder, cuando esté disponible (algo que no sucederá en la Unión Europea de entrada).
Aquí hay una pirueta en el debate. Apple asegura que ha creado Siri Recap “con el control del usuario, la privacidad, la seguridad y la accesibilidad como elementos centrales de su diseño.” Que todo esté cifrado y no se acceda al audio original sino a su resumen sería, desde su punto de vista, la prueba de ello. Además de implicar, como la empresa explica, que esos resúmenes no pueden utilizarse como prueba en juicios.
Obviamente hay una parte de la privacidad que no tiene que ver con el cifrado de datos, sino con el consentimiento del resto de personas en la conversación. Recuerda a la asimetría que discutimos sobre las gafas conectadas, especialmente las Meta Rayban: quien lleva el dispositivo se queda con las ventajas; quien no lo lleva, con el trabajo de entender que está siendo grabado (saber qué es el dispositivo, cómo funciona su piloto de aviso) y los posibles perjuicios (que se publique un vídeo que te perjudica, el riesgo de privacidad).
Resulta increíble tener que explicar que un componente de la privacidad es el consentimiento. La escucha permanente de Siri Recap se puede configurar por franjas horarias, se puede desactivar o indicar que sólo lo haga en ciertos lugares como el trabajo. Pero, a simple vista, va a ser difícil de detectar: estará en los nuevos Apple Watch, que por diseño son muy parecidos a los antiguos.
¿Vamos realmente a una sociedad en la que toda conversación será grabada y procesada para una IA o esto es un traspiés, una rareza de Apple? ¿Se luchará contra sus relojes siempre grabando como se está haciendo contra las gafas con cámara? Mi hipótesis es que en el desarrollo de Siri como el gran asistente de inteligencia artificial, Apple anticipa que el éxito del agente personal tendrá mucho que ver con tener la información clave sobre el usuario. Siendo así, primero serán ellos, pero luego todas las empresas querrán colocarnos su dispositivo con IA que nos acompañe y grabe, para luego asesorarnos.
Hablar pensando en el público que nos va a escuchar.
¿Qué pasa cuando todo queda registrado? Hay una pista en un estudio publicado esta semana en Computer Supported Cooperative Work sobre Plative, una consultora de unos 200 empleados donde todas las reuniones se graban, se transcriben y se resumen por defecto con un agente propio. Los empleados, por un lado, prestan más atención a sus interlocutores porque toman menos notas. Por otro, el efecto más interesante es que la gente empieza a hablar pensando en la IA que leerá la transcripción.
Un ejecutivo deja «migas de pan» en las llamadas con clientes para que la IA indique después a un compañero ausente qué parte debe consultar. Otros siguen una plantilla para ir dictando el documento mientras hablan, o repiten sus compromisos para asegurarse de que el resumen los recoja. Y, como cada reunión recibe una puntuación de sentimiento del 1 al 5, y las de 3 o menos saltan en un canal de la dirección para detectar conflictos internos o problemas con clientes, una analista confiesa: «Siempre intento sacar un cinco sobre cinco porque creo que queda bien». Es el síndrome del teleoperador llevado a cada reunión.
Hace unos días, el tuitero roon contaba en X una actuación de Dave Chappelle en un pequeño club: el humorista obliga a su público a guardar el móvil en fundas selladas, pero también las gafas de Meta o los relojes de Apple. El artista prueba en pequeñas actuaciones qué tal funcionan sus gags y chistes. Es ahí donde más va a fallar y, por tanto, donde más interés tiene en no ser grabado.
¿Se aceptará socialmente el dispositivo que graba toda conversación? ¿Es el Apple Watch el caballo de troya, el que, como ya está muy aceptado, y no guarda el audio sino un resumen, pasará por respetuoso con la privacidad aunque no consintamos los demás? Es posible que en nuestra vida cotidiana empecemos a crear entornos de confianza a lo Dave Chappelle: sitios y momentos sin dispositivo alguno, en los que poder hablar sin la presión de estar siendo grabados para que el agente de inteligencia artificial pueda recordarlo por siempre.
Imágenes: Antonio Ortiz con Magnific.
Dices: "La idea de almacenar mucha información en una suerte de segundo cerebro tiene esa virtud: en algún momento en el futuro mi agente IA trabajará con ello y le encontrará utilidad."
Esta idea ya no es una hipótesis. Yo llevo 23 años blogueando y/o publicando toda mi producción académica en abierto en mi página personal.
Ahora, cuando quiero recuperar ya no solamente mi propia información, sino mi tono y estilo personal, ahí están 23 años de contenidos (literalmente miles de piezas) para ayudarme a estructurar cuando no a esbozar.
A eso se añade que también he publicado en abierto no solamente lo que escribo, sino lo que leo. Mi gestor bibliográfico tiene ya más de 6.000 referencias. Agrupadas por categorías, por temas, por autores, por colecciones -- con sus respectivos archivos tanto en remoto como en local. Eso da contexto además de grosor metodológico para los trabajos de consultoría.
Es alucinante.
Esto tiene una derivada catastrófica, la espontaneidad será barrida o relegada a "cámaras seguras", todo será sancionado y puntuado, empezará por lo laboral y saltará otros ámbitos, en una cita se podrá discernir la calidad de la misma y la ideonidad de la posible pareja, pero siguiendo con el ejemplo ¿quién nos dice que no podremos acudir a obtener mas información del interlocutor pagando a la propias empresas de IA?, imaginen los usos, amigos, parejas, ingeniería social basada en información capturada y procesada por IA, en lugar de por aquello tan humano que era la intuición, esto borrará el libre albedrío, tal vez por esto el Papa ha escrito su última encíclica.
EL MUNDO COMO LO SENTIMOS E INTUIMOS VA A CAMBIAR.