De las personas sintéticas. O sobre si el chatbot de Paris Hilton conduce al fin de la civilización
“Realmente se siente como si estuviéramos en la misma habitación”. Creo que merece la pena echar un vistazo a esta conversación entre Fridman y Zuckerberg. Separados por miles de kilómetros y equipados con unas Meta Quest Pro, Fridman y Zuckerberg hablan “frente a frente” a través de avatares virtuales fotorrealistas.
Indica Enrique en Xataka que esta es la prueba de que estábamos equivocados con lo de enterrar el metaverso, pero el problema de la propuesta de Meta no era parecer de juguete ni tampoco este realismo lo podemos conseguir siquiera a medio plazo con muchos usuarios concurrentes.
Hay un aspecto que explica el CEO de Meta, el avatar (lo que ve el otro interlocutor pero también como tú te percibes en esta experiencia) refleja como eras en el momento de la captura. Los que enviamos para todos los eventos la única foto en la que salimos bien de hace 12 años entendemos ese distanciamiento de la realidad.
Hay un giro en la entrevista, cuando hablan de identidad (hacia el minuto 30 empiezan con eso) y de que una vez que saltamos a lo virtual e introducimos inteligencia artificial hay algunos límites que desaparecen. ¿No podríamos conversar con nuestros padres y amigos fallecidos tal vez, simulados a partir de lo que dejaron grabado?.
Es un asunto del que ya nos hemos ocupado. De aquellas reflexiones rescato que, conociendo la tecnología que tenemos realmente, las simulaciones nos aterrarían primero (escuchar al fallecido declamando lo que nunca hubiera dicho, con su voz y tono pero sin las bromas que hubiera gastado o el momento en que se hubiera parado a criticar. Se trata, pues, de una farsa aberrante), pero quizás nos convencerían y después (zpenas unos guiños, alguna referencia a las bromas y expresiones que compartimos y el fantasma empieza a convencernos. Y si le diéramos tiempo, a ofuscar los recuerdos del ser querido original). El terror de mi novela de ciencia ficción preferida.
Aunque la la muerte y los grandes dilemas éticos nos ocupan y distraen más, la realidad suele ir por otro lado, más prosaica, menos previsible. Queremos luchar contra Terminator, pero lo que realmente tenemos delante es un chatbot que a veces inventa o dice algo inoportuno. En lo de las personas sintéticas lo que está funcionando ocurre dentro de un proyecto al que, sospecho, estamos prestando menos atención de lo que merece: Character.ai
Es interesante la evolución de este servicio de chats con inteligencia artificial generativa, pasando de ofrecer conversar con simulaciones de famosos o personajes históricos a hacerlo con personas inventadas y de ahí a ser una plataforma para que los usuarios diseñen sus bots con nombre, avatar y estilo o temática. Algunos tienen enfoque práctico - el profesor de inglés, el tutor de estudios - pero llevo meses en el subreddit de Character.ai y de sus usuarios mas intensivos extraigo la impresión de que cierto grado de erotismo y la compañía / conversación que dan los bots son la motivación principal.
Con esto en mente cabe una pregunta que lleva apareciendo desde que la IA generativa de esta generación demostró que puede conversar al nivel de un ser humano. ¿Si diseñamos estas personas sintéticas para que sean más amables, más graciosas, más pacientes, para que siempre nos escuchen y les gustemos, para que nos prefieran… nuestra relación con ellas saldrá de lo anecdótico, de lo marginal o patológico? La gente, después de todo, tiene otras cosas que hacer, nos contradice o simplemente elige otra compañía.
Es interesante la introducción de “28 IAs en beta, con intereses y personalidades únicas. Algunas están interpretadas por iconos culturales y personas influyentes, como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka.” Es decir lo que plantean es que en las plataformas de Meta, parte de la interacción consista en hablar con personas sintéticas cuya imagen y voz esté asociada a un famoso.
Es un curioso intento de inversión de la tendencia. Si las plataformas cada vez van más de entrentenimiento y contenido y menos de conexiones sociales, la propuesta de Meta de que pasemos más tiempo chateando con una simulación trucha de Paris Hilton se antoja como un salto enorme de su idea original: conectar más a las personas, superando las distancias.
Se cruzaba la presentación tecnológica con mi lectura de esta entrevista a Dennett, mi filósofo de cabecera los últimos dos años. Su postura es muy contraria, “La creación de personas digitales falsificadas corre el riesgo de destruir nuestra civilización”, afirma. Es una conclusión de su “enfoque intencional”, una estrategia consistente en interpretar el comportamiento de una criatura, o sistema, tratándola como si fuera un agente racional cuyas acciones se ven guiadas por sus creencias y deseos. Si al adoptar tal enfoque obtenemos ventajas explicativas y/o predictivas, esto basta para considerar a la criatura en cuestión como genuina propietaria de estados mentales intencionales y para que nuestro empleo del vocabulario intencional se encuentre justificado.
Antropomorfizaremos a estas IAs, entraremos en una fase de pérdida de confianza en quién es humano y qué ha sido creado por humanos que es clave en nuestra civilización. Entes poderosos controlarán nuestra atención a través de estas personas sintéticas, que además evolucionarán y tenderán a que las reproduzcamos y evolucionemos.
Es probable que Dennett, como todos, no sea demasiado bueno prediciendo el futuro. Creemos que habrá enormes problemas civilizatorios y de desinformación mientras la gente flirtea con un bot porque le gusta la ficción de hablar de sexo. Toda esta idea de llenar las plataformas como si la siguiente fase de lo social en internet fuese a consistir en acceder a simulaciones de famosos me tiene, en todo caso, contrariado. No sé si me pierdo algo o es, definitivamente y al cabo, un salto generacional que que prefiero no dar.
Relacionado: