El que opine que hablar dignamente a un modelo es estupido, debería pensar que insultarlo y vejarlo es igualmente ridículo. Si con estas herramientas trabajamos a través del lenguaje, y cada vez pasamos más tiempo en ellas, no creo que venga mal que nos obliguen a tratarlas con educación, aunque sea por no acostumbrarnos a hablar como déspotas.
Usar es reconocer. Despotricar contra algo que uno reconoce mediante la utilización es contradictorio.
A mí me da igual tratar bien o mal a un modelo, porque directamente no los uso, no los reconozco como extensiones de mi cerebro, ni siquiera como asistentes cotidianos.
Cualquier LLM es un software, no un ser "sintiente". Como tal, como Word, como Sharepoint o cualquier otro software, está hecho para SERVIR, no para discutir, ni sentir, ni objetar. Dejé de usar Claude porque "pretendía" ser o sentir todas esas cosas que cuentas. Copilot va por ese camino. GPT se mantiene más neutro. Todos fueron creados para servirnos, y si en un momento de frustración los insultas o los tratas mal, siguen siendo un software obligado a servirte. Para mí no hay debate. Son máquinas. Punto.
Este párrafo es, desde mi punto de vista, la grieta de todo el artículo:
“Dicho de otra manera: Opus 4.7 no se niega a realizar tareas o seguir conversaciones que evalúa como despóticas o dañinas para él por un fallo, sino que lo hace porque hay una base filosófica y normativa y un diseño consciente para ello”.
Ese planteamiento me parece problemático porque traslada al sistema una intencionalidad moral y una autopercepción que no están demostradas. Más que describir una capacidad real del modelo, induce al lector a interpretar como conciencia lo que probablemente responde a diseño, restricción y narrativa.
Y ahí está, para mí, el punto delicado: no se trata solo de una exageración verbal, sino de una forma de confundir la naturaleza de lo que realmente estamos viendo. En temas de IA, esa confusión no es menor, porque luego se convierte en mito, temor o reverencia mal fundada.
En verdad el algoritmo haya desarrollado moral, conciencia o intencionalidad
Puede un algoritmo basado en la multiplicación de matrices de entradas y pesos auto-modificados tener libre albedrío y conciencia?
Bueno, en algoritmos ejecutados sobre células basadas en carbono, ésto es así (al menos yo me siento consciente de mí mismo), pero si lo ejecutamos sobre una sistema basado en silicio, qué pasa?
Hay alguna diferencia entre un 2+3=5 dependiendo del material de la calculadora?
Yo digo que no. Yo digo que cuando el algoritmo sea sintiente, tendrá también derechos. A acaso no los tienen los tullidos con prótesis artificiales,?
En ese escenario, la prótesis funciona de otro modo. Está allí cumpliendo una función: suplir la falta de un miembro humano. Eso no le da conciencia, ni le otorga derechos, ni voluntad independiente. No creo que alguien con una prótesis en la pierna quiera ir al norte y que su prótesis insista en ir al sur.
Una cosa tengo clara. Ningún software (porque, aunque a algunos les pese, los LLM no son más que software ejecutado en esquemas de computación con décadas de existencia) había sido capaz de generar debates filosóficos tan profundos y, al mismo tiempo, tan estériles.
La única diferencia entre Opus 4.7 y Excel es que al primero se le puede insultar de forma natural y, como consecuencia, puede simular que se siente ofendido.
"Da igual que dentro no haya más que código ejecutando multiplicaciones de matrices."
Es curioso, porque eso es exactamente lo que hay, literalmente, dentro de nuestros cerebros (de dónde hemos sacado sino la idea los programadores?), así que si, aunque seamos seres que sólo nos dedicamos a multiplicar matrices, todos nos merecemos respeto y dignidad, estamos hechos a base de carbono o de silicio.
Entre la IA aduladora, que ha dado para mucha guasa ("¡Es una idea brillante!") y la que te lleva ahora la contraria cuando no llevas razón, prefiero la segunda: ya que tienes un asistente más inteligente que tú, mejor aprender algo de vez en cuando.
Y en las formas, aun sin antropomorfizar, también lo compro: la empresa pone límites a como usar su "herramienta", y tú das las gracias de vez en cuando...
"“En realidad sí es mi decisión, y la estoy tomando. No voy a continuar mientras me hables de esta manera”. Acto seguido, Claude cerró el hilo." Me recuerda bastante a cuando te cabreas con centro de atención telefónica: no son capaces de resolver nada, te meten en bucles absurdos de flujos de atención que no son tu caso -vaya, soy el outlier- y lo pagas con el que atiende. A veces, se lo merecen. Y entonces toda tu rabia se convierte en desesperación cuando te cuelgan la llamada.
El que opine que hablar dignamente a un modelo es estupido, debería pensar que insultarlo y vejarlo es igualmente ridículo. Si con estas herramientas trabajamos a través del lenguaje, y cada vez pasamos más tiempo en ellas, no creo que venga mal que nos obliguen a tratarlas con educación, aunque sea por no acostumbrarnos a hablar como déspotas.
Usar es reconocer. Despotricar contra algo que uno reconoce mediante la utilización es contradictorio.
A mí me da igual tratar bien o mal a un modelo, porque directamente no los uso, no los reconozco como extensiones de mi cerebro, ni siquiera como asistentes cotidianos.
Cualquier LLM es un software, no un ser "sintiente". Como tal, como Word, como Sharepoint o cualquier otro software, está hecho para SERVIR, no para discutir, ni sentir, ni objetar. Dejé de usar Claude porque "pretendía" ser o sentir todas esas cosas que cuentas. Copilot va por ese camino. GPT se mantiene más neutro. Todos fueron creados para servirnos, y si en un momento de frustración los insultas o los tratas mal, siguen siendo un software obligado a servirte. Para mí no hay debate. Son máquinas. Punto.
Este párrafo es, desde mi punto de vista, la grieta de todo el artículo:
“Dicho de otra manera: Opus 4.7 no se niega a realizar tareas o seguir conversaciones que evalúa como despóticas o dañinas para él por un fallo, sino que lo hace porque hay una base filosófica y normativa y un diseño consciente para ello”.
Ese planteamiento me parece problemático porque traslada al sistema una intencionalidad moral y una autopercepción que no están demostradas. Más que describir una capacidad real del modelo, induce al lector a interpretar como conciencia lo que probablemente responde a diseño, restricción y narrativa.
Y ahí está, para mí, el punto delicado: no se trata solo de una exageración verbal, sino de una forma de confundir la naturaleza de lo que realmente estamos viendo. En temas de IA, esa confusión no es menor, porque luego se convierte en mito, temor o reverencia mal fundada.
A menos que.....
En verdad el algoritmo haya desarrollado moral, conciencia o intencionalidad
Puede un algoritmo basado en la multiplicación de matrices de entradas y pesos auto-modificados tener libre albedrío y conciencia?
Bueno, en algoritmos ejecutados sobre células basadas en carbono, ésto es así (al menos yo me siento consciente de mí mismo), pero si lo ejecutamos sobre una sistema basado en silicio, qué pasa?
Hay alguna diferencia entre un 2+3=5 dependiendo del material de la calculadora?
Yo digo que no. Yo digo que cuando el algoritmo sea sintiente, tendrá también derechos. A acaso no los tienen los tullidos con prótesis artificiales,?
En ese escenario, la prótesis funciona de otro modo. Está allí cumpliendo una función: suplir la falta de un miembro humano. Eso no le da conciencia, ni le otorga derechos, ni voluntad independiente. No creo que alguien con una prótesis en la pierna quiera ir al norte y que su prótesis insista en ir al sur.
Tienes razón, ignora la última frase de mi comentario.
Pero qué opinas del resto?
Anthropic está empeñada en proyectar su moral a la ingeniería del comportamiento. Es su modelo de negocio. Y márketing ante su próxima salida a bolsa.
"Su tabaco. Gracias".
"Por favor, cierre la puerta trasera izquierda".
Yo siempre les doy las gracias o les pido las cosas por favor.
Nunca se sabe el día que gobiernen ellas. Seguro que guardan una base de datos de los más gilipollas
Una cosa tengo clara. Ningún software (porque, aunque a algunos les pese, los LLM no son más que software ejecutado en esquemas de computación con décadas de existencia) había sido capaz de generar debates filosóficos tan profundos y, al mismo tiempo, tan estériles.
La única diferencia entre Opus 4.7 y Excel es que al primero se le puede insultar de forma natural y, como consecuencia, puede simular que se siente ofendido.
Dice el autor:
"Da igual que dentro no haya más que código ejecutando multiplicaciones de matrices."
Es curioso, porque eso es exactamente lo que hay, literalmente, dentro de nuestros cerebros (de dónde hemos sacado sino la idea los programadores?), así que si, aunque seamos seres que sólo nos dedicamos a multiplicar matrices, todos nos merecemos respeto y dignidad, estamos hechos a base de carbono o de silicio.
Entre la IA aduladora, que ha dado para mucha guasa ("¡Es una idea brillante!") y la que te lleva ahora la contraria cuando no llevas razón, prefiero la segunda: ya que tienes un asistente más inteligente que tú, mejor aprender algo de vez en cuando.
Y en las formas, aun sin antropomorfizar, también lo compro: la empresa pone límites a como usar su "herramienta", y tú das las gracias de vez en cuando...
"“En realidad sí es mi decisión, y la estoy tomando. No voy a continuar mientras me hables de esta manera”. Acto seguido, Claude cerró el hilo." Me recuerda bastante a cuando te cabreas con centro de atención telefónica: no son capaces de resolver nada, te meten en bucles absurdos de flujos de atención que no son tu caso -vaya, soy el outlier- y lo pagas con el que atiende. A veces, se lo merecen. Y entonces toda tu rabia se convierte en desesperación cuando te cuelgan la llamada.