Un estudio sugiere que el riesgo es "dejar de pensar" por delegar en la IA. Quizá lo que revela no es un nuevo sistema mental, sino viejos sesgos de autoridad funcionando.
Me parece sugerente que, al señalar el sesgo de confirmación en quienes formulan advertencias exageradas o ridículas como «vamos a dejar de pensar», estemos incurriendo sin querer en una especie de sesgo parecido. Me explico.
Al centrar la atención crítica en desmontar hipótesis extremas como la de la «rendición cognitiva total» (el equivalente a “dejar de pensar”), ¿por qué no examinamos con honestidad escenarios intermedios —mucho más plausibles— como: «perder algo de hábito en el esfuerzo de pensar por cuenta propia», «acostumbrarnos a no desarrollar algunas ideas por nosotros mismos» o «penalizar nuestra autonomía cognitiva»? En vez de hablar de «rendición», quizá habría que hablar de «pereza cognitiva». Ahí puede estar el verdadero riesgo. Desviar el debate hacia tesis extremas es, a veces de forma inconsciente, una forma de sesgo de confirmación y, en cierta medida, una refutación fácil del hombre de paja.
Algo parecido ocurre cuando, para encuadrar la discusión sobre el mercado laboral, se toma como referencia la tesis extrema de «vamos a quedarnos sin trabajo», en lugar de discutir escenarios intermedios mucho más probables —y también preocupantes—: degradación del trabajo (no su desaparición), menos autonomía, pérdida de sentido, reducción salarial por pérdida de poder negociador o mayor concentración de poder. Es decir, no tanto desempleo generalizado —aunque también pueda darse— como precarización.
Después está otro punto que comentas. El hecho de que las IAs fallen cada vez menos producirá un efecto de calibración de la confianza. Más que afinar o dosificar esa confianza, esa creciente eficacia puede reforzar el sesgo de autoridad. Y ya sabes: cuanto mayor es la autoridad percibida del otro, más baja la guardia. Ese «desplazamiento de autoridad» hacia la IA ya se está produciendo.
¿De verdad crees que, con ese aumento de autoridad derivado de la eficacia de la automatización, la gente va a mantener la alarma encendida al delegar tareas con el mismo grado de sano escepticismo? Si de cada cien respuestas el sistema solo falla dos, se deja de supervisar: cuesta más buscar la aguja en el pajar que aceptar un pinchazo ocasional. Y a menor fricción —la que suelen introducir los sistemas imperfectos, como los humanos—, menor aprendizaje y mayor consumo pasivo.
Sé que reconoces que sería un error descartar la preocupación de fondo. Citas, con razón, el principio de precaución. Pero el «no es para tanto» que vertebra tu relato a mí me suena a veces como un distractor. Lo matizas —porque matizas muy bien—, pero al final me queda la sensación de que tu mensaje principal es que «se está exagerando». Insistes más en eso que en explorar la posibilidad de que tanta delegación fomente pereza cognitiva (no «rendición»). Tal vez tú y yo no seamos las víctimas más fáciles de ese efecto, porque nos gusta mucho darles vueltas a las ideas; pero pienso también en mucha gente para la que tomar atajos que simplifiquen el esfuerzo intelectual suele ser su escenario ideal.
Hay un punto interesante aquí que probablemente es un cherry-pick, como casi todas las experiencias personales.
Una frase del texto: "Creo que muchos de los que usamos los sitemas de IA a menudo, especialmente los agénticos y de mejor nivel, tenemos la alarma puesta al delegar tareas."
Sí, pero.
Sí, pero lo haces tú que eres (o intentas ser) tremendamente consciente y crítico de lo que escribes/haces/lees.
Sí, pero lo hago yo que me interesa muchísimo que los desarrollos que hago para mis clientes (mi responsabilidad) sigan estando al nivel adecuado.
Sí, pero lo hace el otro que X, Y, Z.
El problema, creo, es que precisamente nosotros somos el laboratorio.
Cuando lo llevas al ejemplo concreto, liberando a Claude Opus 4.6 en un entorno empresarial real de unos miles de programadores, muchos externos a la compañía, externalizados en un país donde el coste es menor (y la calidad puede ser acorde a ello) tienes la receta perfecta para el fallo global porque *no hay esa alarma a la hora de delegar tareas, o es mucho más laxa*. O porque revisar 15000 líneas de código al día es inviable. Quizás quieras mirarlo críticamente pero no hay tiempo material para hacerlo.
La duda que me trae esto es si realmente dejamos de pensar porque las usamos o es simplemente que la capacidad de proceso es tan grande, la cantidad de "output" que puedes producir es tan brutal, que los incentivos para "dejarle hacer" son demasiado fuertes.
Cierto que la programación es sólo una parte del uso de AI, pero...
Creo que aquí entra el palabro tan de moda ahora de "comodity". Se pretende que ahora es tan fácil y rápido escribir código, que es más "rentable" este nuevo modelo de crear, desplegar, corregir. En teoría, lo tiempos en obtener mismo resultados, son mucho menores con la IA. Veremos. Salvando las distancias, como la electrónica o el textil. Se prefiere pagar menos, y menos calidad, y se cambia más a menudo. Los efectos ya se ven con estos ejemplos, contaminación medioambiental con, posiblemente un coste superior. Cuanto cuesta realmente la IA? En términos de consumo y efecto medioambiental. Esto que digo, no es posicionarme contra IA, es poner las cosas en su justo contexto.
encuentro fundamentada la argumentación aquí expuesta, aunque la realidad siempre es más compleja y profunda.
En otro artículo que he leído sobre la misma cuestión, se comentaba la disparidad entre la capacidad de procesar de la IA con la limitación "del ancho de banda" de los verificadores humanos. Al final, subyace una cuestión energética, si hemos de verificar cada respuesta de la IA, se acabó. Hay procedimientos para articular esa verificación y validación, aunque requiere complejidad, aplicarlas a cuestiones menores resulta energéticamente excesivo. Así que, en mi humilde opinión, la clave es tomar conciencia de lo que haces, no confiar ciegamente ni en máquinas ni en humanos, confiar lo necesario en lo cotidiano y ser muy cauto en lo estratégico. En según que contextos, lo grave no es tropezar, sino no levantarse rápidamente.
Un debate super interesante pero, que podemos decir entonces de las redes sociales donde casi cualquier noticia se acepta sin una mínima reflexión critica sobre la misma.
Me parece sugerente que, al señalar el sesgo de confirmación en quienes formulan advertencias exageradas o ridículas como «vamos a dejar de pensar», estemos incurriendo sin querer en una especie de sesgo parecido. Me explico.
Al centrar la atención crítica en desmontar hipótesis extremas como la de la «rendición cognitiva total» (el equivalente a “dejar de pensar”), ¿por qué no examinamos con honestidad escenarios intermedios —mucho más plausibles— como: «perder algo de hábito en el esfuerzo de pensar por cuenta propia», «acostumbrarnos a no desarrollar algunas ideas por nosotros mismos» o «penalizar nuestra autonomía cognitiva»? En vez de hablar de «rendición», quizá habría que hablar de «pereza cognitiva». Ahí puede estar el verdadero riesgo. Desviar el debate hacia tesis extremas es, a veces de forma inconsciente, una forma de sesgo de confirmación y, en cierta medida, una refutación fácil del hombre de paja.
Algo parecido ocurre cuando, para encuadrar la discusión sobre el mercado laboral, se toma como referencia la tesis extrema de «vamos a quedarnos sin trabajo», en lugar de discutir escenarios intermedios mucho más probables —y también preocupantes—: degradación del trabajo (no su desaparición), menos autonomía, pérdida de sentido, reducción salarial por pérdida de poder negociador o mayor concentración de poder. Es decir, no tanto desempleo generalizado —aunque también pueda darse— como precarización.
Después está otro punto que comentas. El hecho de que las IAs fallen cada vez menos producirá un efecto de calibración de la confianza. Más que afinar o dosificar esa confianza, esa creciente eficacia puede reforzar el sesgo de autoridad. Y ya sabes: cuanto mayor es la autoridad percibida del otro, más baja la guardia. Ese «desplazamiento de autoridad» hacia la IA ya se está produciendo.
¿De verdad crees que, con ese aumento de autoridad derivado de la eficacia de la automatización, la gente va a mantener la alarma encendida al delegar tareas con el mismo grado de sano escepticismo? Si de cada cien respuestas el sistema solo falla dos, se deja de supervisar: cuesta más buscar la aguja en el pajar que aceptar un pinchazo ocasional. Y a menor fricción —la que suelen introducir los sistemas imperfectos, como los humanos—, menor aprendizaje y mayor consumo pasivo.
Sé que reconoces que sería un error descartar la preocupación de fondo. Citas, con razón, el principio de precaución. Pero el «no es para tanto» que vertebra tu relato a mí me suena a veces como un distractor. Lo matizas —porque matizas muy bien—, pero al final me queda la sensación de que tu mensaje principal es que «se está exagerando». Insistes más en eso que en explorar la posibilidad de que tanta delegación fomente pereza cognitiva (no «rendición»). Tal vez tú y yo no seamos las víctimas más fáciles de ese efecto, porque nos gusta mucho darles vueltas a las ideas; pero pienso también en mucha gente para la que tomar atajos que simplifiquen el esfuerzo intelectual suele ser su escenario ideal.
Hay un punto interesante aquí que probablemente es un cherry-pick, como casi todas las experiencias personales.
Una frase del texto: "Creo que muchos de los que usamos los sitemas de IA a menudo, especialmente los agénticos y de mejor nivel, tenemos la alarma puesta al delegar tareas."
Sí, pero.
Sí, pero lo haces tú que eres (o intentas ser) tremendamente consciente y crítico de lo que escribes/haces/lees.
Sí, pero lo hago yo que me interesa muchísimo que los desarrollos que hago para mis clientes (mi responsabilidad) sigan estando al nivel adecuado.
Sí, pero lo hace el otro que X, Y, Z.
El problema, creo, es que precisamente nosotros somos el laboratorio.
Cuando lo llevas al ejemplo concreto, liberando a Claude Opus 4.6 en un entorno empresarial real de unos miles de programadores, muchos externos a la compañía, externalizados en un país donde el coste es menor (y la calidad puede ser acorde a ello) tienes la receta perfecta para el fallo global porque *no hay esa alarma a la hora de delegar tareas, o es mucho más laxa*. O porque revisar 15000 líneas de código al día es inviable. Quizás quieras mirarlo críticamente pero no hay tiempo material para hacerlo.
La duda que me trae esto es si realmente dejamos de pensar porque las usamos o es simplemente que la capacidad de proceso es tan grande, la cantidad de "output" que puedes producir es tan brutal, que los incentivos para "dejarle hacer" son demasiado fuertes.
Cierto que la programación es sólo una parte del uso de AI, pero...
Creo que aquí entra el palabro tan de moda ahora de "comodity". Se pretende que ahora es tan fácil y rápido escribir código, que es más "rentable" este nuevo modelo de crear, desplegar, corregir. En teoría, lo tiempos en obtener mismo resultados, son mucho menores con la IA. Veremos. Salvando las distancias, como la electrónica o el textil. Se prefiere pagar menos, y menos calidad, y se cambia más a menudo. Los efectos ya se ven con estos ejemplos, contaminación medioambiental con, posiblemente un coste superior. Cuanto cuesta realmente la IA? En términos de consumo y efecto medioambiental. Esto que digo, no es posicionarme contra IA, es poner las cosas en su justo contexto.
encuentro fundamentada la argumentación aquí expuesta, aunque la realidad siempre es más compleja y profunda.
En otro artículo que he leído sobre la misma cuestión, se comentaba la disparidad entre la capacidad de procesar de la IA con la limitación "del ancho de banda" de los verificadores humanos. Al final, subyace una cuestión energética, si hemos de verificar cada respuesta de la IA, se acabó. Hay procedimientos para articular esa verificación y validación, aunque requiere complejidad, aplicarlas a cuestiones menores resulta energéticamente excesivo. Así que, en mi humilde opinión, la clave es tomar conciencia de lo que haces, no confiar ciegamente ni en máquinas ni en humanos, confiar lo necesario en lo cotidiano y ser muy cauto en lo estratégico. En según que contextos, lo grave no es tropezar, sino no levantarse rápidamente.
Un debate super interesante pero, que podemos decir entonces de las redes sociales donde casi cualquier noticia se acepta sin una mínima reflexión critica sobre la misma.