Considero reales ambos peligros: el de que la IA desalineada cree serios perjuicios a la humanidad y el de que la IA alineada quede en manos de muy pocos actores acumulando mucho poder.
Bien planteado, Antonio. De acuerdo con las hipótesis que comentas, y sobre todo con los dos riesgos de una IA peligrosa o concentrada.
Me alegro muchísimo que hayas adoptado posiciones (bastante) más cautas.
La estrategia de marketing era absurda y no se sostenía casi desde sus orígenes; menos mal que vamos abandonándola.
Y un detalle: no es objetivamente cierto que «nadie» haya visto «Lo que vio Ilya» hace dos años. Hubo más voces tomándolo en serio, que decidieron no ir de listos rebajando las alarmas con el típico «ahí va el exageradito» (y la lista no es corta).
Salvando las distancias, porque yo soy un mindundi, pero será por mi ignorancia, mi escepticismo saludable o mi sabiduría viejuna, me cuento entre los que no se han caído del guindo con esto ahora…
No acabo de entender por qué descartas el tema del dinero, yo creo que los retornos de la inversión están tardando en llegar más de lo que suponían. Una manera de recuperarse de eso es pausar la inversión en nuevos modelos y dar tiempo a que esos ingresos crezcan. Como bien dices, "si paran, los que van por detrás pueden alcanzarlas". ¿Así que qué mejor que anunciar el apocalipsis y pedir que todos paren, o incluso pedir que los estados les obliguen a parar?
bueno la idea es parar en la frontera, de hecho OpenAI ha publicado que detuvo el próximo gran modelo que estaba entrenando pero no Astra. Ni se ha retirado Fable, al contrario, han lanzasdo mejora. Si es parar todos y congelar el sector se podría considerar que son ventajistas, pero si es sólo en la frontera, les perjudica
Bravo Antonio, imprescindible. De esos posts que hay que guardar y releerlo dentro de un año para ver cómo ha evolucionado todo. Me lo pongo el recordatorio :). Y me encantan las imágenes de los ángeles autómatas... y la idea de las tijeras para cortarse las cuerdas es genial.
Al final del día, siempre suele ser un cóctel de causas. Todas ellas juntas dan un escenario realista del estado de la cuestión, incluidas las tentaciones.
Bien planteado, Antonio. De acuerdo con las hipótesis que comentas, y sobre todo con los dos riesgos de una IA peligrosa o concentrada.
Me alegro muchísimo que hayas adoptado posiciones (bastante) más cautas.
La estrategia de marketing era absurda y no se sostenía casi desde sus orígenes; menos mal que vamos abandonándola.
Y un detalle: no es objetivamente cierto que «nadie» haya visto «Lo que vio Ilya» hace dos años. Hubo más voces tomándolo en serio, que decidieron no ir de listos rebajando las alarmas con el típico «ahí va el exageradito» (y la lista no es corta).
Salvando las distancias, porque yo soy un mindundi, pero será por mi ignorancia, mi escepticismo saludable o mi sabiduría viejuna, me cuento entre los que no se han caído del guindo con esto ahora…
pero no digo que nadie "lo viera" eh. También hay otro perfil que se escapa del texto: los que han pronostico los últimos seis apocalipsis
Vale, vale, de acuerdo...
No acabo de entender por qué descartas el tema del dinero, yo creo que los retornos de la inversión están tardando en llegar más de lo que suponían. Una manera de recuperarse de eso es pausar la inversión en nuevos modelos y dar tiempo a que esos ingresos crezcan. Como bien dices, "si paran, los que van por detrás pueden alcanzarlas". ¿Así que qué mejor que anunciar el apocalipsis y pedir que todos paren, o incluso pedir que los estados les obliguen a parar?
bueno la idea es parar en la frontera, de hecho OpenAI ha publicado que detuvo el próximo gran modelo que estaba entrenando pero no Astra. Ni se ha retirado Fable, al contrario, han lanzasdo mejora. Si es parar todos y congelar el sector se podría considerar que son ventajistas, pero si es sólo en la frontera, les perjudica
Bravo Antonio, imprescindible. De esos posts que hay que guardar y releerlo dentro de un año para ver cómo ha evolucionado todo. Me lo pongo el recordatorio :). Y me encantan las imágenes de los ángeles autómatas... y la idea de las tijeras para cortarse las cuerdas es genial.
Al final del día, siempre suele ser un cóctel de causas. Todas ellas juntas dan un escenario realista del estado de la cuestión, incluidas las tentaciones.