Desde el software BOSCO en España a la ministra Diella en Albania, la automatización de deciciones que nos afectan pero no es posible explicar genera desconfianza
Buenas Antonio, la verdad es que el paso que han dado en AlbanIA (fíjate que acaba en IA, que como habéis dicho en Monos será un nombre trending ^_^) creo que es más de foto hacia fuera que realmente lo que se ha intentado vender, pero no descarto futuros escenarios en las AAPP que puedan ir en esa dirección. Aparte, los problemas que comentáis como el de prompt injection que sería nuevo, el de explicabilidad ya es algo que se venía arrastrando desde que se empezó a introducir IA en sistemas decisorios y el principal problema, como comentáis, es el de la "caja negra". Aquí se me ocurre que si son sistemas razonadores, se pueda exigir que la decisión venga acompañada, punto a punto, con todo el proceso que ha seguido el modelo en cuestión para llegar a tomar una decisión, aunque llegados a este punto, también nos encontramos con que sabemos que estos procesos no reflejan fielmente la realidad del proceso interno. Por otro lado, la calidad de las decisiones también se verán afectadas por el modelo, no me imagino una AAPP con Grok, en la que además cualquier persona pudiera en cualquier momento ir pidiendo "@Grok porqué no me han dado la ayuda?" "@Grok como está mi multa?"... En fin, que ya iremos viendo.
En España la nombrarán ministro de transportes y director de la guardia civil... me da a mi que además de todo lo planteado, va a haber un punto de "echemos la culpa a la máquina" de las decisiones humanas... La va a usar de chivo expIAtorio.
Buenas Antonio, la verdad es que el paso que han dado en AlbanIA (fíjate que acaba en IA, que como habéis dicho en Monos será un nombre trending ^_^) creo que es más de foto hacia fuera que realmente lo que se ha intentado vender, pero no descarto futuros escenarios en las AAPP que puedan ir en esa dirección. Aparte, los problemas que comentáis como el de prompt injection que sería nuevo, el de explicabilidad ya es algo que se venía arrastrando desde que se empezó a introducir IA en sistemas decisorios y el principal problema, como comentáis, es el de la "caja negra". Aquí se me ocurre que si son sistemas razonadores, se pueda exigir que la decisión venga acompañada, punto a punto, con todo el proceso que ha seguido el modelo en cuestión para llegar a tomar una decisión, aunque llegados a este punto, también nos encontramos con que sabemos que estos procesos no reflejan fielmente la realidad del proceso interno. Por otro lado, la calidad de las decisiones también se verán afectadas por el modelo, no me imagino una AAPP con Grok, en la que además cualquier persona pudiera en cualquier momento ir pidiendo "@Grok porqué no me han dado la ayuda?" "@Grok como está mi multa?"... En fin, que ya iremos viendo.
En España la nombrarán ministro de transportes y director de la guardia civil... me da a mi que además de todo lo planteado, va a haber un punto de "echemos la culpa a la máquina" de las decisiones humanas... La va a usar de chivo expIAtorio.