Ya hace un tiempo publiqué en este mismo blog un post en que hablaba del fenómeno del 'automation blindness' y cómo este fenómeno, la confianza excesiva en las decisiones de una máquina o algoritmo, puede llevar a cometer errores, puede invalidar la estrategia de Human-In-The-Loop y puede de afectar a medio plazo a la capacidad humana para tomar o supervisar esa decisión.
En otro post comentaba, además, como esa combinación con un deskilling progresivo puede conducir a un empobrecimiento cognitivo del ser humano y de su autonomía y capacidad de decisión.
En este post resumo los hallazgos de un 'paper' que nos presenta la idea de la rendición cognitiva ('cognitive surrender'), que considero muy relacionado con los conceptos anteriores.
Presentando las fuentes: el trabajo de Shaw y Nave
El paper al que me refiero es 'Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender' escrito por Steven D. Shaw y Gideon Nave de Wharton, un trabajo científico que aporta novedades teóricas y hallazgos experimentales.
Un 'paper' que me fue recomendado por Virginia Cabrera Nocito y que ella consultó durante su investigación doctoral y como parte de su labor directiva en la SOCEC (Sociedad Científica de Economía de la Conducta)
La teoría de los tres sistemas en la cognición
En el aspecto teórico, la novedad que aportan los autores es lo que denominan la teoría de los tres sistemas de la cognición 'tri-system theory of cognition'.
Resultan bastante conocidas, especialmente a través de la obra de Daniel Kahneman, las teorías de los dos niveles de la cognición que Kahneman recoge en su famoso libro 'Thinking fast and slow', según las cuales, cognitivamente operamos en dos niveles, uno rápido que, por decirlo de alguna forma, 'toma las decisiones sin pensar' con base en la intuición y en la emoción, y otro lento que es deliberativo y racional.
La gran propuesta de los autores del 'paper' es la existencia de un tercer nivel o sistema, un tercer nivel que se apoya en sistemas externos de inteligencia artificial. Según esto, para Shaw y Nave estaríamos hablando de los siguientes sistemas cognitivos:
- Sistema 1 (rápido): intuición humana. Se caracteriza por ser automático, asociativo, que exige poco esfuerzo pero que es propenso a sesgos y, de hecho, suele ser el origen de los múltiples sesgos cognitivos.
- Sistema 2 (lento): deliberación humana. Es analítico, reflexivo y más normativo pero es costoso y exige un mayor esfuerzo, por lo que nuestro cerebro tiende a recurrir al sistema 1 'siempre que puede'.
- Sistema 3 (artificial): se trata de una cognición externa, generada por inteligencia artificial. Es automatizado, basado en datos y dinámico (interactúa en tiempo real).
La novedad clave de la propuesta es, por un lado, la existencia de ese tercer sistema pero además, que ese tercer sistema presenta dos diferencias profundas con los niveles de Kahneman:
- Por un lado, si los sistemas 1 y 2 son de naturaleza biológica, mientras que el sistema 3 es un sistema artificial.
- Por otro lado, mientas los sistemas 1 y 2 son internos al individuo, el sistema 3 es externo, aunque sus resultados se integran en el pensamiento y la decisión como si fueran propios.
Delegación cognitiva ('cognitive offloading')
Los autores hacen mención a lo largo del paper al concepto de delegación cognitiva ('cognitive offloading').
La delegación cognitiva se entiende como uso estratégico y puntual de herramientas externas para apoyar el propio razonamiento, sin renunciar al control. Ejemplos clásicos podrían ser el uso de una calculadora o del GPS. En el caso en que nos ocupa estaríamos hablando de la inteligencia artificial típicamente mediante el uso de un chatbot generativo tipo ChatGPT o un agente.
Aunque se descarga una parte de la cognición en la herramienta, todavía el sistema 2 sigue activo, la persona mantiene la deliberación y la decisión, y la IA solo complementa o refuerza esa deliberación, por ejemplo generando opciones que luego evalúa el usuario. Además, es una forma de actuar reversible y crítica, es decir, la persona puede aceptar, cuestionar o rechazar la propuesta de la herramienta según su propio juicio (un poco la idea tras 'human-in-the-loop').
En ese sentido, la delegación cognitiva se considera un mecanismo, digamos, sano.
Rendición cognitiva ('cognitive surrender')
Sin embargo, en lo que ponen el foco los autores es en la rendición cognitiva ('cognitive surrender'), es decir, la tendencia a aceptar la respuesta de la inteligencia artificial sin verificarla, dejando de lado tanto la intuición propia del sistema 1 como la deliberación del sistema 2. A diferencia de lo que ocurre en la delegación cognitiva, la persona deja de razonar y, simplemente, adopta la respuesta externa como propia.
Según argumentan Shaw y Nave, la rendición cognitiva no es intrínsecamente irracional. Así, en dominios o tareas donde claramente la inteligencia artificial es superior al ser humano, esa rendición puede ser más una adaptación que un, digamos, fallo.
El problema realmente surge cuando la persona pierde la noción de cuándo y por qué delegó, difuminando así la frontera entre agencia humana y de la máquina y empobreciendo tanto esa agencia como las capacidades cognitivas humanas.
Aparte de las aportaciones teóricas, buena parte del 'paper' se dedica a describir los experimentos realizados y los resultados obtenidos que confirman la existencia de esta rendición cognitiva.
Reflexiones
En el fondo, el artículo de Shaw y Nave viene a confirmar de manera científica y experimental algo de lo que creo que todos somos bastante conscientes y que no deja de generar preocupación: el riesgo de pérdida por parte de los humanos, por un lado, de capacidades cognitivas y por otro, de agencia y criterio de decisión, por un uso excesivo y sobre todo inadecuado y acrítico de la inteligencia artificial.
Y esto es, en mi opinión, un problema ético y práctico de primer orden, con una solución no sencilla que debemos de esforzarnos en articular trabajando aspectos como la educación, el pensamiento crítico y la responsabilidad individual... con uno mismo.
Conclusiones
Es bastante reconocido el hecho de que cada vez más usamos la inteligencia artificial y que delegamos en ella tareas, conocimiento y decisiones. Esto lleva a los autores del 'paper' que hemos comentado a deducir que existe un tercer sistema cognitivo (el sistema 3, artificial) a añadir a los dos propuestas realizadas hace mucho tiempo por Kahneman y otros autores respecto a la existencia de dos sistemas cognitivos: sistema 1 rápido y sistema 2 lento.
Pero más allá de esos planteamiento teóricos, los autores definen y comprueban experimentalmente la existencia de la denominada rendición cognitiva, la abdicaciòn por parte de los humanos a ejercer su agencia delegando esa agencia en un sistema externo, en este caso un sistema de inteligencia artificial.
No hay comentarios:
Publicar un comentario