Capacidades cognitivas frente a la IA: aprendizaje versus producción

La inteligencia artificial trae consigo enormes posibilidades. Es una tecnología polivalente, transversal, disruptiva en ocasiones e, incluso, muchas veces divertida.

Pero también nos desafía en muchos sentidos y, en algunos, incluso nos puede preocupar.

 

La IA y el problema de las capacidades cognitivas

Uno de esos posibles elementos de preocupación es cómo puede afectar el uso intensivo de la IA el desarrollo (o atrofia) de nuestras capacidades cognitivas y, muy específicamente, cómo afecta al aprendizaje de conocimientos y habilidades mentales.

Carátula del episodio

Se trata de un tema en el que pienso con cierta frecuencia y que he reflejado en varios de los canales de comunicación que utilizo. Sin ir más lejos, el 22 de Julio, el día anterior a en el que esto escribo, publicaba en el podcast 'Caminos de Knowmad' en que colaboro, un episodio titulado, significativamente, 'Cuidar nuestras capacidades cognitivas en tiempos de IA' en que analizo esta problemática desde la perspectiva de un profesional del conocimiento, y traslado algunas ideas y opiniones.

El temor es, en esencia, que si nos acostumbramos a delegar tareas en la IA, si no ejercemos nuestras propias capacidades cognitivas (memoria, comprensión, análisis, planificación, resolución de problemas, etc) porque la IA nos da la tarea hecha, no desarrollemos esas capacidades o, si ya las poseíamos, se puedan ir 'atrofiando' de alguna manera por 'falta de uso'.

En este caso, la neuroplasticidad del cerebro correría en nuestra contra porque el cerebro se acostumbraría a no usar ciertas capacidades y, al 'considerarlas inútiles' las iría, de alguna manera, borrando.

El caso del aprendizaje

Y el problema se agudiza cuando estamos hablando, no sólo de conservar capacidades cognitivas, sino del aprendizaje: de la adquisición de conocimientos y habilidades, y del propio desarrollo de esas capacidades cognitivas.

Este tema lo abordé también en mi podcast personal 'Divergencias', en el episodio que publiqué en Enero de este año y que titulaba 'Facilidad y aprendizaje: un posible impacto cognitivo de la IA' y que, si lo deseas, puedes ver en su versión video abajo.

En este episodio, razono como el 'hacer', cómo el intentar realizar nosotros mismos el trabajo intelectual, el memorizar, razonar, resolver problemas, escribir, etc es importantísimo para el aprendizaje. Incluso si la IA nos proporciona el mismo resultado que nosotros hubiéramos producido e, incluso si leemos atentamente esos resultados, el aprendizaje no es igual en absoluto.

Menciono cómo, la estrategia pedagógica conocida como 'learning by doing' se basa, precisamente, en el reconocimiento de lo importante que es una actitud activa, de práctica, en el aprendizaje.

La doble apuesta

Siempre que trato este tema, mi propuesta es, de alguna forma, lo que llamo la 'doble apuesta'.

En esa doble apuesta, por un lado, invito a reconocer la potencia y utilidad de la inteligencia artificial y la casi obligatoriedad hoy en día de dominarla para ser unos profesionales valiosos, relevantes y empleables. Y animo, claro, a su conocimiento y uso intensivo.

Pero, por otro lado, urjo a todos los profesionales, a todos los jóvenes y, en realidad, a todas las personas, a que cuiden su aprendizaje y desarrollo cognitivo, prescindiendo en ocasiones de la IA (en los temas que más te importan o que son de puro aprendizaje o estudio) y realizando actividades paralelas complementarias como la lectura, la escritura, el debate o el estudio tradicional, incluso el denostado aprendizaje memorístico.

Modos aprendizaje y modo producción

Hace pocas semanas finalicé la lectura del libro 'Nosotros, digitales' de Javier Lorente y me pareció interesante la forma en que él estructura un poco este mismo problema.

Javier se centra, específicamente, en el caso de la educación y describe el problema de la siguiente forma

Si utilizamos máquinas para acelerar la generación de productos intelectuales, dejamos de desarrollar las capacidades naturales y tendremos que buscar espacios para ejercitarlas de forma artificial, como hacen con su cuerpo los que frecuentan un gimnasio.

Nos habla de distinguir dos modos. Por un lado un modo producción en que lo que buscamos son resultados y eficiencia y, en ese sentido, la IA es una gran ayuda, hoy en día casi imprescindible. Y, por otro lado, un modo aprendizaje, en que  lo que importa no es producir, sino adquirir conocimientos y desarrollar capacidades intelectuales y, en ese caso, aunque sea menos eficaz, debemos esforzarnos en hacer las cosas por nosotros mismos.

Y para ilustrarlo utiliza el ejemplo del deporte y del entrenamiento, siendo el aprendizaje el equivalente al entrenamiento.

En realidad, Javier hablar de un tercer modo, creación, en que, digamos, 'damos libertad', a nuestro cerebro para que vague libremente recombinando conocimientos e ideas.

La realización y el disfrute

Quisiera añadir un punto adicional, que en alguna ocasión también he mencionado en algún medio y que tiene que ver con aquello que disfrutamos haciendo, aquello en que el propio proceso nos es altamente satisfactorio y que, por tanto, no deberíamos ceder a la IA salvo, puntualmente, cuando nos apriete la necesidad de resultados.

En mi caso, por ejemplo, me gusta mucho escribir, escribir en muchos formatos incluyendo, entre otros, éste que recibes: un artículo de blog. Automatizar con inteligencia artificial la generación de artículos para un blog es algo bastante sencillo y que podría y sabría hacer sin problemas e, incluso, me ayudaría a aumentar mi ritmo de publicación. Pero es que, simplemente, no quiero hacer con inteligencia artificial los posts de 'Blue Chip'.

No quiero, sobre todo, porque disfruto escribiéndolos.

No quiero porque, además, en el fondo es otra forma de aprendizaje, porque escribir te obliga a pensar y, sobre todo, estructurar lo que has pensado, y eso no deja de ser una forma de aprendizaje y desarrollo cognitivo. Y te obliga, en ocasiones, a buscar alguna información o aclarar algún punto... y eso también es aprendizaje.

Y no quiero finalmente, porque, en el fondo, a pesar de la potencia de la IA y a pesar, incluso, de su capacidad de personalización y adaptación a un estilo, en este caso el mío, creo que al final tú, lector, acabarías percibiendo una cierta 'despersonalización', una cierta falta de originalidad, una especie de impostura en el mensaje.

Y no quiero, simplemente no quiero.

Conclusiones

La IA es una tecnología potente, tremendamente útil, y casi imprescindible hoy en día en el arsenal de cualquier profesional. Sin embargo, el uso excesivo y, sobre todo, la delegación exagerada de tareas en la IA sin esfuerzo o reflexión por nuestra parte, puede acabar afectando a nuestras capacidades cognitivas o puede eliminar nuestro aprendizaje.

Parecen, pues, necesario, desarrollar y aplicar estrategias de trabajo y aprendizaje en que tengamos espacio para nosotros, para hacer nosotros el trabajo intelectual. En este sentido, puede ser útil como marco conceptual, la distinción entre los modos de aprendizaje y producción que nos propone Javier Lorente.

La humanidad como metáfora (I): El caso de la inteligencia artificial

En ciertos campos tecnológicos, muy en especial con lo que tiene que ver con inteligencia artificial, se utiliza un lenguaje que  mimetiza las características y aportaciones de esa tecnología con características con capacidades humanas. Así, hablamos de capacidades cognitivas, de razonamiento, de reflexión, etc.

Y la cosa no creo que se reduzca al lenguaje, existen dudas y debates sobre si lo que estamos haciendo va mucho más allá de la terminología, y si la verdadera aspiración, como así se afirma, sin duda, es alcanzar o incluso sustituir a la inteligencia humana.

Me encuentro inmerso en la lectura del libro 'Agentic Mesh: The GenAI-Powered Autonomous Agent Ecosystem' de Eric Broda y Davis Broda, un libro eminentemente técnico, pero en el cual, en el tercer capítulo, 'Agents basics', se dedica completamente a poner en paralelo y comparar a los agentes con los seres humanos, a mostrar capacidades humanas, tanto individuales como grupales, y cómo éstas se trasladan puntualmente al caso de agentes. De hecho, los autores afirman que esa analogía con las personas es una excelente forma de entender cómo funcionan los agentes, como exponen en la primera sección de ese capítulo 'Agent analogy: agents as people'.

Y es precisamente la lectura de ese capítulo la que me ha hecho preguntarme hasta qué punto es beneficiosa, y hasta qué punto real, esa analogía, esa metáfora. Y, también, si esa analogía va más allá de un paralelismo para convertirse en una aspiración.

Con ello tengo material para una 'miniserie' de dos o tres posts, de la cual éste es el primero, y en él me centro en el caso concreto de la inteligencia artificial.

Inteligencia artificial y metáfora

Lo cierto es que desde su mismo nacimiento, la inteligencia artificial sostiene, en su nomenclatura y en algo más, ese paralelismo con la humanidad o con la cognición humana.

El propio nombre de inteligencia hace pensar en seres vivos y, sobre todo, en humanos, y la propia declaración de visión, en la conferencia de Darmouth, 'hacer que las máquinas se comporten de una forma que consideraríamos inteligente si un humano se comportase de esa forma', pone de alguna manera al ser humano como medida y casi como aspiración de la inteligencia artificial.

Y ese paralelismo, esa analogía, esa nomenclatura y esa aspiración, siguen entre nosotros e inundan el discurso y en parte la actividad en materia de inteligencia artificial.

Pero, en realidad, esa forma de hablar acerca de la inteligencia artificial, esa insistencia en términos provenientes de la psicología o la neurociencia como razonamiento, reflexión, introspección, memorias de corto y largo plazo, etc va más allá de una pura metáfora, de un puro paralelismo.

También es una inspiración, inspiración en el doble sentido científico y aspiracional y, puede, sólo puede, que constituya un objetivo.

Más allá de la metáfora: el cerebro como inspiración científica

En efecto, el ser humano, y en concreto su cerebro y su sistema nervioso, han funcionado y funcionan como fuente de inspiración desde un punto de vista científico y técnico, es decir, como un elemento que podemos estudiar y que las conclusiones nos pueden servir en el diseño técnico de las soluciones de inteligencia artificial.

En la época en que estaba en boga la inteligencia artificial simbólica, se estudió e intento aplicar, con regular éxito, los mecanismos de pensamiento consciente del ser humano. Se trabajó con las leyes de la lógica y con la representación del conocimiento y se atendía a los procesos cognitivos del ser humano.

Y cuando la orientación viró hacia el machine learning, hacia el reconocimiento de patrones y el aprendizaje basado en datos, las muy exitosas actualmente redes neuronales se inspiraron, y de qué manera, en el cerebro humano. Los perceptrones, las primeras neuronas artificiales, abstraían (y abstraen) el funcionamiento de una neurona humana, y la distribución en capas emula, creo que de forma ya algo menos fiel, la profunda interconexión entre neuronas que existe en el cerebro humano.

He leído, aunque tengo alguna duda al respecto, que las redes neuronales de convolución, que permitieron un enorme salto en materia de visión artificial, también emulaban el funcionamiento de las neuronas dedicadas a visión.

En el fondo no se trata de nada nuevo ni de nada ilógico. Dado que muchas de las características que aspira a conseguir la inteligencia artificial las exhiben con notable éxito los seres vivos y en especial los humanos, parece muy razonable estudiar a esos seres vivos e intentar trasladar lo aprendido a diseños técnicos. Es lo que se denomina biomímesis y es algo que se ha hecho durante décadas e incluso siglos y tiene toda la lógica del mundo.

Pero es preciso ser conscientes de que con frecuencia se trata solo de un punto de partida inicial. El diseño fino  de esas redes neuronales, o de cualquier artefacto basado en biomímesis, se suele apartar luego en parte de su inspiración original, y se guía luego más por resultados y técnicas de ingeniería que por una verdadera copia del mecanismo biológico que, además, con frecuencia, y este es el caso del cerebro, no se conoce del todo.

El cerebro como objeto 

A veces se afirma, y es una afirmación de base científica, que lo que aprendemos del funcionamiento de algoritmos de inteligencia artificial, lo que experimentamos con ella, puede ser un mecanismo para ayudarnos a comprender nuestro propio cerebro.

En este caso, en el fondo, el objeto es el propio cerebro, o su conocimiento, más que la tecnología de inteligencia artificial en sí misma que sería un medio para experimentar.

Es una afirmación razonable e inspiradora, pero no estoy seguro de cuántos resultados se han producido en esta orientación.

El cerebro como aspiración

Lo que de alguna forma es técnicamente más retador, y también éticamente más problemático, es si la aspiración real es el cerebro humano, o por mejor decir, conseguir hacer un cerebro artificial que emule, e incluso supere, al cerebro humano.

Esto tendería a llevarnos al campo de la AGI ('Artificial General Intelligence') o de la superinteligencia y nos pudiera dejar en los umbrales de la famosa singularidad. 

A pesar de discursos sensacionalistas y catastrofistas, no creo que este objetivo domine hoy en día el desarrollo de la inteligencia artificial, pero tampoco diría que no está presente y que no tiene su peso. De hecho, un objetivo declarado de OpenAI es conseguir esa AGI. Así que, cuidado.

Si esto se consiguiera, o si la AGI o la super-inteligencia son el verdadero objetivo, estamos hablando no de una metáfora, sino de una imitación e incluso una sustitución y con muchas y serias implicaciones.

Ingeniería versus utopía

Lo cierto es que, al menos eso creo yo, una gran parte del trabajo en materia de inteligencia artificial, tanto en los diseñadores y fabricantes de los algoritmos y los grandes modelos, como en las empresas que adoptan soluciones, creo que está mucho, muchísimo más guiado por objetivos de negocio e ingeniería, por la aplicación de tecnología para conseguir unos objetivos más concretos, más prácticos y, en cierto sentido, más inmediatos, acercándose o usando la inspiración humana sólo cuándo éste sea un recurso prometedor.

Y la metáfora humana con frecuencia creo que se queda más en eso, metáfora, más usada en términos de comunicación y marketing o a veces, sólo a veces, se orienta hacia la venta de una utopía (puede que en realidad una distopía)

La conveniencia de la metáfora humana

Personalmente, no me parece mal del todo el uso de la metáfora humana hasta cierto punto.

En el fondo, es cierto que con frecuencia la inteligencia artificial imita capacidades cognitivas humanas, y no está mal reconocerlo, explicarlo e, incluso, con prudencia, adoptar nombres que se reutilicen de la neurociencia o la psicología para denominar capacidades más o menos equivalentes de la inteligencia artificial.

Además, la metáfora bien usada y explicada, puede ayudar a entender de una forma más sencilla qué mecanismos implementa la inteligencia artificial.

Pero tampoco creo que haya que extremar la metáfora.

En primer lugar, no se debe exagerar, no se deben usar palabras que hagan pensar que la inteligencia artificial hace más de lo que realmente hace. Y también se debe emplear con cierta contención y prudencia, porque un uso poco explicado, o peor, mal explicado de la metáfora humana, puede despistar al público, puede, en lugar de ayudar, confundir e incluso puede generar rechazo. Hace unos pocos meses pude asistir, por ejemplo, al rechazo que generaba el mero uso del término agente, en una comunidad orientada hacia la filosofía e incluso la teología donde el término agente tiene un significado propio y de connotaciones morales.

Y, por supuesto, si el objetivo es realmente crear un cerebro artificial, una super-inteligencia que nos supere, lo cual ya no es metáfora en absoluto, eso tiene muchas otras implicaciones éticas, humanísticas e, incluso de seguridad, pero eso es ya harina de otro costal.

Conclusiones

La metáfora humana se ha usado y se usa con frecuencia en el campo de la inteligencia artificial. Su empleo es justo y razonable en la medida en que realmente la inteligencia artificial implemente mecanismos similares o paralelos a los de la cognición humana, pero un uso incorrecto o exagerado de esa metáfora puede generar rechazo y puede confundir, y creo que confunde, de hecho.

Inteligencia artificial, creación y el proceso interior

Comienza a ser un debate recurrente, en algunos casos puede que hasta cansino, la relación del humano con la inteligencia artificial, si nos sustituirá o no, si sólo debe actuar como un copiloto o si afecta a nuestras capacidades cognitivas o no.

En este post quiero hacer una breve reflexión sobre el caso concreto del proceso creativo. Una reflexión que no es teórica, y que no busca realmente un posicionamiento, sino que es una visión muy individual mía, muy experiencial, aunque presumo que sensaciones parecidas las deben experimentar muchas otras personas, y por eso me parece valioso compartirlo.

El salto de la inteligencia artificial generativa

Quizá unos de los ámbitos en que más ha mejorado la inteligencia artificial en los últimos tres años, sea en todo lo que tiene que ver con la 'creación' o, si se prefiere, la generación de contenidos. Unos contenidos que inicialmente, fueron esencialmente textuales, pero en seguida saltaron a la imagen, al vídeo y a la música.

Un proceso, ese de la generación que, sobre todo en el campo del texto, va más allá de una creación mecánica de ese texto, sino que aporta 'conocimiento', datos y estructura. Y que, además, puede incluso hacer uso de resortes emocionales, quizá especialmente destacados en el caso de la generación musical.

Sobre el discutido concepto de creatividad

Se discute mucho sobre lo que es creatividad y lo que no y, sobre todo, si lo que hace la inteligencia artificial generativa es verdadera creatividad o no y, yendo más lejos, si se puede llegar a considerar arte algo creado con inteligencia artificial generativa.

No creo que sea un tema claro, realmente. Me parece, aunque me confieso un poco lego en la materia, que el propio concepto de lo que es el arte es, como diría 'el otro', algo discutido y discutible.

Pero sin llegar a la de idea de arte, y quedándonos sólo en creatividad, se alega a veces que la inteligencia artificial no es creativa porque, en el fondo, reutiliza unos patrones de base estadística que se le han enseñado y los utiliza para sus nuevas creaciones o, si se prefiere, generaciones. No sé si eso es suficiente para decir que la inteligencia artificial no es creativa, y menos teniendo en cuenta que parece que, en el fondo, la creatividad humana funciona, al menos parcialmente, de la misma forma: aplicando a ámbitos nuevos o de formas nuevas patrones que ya ha visto en el pasado.

En cualquier caso, el debate sobre la presunta o no creatividad de la inteligencia artificial, aunque atractivo, no es lo que me ocupa ahora. Para lo que sigue, el que llamemos creatividad o no a producción de contenidos de la inteligencia artificial generativa, me es irrelevante.

Lo cierto es que puede crear textos, imágenes, videos, sonidos y música nuevos y de una alta calidad factual y estética.

¿Dónde quedamos los humanos y nuestra creatividad y nuestro arte, ante todo esto?

Tomándomelo de modo personal

Todo lo que antecede es una exposición de contexto, pero a partir de aquí comienzo con mi experiencia personal. Y para esa experiencia hablaré de mi particular producción de contenidos.

Mi producción de contenidos se centra especialmente en lo textual, en la escritura. Creo textos, por ejemplo, para este mismo blog. He creado, y espero seguir creando, texto para los libros que he publicado o en los que he colaborado. He creado texto como material docente. He creado, incluso, aunque al menos de momento muy poco publicado, texto de naturaleza más artística, del ámbito literario (ensayo, narrativa e incluso alguna especie de poesía).

Para mi labor como 'speaker' y como docente, utilizo también mucho las hoy en día un poco denostadas presentaciones PowerPoint.

En bastante menor medida también creo en otros medios. Creo imágenes como complemento de artículos o presentaciones. Creo algunos vídeos como promoción, como realce de alguna charla o clase... o por el placer de hacerlo. Creo con mi voz participando en podcasts. Y he creado algo de música fundamentalmente como fondo de vídeos. 

Para esta creación multimedia, imágenes, video y música hoy en día me apoyo mucho, cada vez más, en el uso de la inteligencia artificial.

Sin embargo, para la voz y, sobre todo, para la creación textual y las presentaciones, pese a que sabría perfectamente cómo hacerlo con inteligencia artificial (es más, de vez en cuando enseño cómo hacerlo) mi mecánica sigue siendo clásica, es decir, genero el texto o las presentaciones por mí mismo, más o menos manualmente, aunque, evidentemente, usando un ordenador, y esporádicamente alguna ayuda de la inteligencia artificial.

¿Por qué ese diferente planteamiento según el contenido que genero?

Pues tiene mucho que ver con lo principal que quiero transmitir en este post: con el proceso interior de creación. Pero antes, un apunte sobre la calidad del resultado generado con inteligencia artificial.

La calidad del resultado

La inteligencia artificial generativa ha avanzado una barbaridad en poco tiempo y los resultados que ofrece son cada vez mejores. Los textos están bien redactados, bien estructurados, con mucho conocimiento por detrás y, en general, 'suenan bien' o incluso muy bien.

La calidad física de imágenes, vídeos y música es muy alta. Por calidad física me refiero a calidad del sonido en música o a la resolución y calidad de imagen en imágenes estáticas y vídeo. La composición suele ser buena, pero aquí, y reconociendo antes mi escasa preparación en materia de diseño o arte visual, tengo algunas 'pegas'. Las imágenes, si uno no se pelea mucho con ellas, y usando prompts cada vez más especializados, suelen ser abigarradas y un poco repetitivas. En el vídeo, se observan todavía con cierta frecuencia las famosas alucinaciones. En general, además, y aunque me imagino que esto se podría superar con práctica, insistencia y un promting avanzado y especializado, las herramientas tienden a generar imágenes, vídeo y música, de buena apariencia, pero un poco 'según le parece' y cuesta guiarla a que realicen tu idea (cuando la tienes). Con frecuencia, si no se pelea mucho, los resultados tienden además a ser repetitivos.

En general, mi sensación es que la calidad de la producción textual, es ahora mismo bastante más alta que la de la producción multimedia, pese a que ésta última nos impresiona muchísimo más.

Y, sin embargo, pese a que la inteligencia artificial genera, en mi opinión, mejores resultados en texto que en multimedia, mi uso es justo al revés, la utilizo mucho en multimedia y poco en texto.

¿No es esto contradictorio?

Pues la respuesta tiene mucho que ver con el proceso interior.

El proceso interior y la experiencia personal

Por el proceso interior, me refiero a mi forma de trabajar en la creación de contenidos, lo que experimento cuando lo hago, y lo que eso aporta al resultado y, sobre todo, a mí mismo. Y un proceso que, aunque describo como propio, me imagino que cualquier otra persona experimenta algo parecido.

En ese proceso interior de creación aportas y recibes. 

Veámoslo de forma separada

Lo que aportas cuando creas

Cuando estoy creando un texto de tipo profesional, para publicar o para docencia, aporto por un lado mi conocimiento, todo lo que he aprendido estudiando, leyendo, trabajando o escuchando a otros. Y aporto la experiencia profesional, lo que he vivido en las empresas que he trabajado, los clientes o proveedores con los que he tratado, lo que he visto en jefes y colaboradores. Y, no sólo eso, aporto mi comprensión, síntesis y en ocasiones opinión sobre el tema tratado. La inteligencia artificial puede aportar mucho en cuanto a conocimiento, datos  y estructura en este ámbito pero siento, y no quiero ser presuntuoso, que con frecuencia no está a mi altura. Lo que hace es muy correcto y lo cuenta muy bien... pero le falta 'un algo', un algo de discurso, de claridad, de exposición, de perspicacia, a veces incluso de 'alma' o personalidad. Salvo en casos y temas concretos, me gusta mucho más el contenido textual que yo genero que el que me aporta la inteligencia artificial. No es un prejuicio, es lo que veo.

Es importante resaltar, y de nuevo no quisiera ser presuntuoso pero sí claro, que esto es así en parte, por mi propias capacidades, circunstancias y motivaciones. Creo que puedo generar mejores textos que la inteligencia artificial porque atesoro mucho conocimiento, experiencia, lecturas y estudio en mis ámbitos de especialidad, porque además me gusta escribir y tengo mucha práctica en ello y, finalmente, porque soy perfeccionista y me gusta 'hacer las cosas bien' y dar los mensajes correctamente, en el orden correcto, de manera comprensible y, si es posible, incluyendo motivación.

Aún así, reconozco que, en cuanto a aportación, la inteligencia artificial es un gran competidor.

Y es por mi aportación, por lo que, en parte, no utilizo la inteligencia artificial en la generación de textos pero sí en multimedia. Porque si en texto yo creo aportar mucho, en multimedia no es así. 

Multimedia para mí es muy diferente. No tengo formación artística ni musical, salvo la muy básica obtenida en la enseñanza obligatoria. No tengo habilidad manual ninguna para dibujar. No le dedico demasiado tiempo a contemplar arte o a escuchar música. Y, quizá, uniendo la escasa formación y la falta de dedicación a contemplar las obras de terceros, no tengo imaginación suficiente para concebir una buena escena de vídeo y muchísimo menos una buena canción. Por todo ello, tengo muy poco que aportar a la hora de creación de imagen, vídeo o música. Y, sin embargo, la inteligencia artificial me permite crear con muy poco esfuerzo, aunque con las carencias ya reseñadas, imágenes, vídeos y canciones de alta calidad física, y razonable, aunque no perfecta, composición. Eso es mucho más de lo que yo soy capaz de hacer. Y por eso no duda en utilizar la inteligencia artificial.

Lo que recibes cuando creas

Pero luego está lo que yo recibo. Y probablemente eso sea muchísimo más importante y más decisivo a la hora de no utilizar la inteligencia artificial que la visión de lo que aporto.

He expresado más de una vez que 'pienso cuando escribo'. Cuando redacto un texto, del tipo que sea, reflexiono sobre lo que estoy escribiendo, maduro y cuestiono ideas, estructuro el mensaje. Incluso temas que domino, pasan por ese tamiz de la reflexión, el cuestionamiento y la reestructuración. Y todo ese proceso, aparte de ayudar a generar un mejor resultado, es enormemente enriquecedor para mí mismo, y diría que es también una forma de aprendizaje.

La reflexión, cuestionamiento y reestructuración del contenido es en sí mismo, como decía, un proceso de aprendizaje. Te ayuda a entender mejor, a estructurar mejor y a recordar. Es muy agradable, muy satisfactorio desde el punto de vista intelectual y muy enriquecedor. Te hace mejorar y a la vez te hace disfrutar. Al menos a mí.

Lo anterior aplica sobre todo a la escritura profesional.

En el caso de la escritura literaria, también aplica en buena medida lo anterior, sobre todo la reflexión, pero hay algo más y diferencial, que es la emoción. En el caso de algunos textos de carácter literario (alguno publicado y alguno no), la propia escritura me ha despertado emociones, porque al fin y al cabo escribes sobre cosas que, de alguna manera, te importan. Puede parecer absurdo, pero alguna vez hasta he soltado alguna lagrimita al releer algo que acaba de escribir. Me creo que la inteligencia artificial escriba un texto que te pueda llegar a conmover...pero estoy seguro de que no es lo mismo, en absoluto, que cuando es un texto tuyo, escrito por ti y sobre lo que te importa.

Como he dejado patente, no realizo verdadera creación artística en materia de imagen, vídeo o música. Pero presumo que, algo paralelo a lo que yo experimento al escribir, lo puede vivir un pintor o diseñador gráfico al crear una imagen, un cineasta al crear un corto o un compositor al crear una nueva pieza musical. 

E, incluso, si supusiésemos, y puede llegar a ser cierto, que la inteligencia artificial llegue a generar textos, imágenes, vídeos  y música de calidad, no solo física sino también artística, superior o similar a la humana, sólo por el hecho de experimentar en uno mismo el proceso interior de la creación, valdría la pena no utilizar la inteligencia artificial, o al menos no de vez en cuando, al menos no para aquello que realmente te importa.

Y el proceso exterior

Sólo un apunte final, que ya no hace mención al proceso interior, sino al proceso exterior.

Para el caso de creación de tipo profesional, para documentos, logotipos, presentaciones, vídeos promocionales, tiendo a pensar que al público receptor de la creación, le importe poco si lo ha hecho la inteligencia artificial, una persona o a medias. Tiendo a pensar que lo que vale es el resultado.

Pero ¿y en el caso de la creación puramente artística? ¿Y en el caso en que al autor trasmita experiencia y emociones propias? 

¿Le importaría al lector de una poesía o una novela introspectiva que haya una persona detrás que vivido, sufrido y disfrutado, o quiere sólo el texto? 

Y lo mismo diría de cualquier otra creación puramente artística  ¿Nos importa sólo el producto o también la persona y experiencia que hay detrás?

De la contestación a esas preguntas no estoy seguro. Creo que, probablemente, a muchas personas les dará igual quién sea el autor o autora de la obra, y si es una persona o la inteligencia artificial. Pero también quiero suponer, y supongo realmente, que habrá personas que esperan que haya una persona al otro lado, un escritor para una novela, un poeta para una poesía, un compositor para una melodía.

Conclusiones

La inteligencia artificial es capaz de generar contenidos de una altísima calidad formal y una buena calidad en cuanto a composición. Y pudiera, en esa labor de creación, llegar a sustituir a los humanos.

Sin embargo, en ciertas ocasiones, los humanos bien preparados, creo que pueden generar mejores resultados. 

Y, sobre todo, lo más importante y más allá del resultado, el propio proceso interior asociado a la creación, es tan agradable, tan satisfactorio y tan enriquecedor que aunque sólo sea por experimentarlo, vale la pena no delegar en la inteligencia artificial según qué cosas.

La peligrosa combinación del 'automation blindness' y el 'deskilling' y cómo afrontarla

Una de las preocupaciones que surgen con la inteligencia artificial es, más allá de otras problemáticas éticas como la privacidad, los sesgos o la explicabilidad, cómo  va a afectarnos a nosotros, humanos, en nuestro propio desarrollo, en nuestras propias capacidades cognitivas, a medida que nos entreguemos a ella, que la utilicemos intensivamente tanto en el ámbito laboral como doméstico.

Y creo que, en efecto, existe a la vez un interrogante, porque realmente no estanos seguros, y un riesgo, porque creo que realmente podemos perder cosas valiosas por el camino. 

En este post quisiera mostrar cómo dos aspectos que ya he tratado en otros posts, se podrían combinar de una forma perjudicial y potencialmente peligrosa. Hablo de los así llamados 'automation blindness' y el 'deskilling'.

Veamos.

Recordando el 'automation blindness'

De 'automation blidness' hablé en el post anterior a éste titulado 'Automation blindness o el riesgo para human-in-the-loop'. Este fenómeno, en esencia consiste en que los humanos, cuando están apoyados en sus decisiones por sistemas automatizados, poco a poco se 'van confiando' y pasando de realizar una supervisión efectiva y responsable de las decisiones automatizadas, a confiar ciegamente en ellas eliminando, 'de facto', la supervisión e incluso su autonomía.

Se trata de un fenómeno no específico de la inteligencia artificial pero que se acentúa en sistemas inteligentes, tanto por su potencia, como por actuar en situaciones tradicionalmente reservadas al juicio humano.

Recordando la idea de 'deskilling'

Del 'deskilling' hablé brevemente hace un par de meses en el artículo 'Inteligencia artificial, capacidades y las tres olas hacia el desempleo'.  En este caso, de lo que hablamos es que, dado el efecto sustitutivo que la tecnología tiene respecto a  tareas humanas, a medida que vamos delegando en la tecnología esas tareas, perdemos la capacidad para llevarlas a cabo nosotros mismos, es decir, perdemos capacidades y habilidades. 

Se trata de un fenómeno que tampoco es exclusivo, ni mucho menos, de la inteligencia artificial. Lo que ocurre es que, en el pasado, las habilidades que delegábamos y perdíamos eran de naturaleza más bien manual, pero con la digitalización, y sobre todo con el advenimiento de la inteligencia artificial, estamos, cada vez más, delegando capacidades cognitivas y, eventualmente, perdiendo esas capacidades o al menos en riesgo de perderlas.

Una combinación doblemente peligrosa

Si veo ambos fenómenos, creo que cuando se combinan, y me parece muy fácil que se combinen, nos hallamos ante una situación peligrosa en un doble sentido, un sentido más operativo y práctico, y otro más cognitivo y profundo.

Un peligro operativo

En primer lugar, y desde un punto de vista que voy a denominar operativo, es peligrosa porque se pierde la supervisión real de los sistemas automatizados. Ya no es sólo que tendamos a confiarnos ('automation blindness'), es que podríamos incluso perder la capacidad real para entender y controlar un sistema automatizado ('deskilling'). Dado que, por desgracia, los sistemas automatizados pueden fallar, y más si se pretenden apoyar en inteligencia artificial generativa que, como ya analicé en otros posts, no conduce a comportamientos completamente predecibles ni sujetos a reglas, perder la capacidad de supervisión y control puede llevar a puntualmente a comportamientos del sistema incorrectos y eventualmente catastróficos.

Es cierto que los sistemas automatizados, sobre todos los de misión crítica, tienden a ser muy fiables, incluso con frecuencia mucho más que un humano, pero aún así, perder la capacidad última de decisión y control, me parece operativamente arriesgado.

Un riesgo cognitivo y ético

Pero quizá me preocupa más la segunda vertiente, la que voy a denominar cognitiva. En este caso, tiene mucho que ver con el 'deskilling', es decir, con la pérdida de capacidades cognitivas. Esa pérdida de capacidades cognitivas, por sí misma, me parece un empobrecimiento de la persona pero, además, en a medida que se confía más y más en sistemas automatizados, puede devenir en una menor autonomía, una mayor dependencia.

Es cierto que en el pasado, nos hemos deshecho de capacidades que hemos delegado en máquinas y tecnología, y no parece que nos haya ido mal ni que estemos descontentos. Incluso es posible, sólo posible, que a cambio de ceder algunas capacidades, resultemos potenciados en otras, que desarrollásemos nuevas habilidades. 

Pero, claro, hablamos de capacidades cognitivas, muy esenciales de lo que significa ser humano. Y  no sé si estamos dispuestos a asumir (yo, personalmente, no), esa suerte de degradación cognitiva o el riesgo de un incierto cambio de capacidades cognitivas.

Sin recetas, pero con un planteamiento a corto plazo

La verdad es que creo que nadie puede tener claro lo que va a ocurrir en el futuro, y cómo vamos a evolucionar. Es posible que, al final, los riesgos y peligros no sean tan grandes o, al menos, que sepamos encauzarlos y el resultado final sea bueno. Y como estamos ante un panorama incierto, es difícil saber cuál es el camino adecuado.

Sin embargo, pase lo que pase en el futuro, creo que los riesgos que he mencionado son reales y afectan a temas muy importantes, de seguridad y casi a nuestra propia naturaleza. Así que, si existen riesgos reales, pero tenemos poco clara la visión futura, creo que conviene actuar, al menos a corto plazo. Desde luego, creo que podemos, casi diría que debemos, utilizar, y utilizar mucho, una tecnología tan potente y versátil como es la inteligencia artificial. Pero debemos hacerlo de una forma consciente y responsable, responsable con los demás y con nosotros mismos. 

Y así, creo que cada uno de nosotros deberíamos exigirnos y esforzarnos en la supervisión de aquello que delegamos en la inteligencia artificial, desde grandes automatizaciones corporativas, hasta simples consultas a ChatGPT. Aunque nos cueste, aunque nuestra naturaleza nos impulse a ser cómodos y confiarnos, debemos esforzarnos conscientemente en ejercer el juicio crítico, el control y la autonomía. 

Y, además, deberíamos cuidar nuestras capacidades cognitivas, intentando no sólo no perderlas sino incluso aumentarlas. Y para ello, dado que no vamos a dejar de utilizar la inteligencia artificial, quizá debamos reforzar nuestras capacidades, y hacerlo conscientemente, mediante actividades en paralelo que cuiden y desarrollen esas capacidades: lectura, estudio, actividades artísticas, interacción humana, etc

Es cierto que pongo mucho énfasis en la responsabilidad individual, en el auto-cuidado cognitivo, es cierto que, además, lo que propongo exige acción consciente y puede que esforzada, y es cierto, finalmente, que puede que las cosas cambien, y que en unos años o que las valoremos de una forma diferente, pero ahora mismo, a corto plazo, creo que es lo mejor que podemos hacer... y hacerlo cada uno de nosotros.

Conclusiones

El uso intensivo de las tecnologías, muy en especial la inteligencia artificial, puede conducir, por un lado, a una confianza excesiva en de las decisiones automatizadas y, por otro, a una progresiva degradación de nuestras capacidades cognitivas.

La combinación de ambos fenómenos, creo que es peligrosa tanto desde un punto de vista operativo como humano, cognitivo y casi ético.

Existe mucha incertidumbre sobre el nivel de riesgo real o cómo afrontarlo pero, a corto plazo, lo que creo que debemos hacer es reforzar, conscientemente, nuestra supervisión de los sistemas y, sobre todo, nuestro propio desarrollo cognitivo. 

Automation blindness o el riesgo para human-in-the-loop

Una de las cosas que a veces asusta de la inteligencia artificial y a la que, de alguna manera, se intenta poner coto o controlar, es a la posibilidad de que los algoritmos tomen decisiones de forma automática, sin control humano.

Y por ello, entre otros mecanismos, se propone y se utiliza el denominado 'human-in-the-loop'. Sin embargo, esto también puede tener un riesgo.

Vayamos paso a paso.

Decisiones automatizadas

Nos asusta que una máquina pueda decidir de manera autónoma qué hacer. Y, en cierto sentido, podría parecer paradójico que a estas alturas nos preocupe esa automatización, cuando en muchos ámbitos de nuestra vida ya existe una profunda automatización .

La decisión automatizada existe, por supuesto, en plantas industriales, pero existe también en muchos sistemas de información de los que comúnmente se utilizan en empresas y administraciones. 

Hasta máquinas de uso común, como los coches, tienen muchos elementos automatizados.

¿Por qué nos asuste entonces que decidan algoritmos de inteligencia artificial?

Aventuro que por tres motivos.

Por un lado, por la naturaleza de las decisiones. Ya que la inteligencia artificial automatiza tareas cognitivas, los algoritmos pueden automatizar decisiones tradicionalmente reservadas a humanos (por ejemplo, un diagnóstico médico o la decisión de concesión de un préstamo) y, justificadamente o no, nos resistimos a ceder ese poder.

En segundo lugar, porque con frecuencia no entendemos del todo cómo se toman esas decisiones. La mayor parte de los algoritmos de inteligencia artificial no toma las decisiones conforme a unas reglas claras, sino con base en unos patrones no del todo evidentes... o no evidentes en absoluto.

Quizá añadiría en tercer lugar el hecho de a veces, por suerte con poca o muy poca frecuencia, como no siguen los mismos razonamiento humanos, a veces fallan de forma inesperada y casi absurda, lo que, en alguna situación podría ser, aparte de imprevisible, directamente catastrófico.

Explicabilidad 

Como una forma de eliminar, al menos parcialmente el segundo de los factores, el no saber cómo se toman las decisiones, existe desde hace años el concepto de explicabilidad de la inteligencia artificial (XAI, eXplainable AI) que busca, precisamente, que los algoritmos sí puedan explicar, de forma comprensible por los humanos, cómo toman las decisiones.

Se trata de un tema técnicamente complejo porque los algoritmos más potentes, los que proceden del campo de las redes neuronales y el deep learning, son esencialmente no explicables,

Pero, por sí sola, la explicabilidad, que además no se encuentra plenamente conseguida, no nos elimina el miedo a dejar en manos de un algoritmo una decisión automatizada. Si no hacemos nada más, la explicabilidad nos dice cómo ha decidido el algoritmo, pero lo hace 'a posteriori', una vez que la decisión ha sido tomada y, eventualmente, ejecutadas las acciones que siguen a esa decisión. 

Human-in-the-loop

El mecanismo adicional es el denominado 'human-in-the-loop' que, estrictamente hablando, elimina la automatización.

Se trata, simplemente, de que en último término quien decide es un humano. El algoritmo evalúa la situación y propone una decisión...pero no la aplica automáticamente, sino que la somete a la supervisión de un humano que es quien decide si ejecuta realmente esa decisión o no.

En el fondo, como decía, la decisión ya no es automática aunque sí puede aprovechar la rápida y potente capacidad de análisis del algoritmo. 

El riesgo de confiarse y dejarse ir

El riesgo al que se refiere el título de este artículo, un riesgo si se quiere un poco tonto, pero muy real, e incluso grave, es que el comportamiento humano habitual es que cuando el trabajar con el algoritmos se convierte en algo habitual, rutinario, y cuando, además, el algoritmo demuestra que en la práctica suele proponer cosas acertadas, el humano se confía, deja de analizar con tanto rigor lo que se le propone, deja de aplicar juicio crítico y comienza a aceptar sin más lo que el algoritmo propone.

A efectos teóricos hemos eliminado la automatización (y también algunos de sus beneficios de eficiencia y rapidez) pero, a efectos de control nos hallamos en la misma situación que si el algoritmo estuviese completamente automatizado, con la única diferencia, quizá, de que ahora tengamos un claro responsable ético y legal: el humano que, en teoría, es quien toma la decisión.

Pero el riesgo original de la decisión automatizada no lo eliminamos.

Automation blindness

Es efecto, el confiarse, es un iregso que ya había identificado, apreciado y comentado en diversos medios, pero lo que he descubierto recientemente es que tiene nombre, y ese nombre es 'automation blindness'.

Y lo descubro en el capítulo final, sobre responsabilidad, del libro 'Visualizing Generative AI' de Priyanka Vergadia y Valliappa Lakshmanan. En concreto, los autores lo explican, en el caso de la inteligencia artificia generativa, diciendo

As GenAI becomes better and its errors rarer, human users may fail to even perceive the few errors that remain or are introduced. They become less and less aware of the details and nuances involved.

Y nos cuentan que, en realidad, este término no procede del campo de la inteligencia artificial, sino de la aviación, donde se observó esa confianza en el mecanismo automatizado en el caso de pilotos de avión asistidos por pilotos automáticos.

The term automation blindness comes from aviation, where it describes how pilots become over-reliant on their automated systems, lose their situational awareness, and fail to recognize potential hazards or anomalies.

Un fenómeno confirmado, además, por estudios realizados por la NASA.

Improvisando algunas opciones de mitigación

¿Qué opciones nos quedan antes este fenómeno?

Pues, sinceramente, no creo que haya ninguna solución absoluta ni mágica pero, se me ocurre, un poco a bote pronto:

• Por supuesto, poner aún más énfasis en que los algoritmos tomen la decisión adecuada desde el principio, por si acaso el humano no está muy atento


• Incrementar, hasta donde se pueda, la calidad y simplicidad de las eventuales explicaciones que ofrezca el algoritmo, para simplificar que el humano entienda rápidamente la decisión y sus motivaciones.


• Incluir, de serie, avisos por parte del algoritmo o de la aplicación de los eventuales riesgos e implicaciones de la decisión, visualizar esos avisos de manera muy clara y, si se detecta algún riesgo importante, usar los recurso gráficos y sonoros pertinentes para alertar al decisor humano.


• Incluir mecanismos en las aplicaciones que fuercen al decisor humano a confirmar que toma la decisión conscientemente (por ejemplo, resumiendo muy brevemente en un texto, por qué lo decide). Esto sería ineficiente y algo 'pesado' y, además, no creo que elimine del todo la posibilidad de que el humano actúe sin pensar, pero supongo que sí lo disminuiría.


• Finalmente, y aunque sea triste decirlo, incrementar los 'castigos' en caso de decisión equivocada y no eficazmente supervisada para que, aunque sólo sea por miedo, el humano preste más artención.

Ninguna de las opciones, por supuesto no excluyentes sino todo lo contrario, me parece completamente efectiva y alguna, como las dos últimas, la verdad es que no me gustan demasiado.

Lo cierto es que no veo una forma de eliminar completamente este 'automation blindness' que, en el fondo, es muy humano.

Supongo que sólo queda ser conscientes del mismo e intentar disminuirlo en la medida de lo posible.

Conclusiones

De cara a prevenir que los algoritmos de inteligencia artificial adopten de manera automatizada decisiones que puedan ser equivocadas, dañinas o poco éticas, una de las estrategias es la de su supervisión, y decisión final, por parte de un humano, lo que se conoce como 'human-in-the-loop'.

Sin embargo, esta estrategia se tropieza con algo tan simple como que a los humanos les cuesta mantener la atención y se confían cuando ven que, en general, las decisiones del algoritmo son acertadas, un fenómeno denominado 'automation blindness' y para el cual, por desgracia, no identifico ninguna estrategia definitiva, sólo mecanismos de mitigación.

La sorprendente paradoja del sesgo cognitivo

Con cierta frecuencia, cuando se habla de conocimiento, de pensamiento crítico o simplemente de comportamiento, renegamos un poco de los denominados sesgos cognitivos. Hablamos de ellos como formas de engañarnos sin darnos cuenta, de entender mal las cosas y, quizá, de tomar malas decisiones por ello.

Sin embargo, los sesgos cognitivos tienen una utilidad innegable y, muy paradójicamente, pudieran ser hoy en día más necesarios que nunca.

Suena raro ¿verdad?

Bueno, vamos a razonarlo poco a poco.

Los sesgos cognitivos

Sin entrar en definiciones muy académicas, un sesgo cognitivo es una forma que tenemos los humanos de procesar y entender la información. Una forma de entender, valorar o evaluar la realidad y, sobre todo, la información que de ella recibimos. Pero una forma que simplifica de alguna manera el proceso y, al simplificarlo, comete alguna forma de error o inexactitud, de desvío que es lo que, en el fondo, significa sesgo. 

Existe un amplísimo catálogo de sesgos cognitivos pero, por citar algunos de los más conocidos, de los que se me vienen a la cabeza en este momento, podría mencionar el sesgo de confirmación que hace que prestemos más atención a las informaciones que confirman nuestras creencias que a las que las desmienten, el sesgo de consenso que nos hace percibir que nuestras propias opiniones son mucho más aceptadas y generalizadas en nuestro entorno de lo que realmente son, el sesgo que no recuerdo como se llama pero que voy a denominar anclaje que hace que cuando no tenemos ni idea de un tema o de un valor, tomemos como referencia la primera propuesta que recibimos y ya sólo nos movemos con ligeras variaciones respecto a esa referencia (aviso para navegantes para aquellos que les guste regatear en una compra).

La utilidad de los sesgos cognitivos

Aunque son con frecuencia denostados, los sesgos cognitivos son muy útiles en la mayoría de las situaciones de la vida. En otras etapas de la historia de la humanidad, cuando esa humanidad vivía en condiciones más precarias y peligrosas, más integrado en la naturaleza, han sido un factor determinante de supervivencia. Al fin y al cabo, ante un tigre de bengala o un oso furioso no te puedes pensar muchos las cosas, y tienes que reaccionar.

Como decía, los sesgos cognitivos son simplificaciones en el procesamiento y entendimiento de una situación. Al tratarse de simplificaciones, permiten que el proceso sea muy rápido y que culmine con muy pocos datos. Es decir, es una forma tremendamente eficiente de procesar la información y apoyar una decisión.

Dicho de una forma coloquial, los sesgos cognitivos ayudan a evitar en las situaciones del día a día, la parálisis por el análisis. Ayudan a entender y decidir de manera inmediata y con poco datos.

El problema de los sesgos cognitivos

El problema de los sesgos cognitivos es que, aunque en la mayoría de las situaciones funcionan muy bien, existen otras en que 'nos engañan', nos hacen percibir de manera deformada la realidad y, por tanto, tomar decisiones equivocadas, como aceptar un precio muy por encima del valor real de un producto sólo porque tomamos como referencia lo que nos ofreció el hábil vendedor o, a lo mejor, reafirmarnos en ideas equivocadas porque llevamos al extremo el sesgo de confirmación.

La sobrecarga cognitiva

Aunque el nombre ya empiece a sonar 'viejuno', vivimos cada vez más inmersos en la sociedad de la información. 

Vivimos en un mundo que genera cada vez más y más datos, más y más información, una información que, además, está ahora perfecta y permanentemente accesible a través de los medios digitales. Vivimos en un mundo interconectado en que recibimos más y más estímulos, más informaciones, más noticias, más chistes, más propuestas de venta, más noticias, en una lucha por captar una atención, la nuestra, que es cada vez un bien más escaso y objeto de las apetencias comerciales y competitivas.

Más y más información, pues, y eventos que nos llegan en el fragor de un mundo interconectado, en tiempo real y 'always on'.

Nosotros, y nuestros cerebros, estamos por tanto más y más bombardeados de informaciones y estímulos, estamos sometidos, por tanto, a una alta sobrecarga cognitiva.

Este hecho e lo encontraba reflejado de alguna manera, y esa ha sido la inspiración para este post, en el final del libro 'Influencia. La psicología de la persuasión' de Robert B. Cialdini donde el autor decía:

Todo ello nos conduce a un panorama perturbador: con el sofisticado aparato mental que hemos usado para llegar a ser la especie superior en el mundo, hemos creado un entorno tan complejo, acelerado y cargado de información, que cada vez más tenemos que enfrentarnos a él del mismo modo que los animales a los que superamos hace mucho tiempo.

La paradoja

Y ahí es donde surge la paradoja.

Como estamos sometidos a una altísima carga cognitiva, como tenemos que procesar tanta información y estímulos, necesitamos mecanismos que nos lo hagan fácil, que filtren y simplifiquen. 

Y ¿Qué tenemos para simplificar ese procesamiento?

Pues, los sesgos cognitivos.

Los sesgos cognitivos con toda su eficiencia cognitiva, pero también con sus riesgo de conducirnos al error.

Y ahí tenemos la sorprendente paradoja: hoy en día que tenemos tanta información, hoy en día que somos tan conscientes de la existencia de los sesgos cognitivos, es posible que los necesitemos más que nunca. 

El pensamiento crítico

Necesitamos entonces pensamiento crítico. 

Ya que no tenemos más remedio que procesar rápidamente muchísima información, ya que en el fondo necesitamos aplicar sesgos casi como una forma de supervivencia cognitiva, debemos al menos ser conscientes de ello y gestionarlo. 

Y esa es una parte de las labores del denominado pensamiento crítico.

Eso sí, y adoptando un poco la visión de procesos de negocio, ese pensamiento crítico no puede funcionar 'en serie' con el procesamiento cognitivo normal, no puede ser una barrera, un paso previo o posterior al proceso cognitivo, porque eso sería ineficiente y anularía el valor del sesgo cognitivo.

El pensamiento crítico debe funcionar en paralelo con el proceso cognitivo normal, a modo de sonda, de monitorización de lo que hacemos, para levantar alarmas cuando sea realmente oportuno pero no interferir cuando no es necesario.  

Copilotos cognitivos

Y es posible, aunque aquí ya estoy especulando un poco, que tengamos a nuestro alcance una gran herramienta tecnológica para ayudarnos: los copilotos de la inteligencia artificial generativa, los ChatGPT o Copilot de turno.

Porque estas herramientas son muy fáciles de utilizar y procesan y simplifican cantidades ingentes de conocimiento e información y nos la ponen a disposición de una manera inmediata y muy sencilla y accesible. Constantemente están ahí para ayudarnos a entender, a conocer, a recabar información y obtener ideas.

Sabiendo, eso sí, que éstas herramientas están sujetas a sus propios sesgos, a sus propias desviaciones y errores.

Y el pensamiento crítico, pues, sigue siendo necesario.

Conclusiones

Estamos inmersos en un mucho con sobreabundancia de información y estímulos. Esa sobreabundancia conlleva una enorme sobrecarga cognitiva y, para aliviarla, necesitamos en el fondo utilizar, pese a su ala prensa, los sesgos cognitivos y, quizá, el apoyo de copilotos de inteligencia artificial. 

Y, por encima de todo, a manera de supervisor, el pensamiento crítico.

IA generativa y la ventaja de los expertos y el conocimiento

Cuando vemos los grandes avances de la inteligencia artificial, muy especialmente la generativa, y cuando asombramos con sus grandes avances, su capacidad para sustituir al ser humano en tareas netamente cognitivas, de pensamiento y conocimiento, tareas que hasta hace no tanto pensábamos que eran exclusivas del ser humano, es justo hacerse preguntas, muchas preguntas.

¿El fin del pensamiento humano?

Cabe preguntarse, en efecto si, definitivamente, el conocimiento y capacidad de pensamiento humanos son habilidades en retroceso, si en un futuro ya muy próximo, las máquinas nos sustituirán a la hora de pensar y conocer y no necesitaremos hacerlo nosotros.

Cabe preguntarse si las futuras generaciones sabrán menos, conocerán menos, razonarán menos, porque lo hayan delegado todo en una inteligencia artificial cada vez más potente, más generalista y más accesible.

Incluso cabe preguntarse cómo nos afectará en el corto plazo.

¿El conocimiento o la capacidad de razonar han dejado de ser diferenciales? ¿Han dejado de ser valiosos? ¿Van a desaparecer, incluso?

Una pregunta sin respuesta

Para ser sincero, creo que son preguntas para las que, en el fondo, no tenemos una respuesta completa ni segura al menos a medio y largo plazo.

Pienso que sí, que algo nos afectará, que delegaremos en la inteligencia artificial cada vez más tareas cognitivas o de conocimiento. Que lo haremos de la misma forma que cada vez sabemos menos de un lugar a otro sin la ayuda de Google Maps, Waze o similares. De la misma forma que cada vez recordamos menos números de teléfono. De la misma forma que cada vez más, en lugar de buscar datos o informaciones en libros u otras personas, lo hacemos en un buscador, en un Perplexity o en un ChatGPT en una suerte de externalización de la que ya hablé en el post 'ChatGPT y la externalización de capacidades cognitivas. ¿Debemos preocuparnos?'.

Pero no tengo claro hasta dónde vamos a llegar en ello (calculo que bastante lejos) y, sobre todo, cómo nos va a afectar cognitivamente, a nuestra capacidad de pensar, razonar y recordar. 

Y tampoco tengo cien por cien claro qué debemos hacer en cuanto a educación y en cuanto a desarrollo personal pero, preventivamente, y también por vocación, prefiero seguir cuidando mi cerebro, mi conocimiento y mi capacidad de razonar.

Una luz de esperanza: la ventaja de los expertos

Pero, por si nos asusta la posibilidad de que el conocimiento y el 'expertise' se conviertan en irrelevantes, e incluso que desaparezcan, aquí traigo una pequeña lucecita de esperanza. Una lucecita que me he encontrado leyendo el recientemente publicado libro 'Superagency: What Could Possibly Go Right with Our AI Future' de Reid Hoffman y Greg Beato. 

En él hay un momento en que, hablando del uso de los LLM ('Large Language Models'), los autores mencionan a Ethan Mollick, profesor de Wharton y su post "Latent Expertise: Everyone is in R&D" en substack. Y de él extraen lo siguiente cita:

Experts thus have many advantages. They are better able to see through LLM errors and hallucinations; they are better judges of AI output in their area of interest; they are better able to instruct the AI to do the required job; and they have the opportunity for more trial and error. That lets them unlock the latent expertise within LLMs in ways that others could not.

Lo que Mollick nos dice es que sí, que el conocimiento sigue siendo valioso, que aunque se use un LLM (entiendo que está pensando básicamente en un chatbot basado en LLM), el conocimiento y la pericia de los expertos les permite extraer mucho más valor del LLM y detectar las posibles inconsistencias o alucinaciones de los modelos.

Creo, además, que va mucho más allá que esto va mucho más del mero uso de buenas técnicas de 'prompt engineering', creo que se refiere a conocimiento auténtico, de dominio científico, técnico o de lo que sea.

Una forma sencilla de comprobar esto, es usar una herramienta generativa orientada a imágenes como un Midjourney o un Stable Diffusion, o incluso una orientada a música como Suno. Personalmente he percibido cómo me siento de 'torpe' con estas herramientas, no por el uso en sí, que es casi tan sencillo y accesible como el de cualquier otra. Lo que me falta, en el caso de las imágenes, son conocimientos de arte, de diseño gráfico, de fotografía, de tratamiento de imágenes, de saber describir, de una forma precisa, lo que quiero obtener, casi diría, no sólo describirlo, sino saber qué quiero obtener realmente. Y lo mismo ocurre con la música: carezco de conocimientos musicales suficientes como para describir estilos musicales o técnicas que no conozco. Y por ello, de momento me contento con 'prompts' sencillos o con copiar 'prompts' cuyo resultado me gusta

De la misma forma, parece razonable pensar que, quizá, el 'expertise' es importante en el uso de los modelos de lenguaje.

Lo que no está tan claro es si, como se dice en el lenguaje de la estrategia empresarial, esa ventaja competitiva es sostenible a largo plazo o si sólo es un transitorio mientras la inteligencia artificial avanza más y más.

Conclusiones

La inteligencia artificial, en especial la generativa, desafía nuestro conocimiento y razonamiento y nos hace preguntarnos hasta qué punto ese conocimiento y razonamiento son valiosos y si lo seguirán siendo en el futuro. Y nos hace cuestionarnos sobre qué debemos hacer entonces con nuestra educación y nuestro desarrollo cognitivo.

A corto plazo parece que todavía, el conocimiento, el razonamiento y la experiencia, son cualidades valiosas y diferenciales.

A largo plazo, no lo veo tan claro pero, preventivamente y como opción, prefiero seguir cuidando y desarrollando mi mente, y aconsejaría al lector hacer lo mismo.

Una comparativa entre la cognición humana y los modelos generativos de IA

No es raro, y en el fondo resulta comprensible, que comparemos la inteligencia artificial con la cognición humana.

Y digo que no es raro porque, aunque en esas comparaciones se cae con cierta frecuencia en la fantasía y la especulación algo gratuita, lo cierto es que en el origen y en parte, sólo en parte, en el desarrollo actual de la inteligencia artificial late el interés y el objetivo de emular y mejorar las capacidades cognitivas humanas.

Y en una lectura reciente me he encontrado una comparativa seria entre la cognición humana y la inteligencia artificial y que quiero traer a colación en este post.

 

Las siete diferencias entre cognición humana y modelos generativos 

Se trata de la comparativa que hace al final del libro 'Generative AI with LangChain' su autor, Ben Auffart. Estrictamente hablando, lo que nos presenta son las fortalezas y debilidades fundamentales de los modelos generativos, en su estado actual, frente a esa cognición humana.

El autor presenta esa comparativa a modo de tabla y bastante escueta en cuanto a explicación (realmente sólo unos titulares), pero yo la voy a presentar como 'bullets' y, aunque soy fiel a lo que el autor indica, añadiré algún leve comentario de mi cosecha y me extenderé ligeramente, sólo ligeramente, más. 

Las siete diferencias, o mejor los siete aspectos en que Auffarth se centra para comparar modelos comparativos y cognición humana, son los siguientes:

• Fluidez: los modelos generativos, como fácilmente podemos comprobar, son ya altamente elocuentes pero esa elocuencia y su eventual acierto lo que realmente refleja son patrones lingüísticos identificados durante su entrenamiento. En el caso de la comunicación humana, sin embargo, lo que mas la diferencia de la creada artificialmente es su relevancia contextual y cómo extrae y crea significado a partir de su conocimiento del mundo lo que en cierto modo conecta con el famoso sentido común, del cuál es tan difícil dotar a las máquinas, o de la problemática del 'grounding', el anclaje del significado en la experiencia e interacción con el mundo exterior, que ya hemos mencionado en este blog en más de una ocasión hablando de robótica cognitiva.  


• Conocimiento: en realidad los modelos generativos no tienen un auténtico conocimiento sino que realizan una síntesis estadística sin ese 'grounding' que mencionaba en el punto anterior. Sin embargo, el conocimiento humano se basa en el proceso de aprendizaje, un proceso donde juega un papel muy importante, precisamente, la experiencia. 


• Creatividad: Los modelos generativos exhiben una cierta 'imaginación' pero siempre dentro de los límites de la distribución probabilística adquirida durante el entrenamiento. Sin embargo la creatividad humana, que en el fondo creo que aún no entendemos bien, exhibe una originalidad que parece reflejar la personalidad y el talento individuales.


• Precisión factual: Aunque se trabaja en su mejora, tanto mediante innovaciones algorítmicas y de entrenamiento como por el uso de técnicas de RAG ('Retrieval Augmented Generation') que comentábamos en un post reciente, lo cierto es que los modelos generativos aún producen las famosas 'alucinaciones' (resultados de aparente coherencia superficial pero erróneos, a veces gravemente, en datos o en realidad). Esas alucinaciones suelen ser un reflejo de sesgos o carencias en los datos o proceso de entrenamiento.  Por el contrario, el ser humano tiende a alinearse con la verdad y la realidad física.


• Razonamiento: la lógica de un sistema generativo está atada, de nuevo, a los datos de entrenamiento mientras que un ser humano es capaz de aplicar heurísticas e intuición más allá de la formación y educación (el propio entrenamiento del ser humano) que haya recibido.


• Sesgo: los modelos generativos, en realidad cualquier modelo de machine learning, propaga de forma sistemática los sesgos que existan en sus datos de entrenamiento. Sin embargo, el ser humano, en ocasiones, hay que reconocer que no siempre, es capaz de identificar y corregir esos sesgos.


• Trasparencia: los modelos generativos pueden aportar ciertas 'pistas' sobre su razonamiento, usando técnicas de 'prompt engineering' como el conocido 'chain-of-thought' aunque hay que advertir que pese a que las 'explicaciones' que proporcione el modelo pueden ayudar a entender a un ser humano cómo razonar frente al problema planteado a un modelo, no se corresponden realmente a 'cómo piensa' ese mismo modelo. En el caso de la cognición humana sí que puede aportar explicaciones de la manera real de razonar.

Conclusiones

Está claro que, a pesar de los grandes avances en inteligencia artificial, y los sorprendentes resultados de los dos o tres últimos años en el campo de los modelos generativos, la inteligencia artificial, aunque ya supera al ser humano en no pocos aspectos, aún está lejos de igualar, al menos de manera general, la cognición humana y existen numerosos aspectos en que la cognición humana es diferente, y en general superior, a la que exhibe la inteligencia artificial.

Apalancamiento cognitivo

En algunas ocasiones, y creo que en algunos de mis medios sociales, incluyendo este blog, he comentado cómo el uso de la tecnología supone una de externalización. En este post desarrollaré brevemente otro aspecto, que me suena también haber comentado en alguna ocasión, pero al que quiero volver: el apalancamiento.

La tecnología como externalización  

En efecto, lo que con esto quiero decir es que mediante la tecnología, y mediante la automatización que con ella conseguimos, en cierto sentido externalizamos trabajos o tareas que, de otra forma, realizaríamos nosotros. Y las 'externalizamos' en la tecnología, normalmente porque la tecnología hace esa tarea mejor que nosotros (cuando, por ejemplo, usamos una calculadora o una hoja excel para hacer cálculos, o utilizamos una retro-excavadora para cavar porque tiene mucha más fuerza que nosotros) o, simplemente, porque son tareas que no nos gusta hacer.

Aunque considero que esta idea de externalización es bastante clara, y hasta poco discutible, hasta ahora, me parece, era una expresión que sólo me había oído utilizar a mí mismo. Sin embargo, y eso es lo que me ha animado a escribir este post, me la he encontrado recientemente, exactamente con la misma palabra, externalización, leyendo el libro  'Introduction to digital humanism' y, en concreto, en el capítulo 'The re-enchanted universe of AI: the place for human agency' firmado por Helga Nowotny. 

En un punto de este capítulo se afirma que:

The historical growth of new human knowledge  can be interpreted as a sequence of major transitions in externalizing knowledge operations, processing an application, storage, dissemination, communication and repurposing of knowledge which in various configurations generate new knowledge.

En un webinar ofrecido recientemente por CitizenD Social & Tech Lab y en el que tuve el placer de participar, comenté durante mi ponencia, y en un una tipología algo improvisada, tres formas básicas que históricamente había adoptado esa externalización:

• Externalización de tareas que requieren fuerza y destreza, que se ha hecho desde la prehistoria pero que, seguramente, explota con la revolución industrial y que, seguramente, adquiere su máxima expresión precisamente en los entornos industriales aunque realmente permea por toda nuestra actividad incluyendo cosas tan simples como el uso de unos meros alicates


• Externalización de tareas mentales de cálculo y memoria, que se produce fundamentalmente por la llegada de lo digital y potenciada por la explosión de internet y la nube, con su capacidad para procesar y almacenar información, con mayor capacidad, volumen y exactitud de lo que podemos hacer los humanos


• Externalización de tareas cognitivas incluyendo la creatividad, debida al auge de la inteligencia artificial en general y de la generativa en particular.

Esta externalización la hacemos, evidentemente, porque en conjunto nos beneficia, aunque, especialmente esta última externalización, la cognitiva y creativa, nos hace dudar y preguntarnos hasta dónde debemos llegar con esa externalización y, sobre todo, cuál es el lugar de las personas en este escenario y cómo podemos mantener y fomentar nuestras capacidades mas valiosas.

Apalancamiento

Sin embargo, en este post voy a aparcar esa cuestión ética y filosófica, que por lo demás me interesa muchísimo, para centrarme en algo más positivo: el apalancamiento.

El apalancamiento ('leverage') hace mención, en el entorno empresarial y de los negocios, al uso de recursos externos para potenciar tu negocio. Dos son los apalancamientos 'clásicos', a saber:

• Apalancamiento operativo: Una empresa se apoya en recursos operativos de terceros. Por decirlo de una manera mucho más familiar y comprensible: una empresa subcontrata trabajos a otra. Con esto, la empresa principal consigue, por un lado, eventualmente mayores capacidades y menores costes de los que ella puede conseguir por sí misma pero, sobre todo, cuando hablamos de apalancamiento, ser capaz de acometer más trabajos, que de otra forma no podría por no tener recursos suficientes o los recursos adecuados. Es decir, esa subcontratación, potencia el propio negocio de la empresa que subcontrata.


• Apalancamiento financiero: Uso de recursos financieros externos. Existen muchísimos tipos de mecanismos de financiación pero, simplificando muchísimo y para entendernos, hablaríamos, por ejemplo, de un préstamo. Con ello, la empresa consigue recursos financieros adicionales que le permiten acometer grandes inversiones que, de otra manera, le estarían vedadas. En el ámbito privado suelo poner el ejemplo de los préstamos hipotecarios: muy pocas personas serían capaces de comprarse una casa si no se pudiera disponer de préstamos hipotecarios. Es decir, los ciudadanos nos apalancamos en los bancos para poder acometer proyectos como la compra de una vivienda. De igual manera las empresas se apalancan en todo tipo de recursos financieros para poder acometer proyectos e inversiones de otra manera inviables. Vemos que, de nuevo, el apalancamiento, y de ahí su nombre, apoya y potencia las capacidades y posibilidades de la empresa o individuo.

En ambos casos, por cierto, vemos que el apalancamiento se consigue mediante una externalización de capacidades, operativas o financieras, en otra entidad.

Y lo he comentado sobre todo en ámbito de la empresa porque esos términos de apalancamiento se utilizan en esos contextos profesionales pero, evidentemente, y como se puede ver con el ejemplo de la hipoteca, también los humanos individuales o las familias nos apalancamos operativa y, sobre todo, financieramente.

Tecnología y apalancamiento

Y la tecnología, en el fondo, es una forma de apalancamiento.

Mediante la externalización de tareas en máquinas, conseguimos más fuerza, más velocidad, más exactitud, más capacidad de cálculo, más capacidad de gestionar grandes volúmenes de información, más capacidad, en fin, para hacer todo tipo de cosas, más resultados.

La tecnología nos hace ir a más y progresar. Y eso es buenísimo, y es su objetivo principal.

Eso es el apalancamiento, que nace de la externalización, en este caso en la tecnología.

Eso si, en la medida que nos acostumbramos a externalizar en máquinas las tareas, los humanos nos vamos desentendiendo un poco de ellas o, más bien, dejamos de cultivar nuestra capacidad para acometer esas tareas nosotros mismos, nos vamos, en cierto sentido, en algunos casos literal, atrofiando.

Apalancamiento cognitivo

Y ocurre es que, con las tecnologías que utilizábamos hasta mediado el siglo XX, sobre todo externalizábamos tareas de naturaleza física: externalizábamos, sobre todo, fuerza y habilidad. Y, a lo mejor, no nos importaba demasiado, ser un poco menos fuertes, ser un poco menos hábiles, porque ya no nos ocupábamos de tareas que no requerían de esa fuerza o esa habilidad.

También hay mecanismos compensatorios. Muy particularmente, en lo que tiene que ver con la fuerza, el auge de la práctica deportiva puede actuar como mecanismo equilibrante de eso que hemos externalizado.

Pero, lo que ahora nos ocupa, es que con el auge de lo digital y de la inteligencia artificial, particularmente la generativa, lo que estamos externalizando son capacidades cognitivas, algunas relacionadas con la percepción (visión artificial, reconocimiento de voz), pero otras relacionadas con el razonamiento, la decisión e, incluso, la creatividad. Estamos haciendo un apalancamiento cognitivo.

Como con todos los apalancamientos, obtenemos un retorno en forma de capacidades aumentadas, y eso es fantástico, pero con un riesgo de 'atrofia' de nuestras capacidades cognitivas propias.

Y tenemos que ver si estamos dispuestos a pagar ese precio y, si no, cómo lo compensamos.

A bote pronto, recomiendo lectura, estudio, reflexión, conversaciones, debate y pensamiento crítico.

Conclusiones

El uso de la tecnología supone una forma de externalización de tareas en máquinas. Eso supone un apalancamiento, es decir, una potenciación de nuestras capacidades. Y eso es bueno, muy bueno.

Pero también supone el riesgo de atrofia de las capacidades propias.

Y con el auge de la inteligencia artificial lo que estamos delegando, a cambio de esa potenciación, son capacidades cognitivas.

¿Qué vamos a hacer para que eso no suponga una merma de nuestras propias capacidades?