La inteligencia artificial contada a los humanos por Jordi Torres

En 'La inteligencia artificial explicada a los humanos', Jordi Torres, un especialista en la materia, aborda el reto de explicar de forma sencilla y asequible la inteligencia artificial, conjugando los principales elementos conceptuales con su desarrolo histórico.

El libro, no muy extenso, se estructura en ocho capítulos:

• '1. ¿Está la IA desplazando la IA al ser humano?:' primero constata la casi omnipresencia actual de la inteligencia artificial para, a continuación, pasar a explicar qué podemos entender por inteligencia artificial, cuatro paradigmas existentes (conocimiento, datos, experiencia y fuerza bruta) y acabar mencionando la problemática de la singularidad.


• '2. ¿Cómo se creó la primera IA?:' habla del concepto de máquinas inteligentes, menciona a algunos pioneros como Alan Turing o John McCarthy, cuenta el hito de la derrota de Gary Kasparov a manos de DeepBlue y explica la inteligencia artificial simbólica y basada en el conocimiento.


• '3. ¿Cómo una IA empezó a aprender de los humanos?:' introduce ya la inteligencia artificial basada en datos, identifica y explica lo que considera los tres pilares de la inteligencia artificial, a saber, datos, algoritmos y computación, mencionando ya las redes neuronales y contando un nuevo hito, a saber, la victoria de AlphaGo.


• '4. ¿Cómo una IA consiguió aprender por sí misma?:' nos habla del aprendizaje por refuerzo ('reinforcement learning') y nos habla de experiencias como AlphaZero o AlphaFold.


• '5. ¿Cómo una IA ha conseguido ser creativa?:' pasa a explicar la inteligencia artificial generativa y llega, claro, a los modelos GPT, el trabajo de OpenAI y ChatGPT.


• '6. ¿Podrá una IA llegar a pensar?:' un capítulo algo más especulativo, que comienza haciendo ver la falta de sentido común en la inteligencia artificial y la necesidad de nuevos enfoques para conseguir un verdadero pensamiento, destacando, además, el papel de la supercomputación.


• '7. ¿Nos debe preocupar el impacto de la IA actual?:' una mirada de carácter ya más ético, que primero explica cómo la mayoría de soluciones de inteligencia artificial actúan como 'cajas negras' y se detiene luego tanto en los aspectos éticos como en el impacto social.


• '8. ¿Podemos prescindir de la IA?:' reconoce que la inteligencia artificial está aquí para quedarse, pero identifica como una oportunidad la coevolución humana con la inteligencia artificial, aboga por una regulación de la inteligencia artificial y clama porque Europa recupere una cierta posición de soberanía y liderazgo, identificando como soporte para ello las capacidades existentes de supercomputación.

'La inteligencia artificial explicada a los humanos' es un libro de carácter claramente divulgativo: breve, muy fácil de leer y sin ninguna complejidad técnica. Un libro sobre todo orientado a personas legas en la materia y que deseen un acercamiento inteligible. Pero, para los técnicos o ya conocedores de esta tecnología, puede darles perspectiva, sobre todo histórica pero también basada la claridad de pensamiento y expositiva y, en último término, el regalo de leer un libro agradable que trata de una tecnología moderna y apasionante.

Jordi Torres

(Fuente: Adaptación de la biografía en su página oficial)

Jordi Torres

Estudió Informática en la Facultat d’Informàtica de Barcelona de la Universitat Politècnica de Catalunya (UPC Barcelona Tech, 1988). Posteriormente realizó el doctorado en la misma UPC (siendo merecedor del premio a la mejor tesis de Informática de la UPC en el año 1993). Actualmente, es catedrático a tiempo completo en el Departamento de Arquitectura de Computadores de la UPC. Además, ha estado en el Center for Supercomputing Research & Development en Urbana-Champaign (Illinois, EE. UU., 1992) como investigador visitante.

Ha participado en más de 180 publicaciones de investigación en revistas, conferencias y capítulos de libros y colaborado en numerosa conferencias de las asociaciones IEEE y ACM siendo miembro del Comité de Programa en más de 50 de estas además de ocupar, en varias de ellas, cargos como Poster Chair, Program Chair, Publicity Chair, Steering Committee. También ha sido revisor de revistas relevantes en el área como IEEE Transactions on Computers, IEEE Transactions on Parallel and Distributed Systems, Concurrency, and Computation-Practice and Experience, Journal of Parallel and Distributed Computing, International Journal of Autonomic Computing, entre otras.

En 2005 se fundó el Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC) siendo nombrado responsable de la línea de investigaciónAutonomic Systems and eBusiness Platforms dentro del departamento de Computer Sciencedel BSC. Este grupo de investigación generó más de 120 artículos de investigación y 11 tesis doctorales, así como componentes de software que se pueden aplicar a nivel de middleware de los sistemas informáticos para mejorar su adaptabilidad, eficiencia y productividad. El grupo de investigación centró su trabajo de investigación en los middleware de plataformas de ejecución de supercomputación compuestas por sistemas de múltiples cores de alta productividad con aceleradores y arquitecturas de almacenamiento avanzadas e implementadas en entornos distribuidos a gran escala. El grupo creció hasta llegar a 30 personas y fue el momento de reorganizar el grupo en nuevos grupos dentro del departamento de Computer Scienceen BSC. Ahora tengo el encargo de explorar nuevas oportunidades para aplicar la tecnología de Supercomputación al campo de la Inteligencia Artificial. Así se ha creado el nuevo grupo de investigación Emerging Technologies for Artificial Intelligence el cual dirige.

su actividad actual en esta área se reparte en diferentes frentes, destacando los trabajos incluidos en el convenio CaixaBank-BSC, que aplica la computación cognitiva al sector bancario. A lo largo de estos años con su grupo de investigación ha participado en una veintena de proyectos en convocatorias competitivas, y muchos de ellos implicaron transferencia de tecnología entre la universidad y la industria. El grupo de investigación también ha participado en Redes de Excelencia como la European Network of Excellence on High Performance and Embedded Architecture and Compilation(HiPEAC), la Partnership for Advanced Computing in Europe(PRACE) o la European Technology Platform for High-Performance Computing(ETP4HPC).

Ha estado dando clases durante más de 30 años en temas fundamentales de la informática como son los sistemas operativos, arquitectura de computadores, redes informáticas o evaluación del rendimiento de sistemas. Actualmente imparte asignaturas en el máster de Ingeniería Informática (máster MEI) y en el de Innovación e Investigación en Informática (master MIRI) acerca de temas relacionados con Cloud Computing, Big Data, Inteligencia Artificial o Deep Learning. En la actualidad también está colaborando con otras entidades como la UPC School of Professional & Executive Developmento ESADE. En el pasado fué miembro de la Cátedra Telefónica-UPC durante varios años donde trabajó en innovación docente.

Una porción de su tiempo tiene un rol consultivo y estratégico con tareas visionarias relacionadas con la tecnología de próxima generación y su impacto. Actualmente es miembro del consejo de administración de la empresa iThinkUPC actuando además de asesor en el departamento de Analítica de datos. Durante muchos años ha actuado como experto en estos temas para diversas organizaciones, empresas y ayudando a emprendedores. Ha sido miembro del consejo de administración de UPCnet (2011-2013), miembro del consejo asesor en el Centro de Excelencia de Big Data de Barcelona (2015-2016) y miembro del BSC Access Committee core team, entre otros. Ha participado como experto independiente por la European Commission(Information Society and Media Directorate) en 2010, para Friends of Europe’s Greening Europe Forum en2011, y para la Swiss Academy of Engineering Science durante 2012-2013. Actúa periódicamente como evaluador para el Ministerio de Ciencia y Tecnología de España, para la Dirección General de Investigación de la comunidad de Madrid, para la Universitat Jaume I de Castelló, para el Departament d’Universitat i Recerca de la Generalitat de Catalunya, para la Fundación La Caixa, o la Ireland science Foundation, entre otras instituciones. En el 2010 fué elegido por la Fundació Centre Tècnològic de Catalunya como miembro del equipo de expertos para elaborar el libro blanco La contribución de las TIC a la transición a un modelo energético más sostenible y en 2012 la Comisión Europea le invitó a contribuir en la agenda de la Second Digital Assembly.

Está comprometido con la divulgación de la ciencia y la técnica para llevarla fuera de las aulas universitarias al público en general. Por ello colabora con diversos medios de comunicación, radio y televisión desde hace años. En paralelo ha realizado numerosas conferencias para todo tipo de audiencias. También ha publicado varios libros acerca de ciencia y tecnología para un público general.

Antes de crearse el Barcelona Supercomputing Center, fué miembro del Centro Europeo de Paralelismo de Barcelona (CEPBA) (1994-2004) y miembro del board of managers del CEPBA-IBM Research Institute(CIRI) (2000- 2004). Ha sido Vicedecano de Relaciones Institucionales en la Facultat d’Informàtica de Barcelona (1998-2001). También ha sido miembro del Claustro de UPC varias épocas y miembro de la Junta de gobierno (2011-2013) participando activamente en varias de sus comisiones. Durante 30 años ha participado en numerosas actividades de gestión académica y representación institucional de la UPC.

Durante su carrera académica ha recibido algunos reconocimientos. Recientemente el Best Paper Award del workshop DeepVision en CVPR 2019 por el trabajo de nuestra doctorando Míriam Bellver. La “Menció FIBER” en el 2015 en el Camp del Barça, concedido por la mejor asociación de Alumni de la FIB. También tiene reconocidos 4 “tramos de investigación” por la “Comisión Nacional Evaluadora de la Actividad Investigadora”. Premio a la mejor tesis de informática de la UPC del curso 1993-94. Accésit al 1er Concurso de ideas medioambientales de la UPC (1998) concedido juntamente con Josep R. Herrero. Premio OLIVETTI-UPC en forma de beca (1992) o una beca de doctorado de la UPC (1991).

Es miembro de diferentes asociaciones como IEEE, ACM o ISOC. Es uno de los organizadores del Barcelona Spark Meetup y el Barcelona Data Science and Machine Learning Meetup.

Puedes conocer más del autor visitando su página oficial, su perfil en LinkedIn o siguiéndole en Twitter donde se identifica como @JordiTorresAI.

  

Ficha técnica:

TITULO: La inteligencia artificial explicada a los humanos

AUTOR: Jordi Torres

EDITORIAL: Plataforma editorial

AÑO: 2023 

ISBN: 978-8419655561

PAGINAS: 136

Sobre la idea de cyborg

Un concepto, quizá en nuestra mente más asociado al mundo de la ciencia ficción que a la realidad, es el de cyborg, una especie de fusión entre el ser humano y la máquina.

Y, sin embargo, no se trata completamente de un concepto fantasioso (al menos no cuando no se lleva hasta sus últimas consecuencias), sino que existen ya realidades.

Puede que todos seamos un poco cyborg

En realidad, si lo pensamos bien, vivimos, y ya desde la antigüedad, en una creciente 'cyborgización', en una mayor participación de la tecnología en nuestro bienestar y en nuestro propio ser.

Aunque sea un nivel de tecnología muy básico y como ejemplo, cuando para arreglar una fractura grave, se unen las partes del hueso con una placa que queda en el interior, hemos incorporado a nuestro cuerpo un elemento tecnológico, muy básico si se quiere, pero real.

Cuando para arreglar una miopía o unas cataratas nos implantamos lentes intraoculares, estamos incorporando tecnología y elementos artificiales a nuestro propio cuerpo que arreglan desperfectos pero que a veces también potencian nuestras capacidades. Aunque mucho más primitivo y 'de quita y pon' las propias gafas son una forma de incorporación de tecnología al cuerpo.

Algo parecido podemos decir de un marcapasos, de una bomba de insulina, de un implante coclear o de extremidades robóticas para amputados, por mencionar algunas.

Así que, aunque la idea de cyborg nos pueda resultar ajena, extraña e incluso repulsiva, parece que de forma creciente nos introducimos en ella, nos convertimos todos un poco en cyborg y dado que nos ayuda a resolver problemas, no la percibimos como nada malo, como nada cuestionable.

El cyborg extremo

Claro, lo que pasa es que al hablar de cyborg, en el fondo, estamos pensando en formas digamos extremas de cyborg. Un cyborg en que las capacidades artificiales que se incorporan tienden no tanto al arreglo de deficiencias como al aumento de capacidades físicas, perceptuales o cognitivas, un cyborg en que la fusión es mucho más profunda y no meramente anecdótica.

Especialmente en las formas aún fantásticas (sin realización real, al menos actual) de cyborg, en que se puedan aumentar las capacidades intelectuales (mediante alguna forma de fusión con la inteligencia artificial) o de memoria (mediante alguna forma de fusión con la computación en la nube), de telekinesis o telepatía (probablemente mediante algún tipo de fusión con neurotecnología), la multiplicación de nuestra fuerza física (mediante alguna forma de fusión con exoesqueletos o extensiones robóticas) nos sorprenden, nos desafían, nos asustan...y puede que con razón. 

El concepto de cyborg de Donna Haraway

¿Qué es un cyborg en realidad?

Donna Haraway

Bueno, cada uno puede tener su opinión y la evolución tanto tecnológica como social nos conducirá a un sitio u otro, pero quería revisar muy brevemente un concepto primigenio de cyborg, el expuesto por Donna Haraway en su famoso 'A Cyborg manifesto' y que atrae mi atención al encontrarlo mencionado en el libro 'Person, Thing, Robot: A Moral and Legal Ontology for the 21st Century and Beyond' de David Gunkel, un manifiesto que descubro tiene más que ver, quizá, con una visión del feminismo e incluso con una revisión filosófica de corrientes como el marxismo o el existencialismo, temas en los que no voy a entrar.

Pero con lo que me quedo es sólo con la idea que resume Gunkel acerca de que la visión de Haraway de un cyborg, no se queda sólo en esa idea de la fusión de humano máquina sino que, de alguna forma  lo extiende para reforzar la idea es que lo importante es romper distinciones binarias, en este caso entre orgánico e inorgánico o lo natural de lo tecnológico.

Implicaciones y transhumanismo

No voy a analizarlo, pero sí quisiera mencionar cómo una visión extrema, o al menos avanzada de cyborg, que tiende a conducirnos a visiones transhumanistas de 'superación' de lo meramente humano, tiene implicaciones muy serias, de tipo ético y social (por ejemplo, un forma nueva de brecha entre humanos aumentados y no aumentados y entre clases pudientes y no pudientes) o incluso filosófico profundo (la verdadera naturaleza humana).

Conclusiones

Probablemente, la ídea de cyborg, aparte de retos tecnológicos muy interesantes, plantea, y en realidad esto es mucho más importante, profundos desafíos éticos y morales, muchas preguntas a las que es muy difícil contestar ahora mismo y que creo que lo iremos haciendo poco a poco a medida que los avances tecnológicos vayan haciendo más y más factible formas más complejas (prefiero no utilizar el término 'avanzadas') de cyborg y por tanto las posibilidades cyborg sean más tangibles, más reales. La reflexión sobre todo ello, desde luego, daría para muchísimo más que un post.

Recordemos, no obstante, que ya todos hoy en día somos un poco cyborg y, más bien, se trata de saber hasta dónde será posible llegar y hasta dónde estaremos dispuestos a llevar esa fusión con la tecnología.

Responsabilidad de las máquinas y el Mago de Oz

¿De quién es la responsabilidad de lo que hacen las máquinas? 

Se trata de un problema aún sin resolver completamente y que se puede ir haciendo más complejo a medida que las máquinas cobran mayor inteligencia y, sobre todo, mayor autonomía.

El debate está abierto y, quizá, el Mago de Oz ofrezca una metáfora sobre su solución.

Veamos. 

El mago de Oz: la película

'El mago de Oz' es la bien conocida y ya muy antigua película, que por cierto no he visto, lanzada en 1939 y basada en el libro 'El maravilloso mago de Oz' de Frank L. Baum. No creo que importe mucho a estas alturas hacer un pequeño 'spoiler' recordando que en esa película, donde la protagonista Dorothy es llevada por un tornado al mágico mundo de Oz, uno de los habitantes de ese mundo de ensueño es un mago que, al final, resulta ser ficticio, en realidad un humano que realiza trucos de ilusionismo. 

Y eso da lugar a la popular metáfora en algunos ámbitos del 'mago de Oz'.

El Mago de OZ como Producto Mínimo Viable 

El término Mago de Oz se ha hecho, en efecto, más o menos popular para significar, de alguna manera, situaciones en que una realidad más o menos autónoma, automática, o mágica, es manejada por detrás por humanos de una manera mucho más manual y menos mágica de lo que parece.

Así, en el mundo de la innovación y el emprendimiento, y específicamente en el caso de una metodología como Lean Startup, el 'Mago de Oz' es una forma de producto mínimo viable (un producto incompleto en sus capacidades o características pero suficiente par ponerlo en manos de clientes obteniendo de esta manera 'feedback' sobre el mismo), quizá no el más mínimo todo hay que decirlo, en que un 'front-office' que aparenta un producto o servicio terminado y más o menos automatizado o al menos optimizado, es en realidad, en 'back-office' manejado de una forma bastante manual y artesanal.

Esta forma de operar permite ofrecer una apariencia de producto o servicio terminado, sin la necesidad de invertir en todo el desarrollo e implantación del back-office.

Eso si, no parece que permita una operación a gran escala. 

La responsabilidad sobre sistemas inteligentes autónomos

Cuando se habla de agentes inteligentes autónomos, como puedan ser robots avanzados o vehículos autónomos, una cuestión que aúna lo ético con lo legal es quién es responsable de un eventual mal funcionamiento, de un fallo, de un daño a terceros.

Desde un punto de vista ético, en su vertiente más filosófica, eso nos lleva a una reflexión sobre la agencia moral, sobre si un ente artificial puede ser considerado como un agente moral, es decir, puede hacerse responsable de sus acciones y puede discernir de alguna manera el bien del mal.

Desde un punto de vista más práctico, que nos acerca a lo legal, esto nos lleva más bien a quién puede ser culpable (y eventualmente condenado) por un daño realizado por estos agentes artificiales y quién debería, eventualmente, pagar indemnizaciones.

No hay una doctrina clara al respecto, y las especulaciones sobre una eventual 'personalidad electrónica', podrían llevar a alguna forma de 'culpabilidad' del agente artificial. 

Sin embargo, pensando de manera práctica y en un terreno sobre todo legal, no parece que tenga demasiado sentido castigar a un robot. ¿Le importaría mucho a un robot estar encarcelado? ¿Pagar una multa? ¿Y, como, por cierto, pagaría la multa ese robot? ¿No la pagaría, más bien, su dueño, o fabricante, por ejemplo?

El Mago de Oz de la responsabilidad

Las consideraciones anteriores parecen apuntar en el sentido de que, al menos por el momento, y desde un punto de vista práctico, la responsabilidad ha de estar en las personas, aunque pueda existir debate legal sobre qué personas en concreto (dueños, fabricantes, diseñadores...).

Sin embargo, y volviendo al terreno más filosófico, hay quien piensa que el atribuir la responsabilidad a personas, en lugar de al robot o ente artificial, no se trata solo un tema práctico, sino un principio firme y de naturaleza ética, no legal.

En el libro 'Person, Thing, Robot: A Moral and Legal Ontology for the 21st Century and Beyond' de David Gunkel éste nos hacer ver alguna posición en ese sentido que afirma que siempre habrá, al final, un humano como responsable y, en ese sentido, nos dice:

According to this way of thinking, all artifacts, no matter how sophisticated or interactive they appear to be, are actually a Wizard of Oz technology.

lo cual resulta una bonita metáfora en que, también a efectos de responsabilidad y no solo de innovación, podemos estar hablando de un mago de Oz, un mago de Oz de la responsabilidad en que, a pesar de la apariencia de agencia moral y por tanto responsabilidad que pueda ofrecer el ente artificial, desde un punto de vista moral está 'operado' por detrás por humanos y es responsabilidad, por tanto, de los humanos. 

Y al contrario de lo que sucedía en innovación, en este caso no se trata de una estrategia temporal, sino de algo profundo y esencial.

Conclusiones

Al menos a corto plazo, y al menos desde un punto de vista práctico, parece que la responsabilidad sobre lo que hacen las máquinas, recae en último término sobre humanos, aunque pueda aún estar poco claro en algunos casos sobre qué humano concretamente.

Pero hay corrientes de pensamiento que entienden que no se trata sólo de una opción práctica y de corto plazo sino que, desde un punto de vista ético y esencial, las responsabilidad debe ser siempre en último término humana y que, en ese sentido, en el de la responsabilidad, la tecnología inteligente y autónoma es solo un caso más de Mago de Oz.

 

Cuatro áreas de trabajo en consciencia artificial

Como ya hemos comentado con cierta frecuencia en este blog, existen esfuerzos científicos y técnicos, para entender la consciencia humana, para conseguir modelos implementables en máquinas y, en último término, alcanzar la denominada consciencia artificial. 

Esos esfuerzos han dado lugar a diversas teorías, modelos e implementaciones.

Cuatro áreas para la consciencia artificial

En libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella y en concreto, en el capítulo titulado 'Intelligence and consciousness in natural and artificial intelligence', David Gamez, intenta clasificar los tipos de soluciones, los tipos de máquinas en que se trabaja en este campo.

Y esta es la clasificación que nos propone:

• MC1 - Máquinas con comportamiento externo que sistemas conscientes: De la misma forma que los humanos se comportan de cierta forma cuando están conscientes (alerta ante situaciones nuevas o ejecución de pasos de resolución de problemas), se pueden conseguir máquinas que exhiban ese tipo de comportamientos. El autor cita en concreto Watson cuando está jugando a Jeopardy. Se trata, como se puede ver, de una solución realizable, y realizada, ya hoy en día y desde hace un cierto tiempo.


• MC2 - Modelos de correlatos de la consciencia: Es decir, modelado en máquinas de los modelos funcionalmente equivalentes a los existentes para la actividad funcional y neuronal humana. Un caso propuesto por el autor son las implementaciones de la Global Workspace Theory que ya mencionamos en el post 'Teorías para la consciencia (II): Global Workspace Theory'. De nuevo, son un tipo de soluciones perfectamente alcanzables hoy día, aunque hago notar que realmente estamos trabajando con modelos sin verdadera seguridad de que la consciencia humana funcione de la forma que postulan esos modelos.


• MC3 - Modelos de la consciencia: Las experiencias conscientes se pueden modelar en ordenadores e, incluso, usarse para controlar robots, como ha hecho, por ejemplo, el editor del libro, Antonio Chella para controlar a un guía-robot. Por tercera vez, vemos que es algo conseguible e implementable, pero de nuevo avisaría de que no dejan de ser modelos hipotéticos aunque puedan resultar funcionales como parece haber demostrado Chella en el ejemplo citado.


• MC4 - Máquinas que experimentan estados conscientes: Nos dice el autor que cuando los humanos estamos conscientes estamos algo así como inmersos en una burbuja en que experimentamos colores, olores, sonidos, etc. Este área de máquinas significaría conseguir en ellas una experiencia similar. Reconoce Gamez que este área no está realmente conseguida y nos dice que para hacerlo deberíamos ser capaces de mapear de una forma fiable, los estados físicos y los conscientes. Lo mejor es que afirma, sin ambages, y creo que con mucha honradez, que 'no tenemos ni idea de si nuestras máquinas son conscientes en el modo MC4'.

No deja de hacernos notar Gamez que éstas áreas, no son compartimentos estancos y que realmente existen solapes entre ellas.

Un problema sin resolver

Aunque los trabajos, modelos y autores que se mencionan, son serios, científicos y rigurosos, creo que realmente estamos lejos de resolver el problema de la consciencia humana, volviéndose a demostrar que conseguirla es un objetivo elusivo.

Sin duda podemos conseguir, y conseguimos de hecho, comportamientos externos que simulan inteligencia y consciencia. Y los novedosos modelos generativos de la Inteligencia Artificial, parecen un gran salto en este sentido.

Pero seguimos sin conocer realmente la naturaleza profunda de la consciencia, más allá de nuestra experiencia individual y menos aún conocemos los mecanismos fisiológicos, neuronales, computacionales o lo que sea, que la genera y opera.

Por ello, aunque podemos lograr comportamientos externos y modelos funcionales implementables, creo que estamos lejos de conseguir la consciencia de la máquinas aunque, estrictamente hablando, desde un punto de vista más teórico que real, y como nos dice Gamez en el último caso, en el fondo no tenemos ni idea de si nuestras máquinas son conscientes o no.

¿Cómo podemos saberlo?

Conclusiones

La consciencia artificial sigue siendo un problema elusivo y que creo que estamos lejos de resolver. Incluso el solo hecho de demostrar la consciencia en un plano que no sea la mera experiencia individual es complejo en sí mismo.

Cuatro hipótesis sobre la inteligencia natural y artificial

Hablamos de inteligencia artificial, y hacemos bien, porque es una de las tecnologías más transformadoras y dinámicas con que contamos en la actualidad.

Y decimos que, de alguna manera, la inteligencia artificial está inspirada en la inteligencia humana, y hacemos bien, porque así es, esa inspiración ha existido y existe, pero siempre con la salvedad o la advertencia de que no pensemos que la inspiración implica, necesariamente emulación, ni siquiera aspiración a suplantarla.

Y, sin embargo, como tantos conceptos alrededor de la inteligencia artificial y la robótica, la idea misma de inteligencia se encuentra algo difuminada, difícil de definir y de entender íntimamente, por más que nuestra experiencia diaria nos haga muy sencillo entenderla, digamos, 'experiencialmente'.

Leyendo el libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella me encuentro, en el capítulo 'Intelligence and consciousness in natural and artificial intelligence'' firmado por David Gamez, del departamento de Computer Science de la Middlesex University, un enunciado de cuatro hipótesis acerca de la inteligencia, cuatro hipótesis en principio válidas tanto para la inteligencia natural como para la artificial.

Vamos a revisarlas, pero antes conviene explicar algún concepto previo que se adelanta en ese mismo capítulo y sobre los que no resistiré la tentación de hacer alguna traslación, en mi entendimiento, a la inteligencia artificial.

Inteligencia y predicción

Aunque a primera vista pueda sorprender, a poco que se piense en ello, no es tan raro la asociación de inteligencia con la capacidad de hacer predicciones. El poder predecir lo que va a pasar en el entorno, y el ser capaz de predecir lo que nuestras acciones sobre el entorno van a generar, son capacidades básicas para poder planificar y, por tanto, para exhibir un comportamiento más allá de lo puramente reflejo, lo puramente reactivo.

En la fuente citada, además, nos indican no sólo esta asociación, digamos, macroscópica de la inteligencia con la capacidad de predicción sino que, además, nos indica que existen ciertas teorías que afirman que la función primaria del cerebro es, precisamente, hacer predicciones y que, además, internamente se estructura de forma que las capas más externas hacen predicciones sobre la actividad de las capas más internas.

Si trasladamos esta idea a la inteligencia artificial, la verdad es que nos resulta, creo, muy natural, especialmente cuando pensamos en machine learning. Precisamente, y hay definiciones que así lo reflejan, el machine learning 'fabrica' un modelo del mundo durante su entrenamiento que le permite luego hacer predicciones acertadas en fase de inferencia. De hecho, cuando en algún ámbito informático oímos el término 'predictivo', casi seguro estamos ante una solución de machine learning.

Los entornos y las limitaciones de la inteligencia

David Gamez

El cerebro, como se sabe, es un órgano que consume mucha energía. Por tanto, 'intentar' que se capaz de hacer predicciones sobre cualquier cosa, una capacidad casi divina, no sería 'económico'. Por tanto, los seres vivos y en concreto la raza humana ha desarrollado su cerebro de forma que sea capaz de hacer predicciones en ciertos entornos conocidos, donde se ha desarrollado su actividad, obviando de alguna forma el resto. 

En general, en estos entornos, es muy bueno haciendo predicciones. Fuera de esos entornos, su capacidad para generalizar y predecir es mucho más limitada.

En concreto, se dice que el cerebro humano resuelve bien problemas en un entorno 'cazador-recolector' en donde surgió y se desarrolló.

Según esto, el cerebro humano, a pesar de su potencia, es en cierto modo limitado. Nos dice:

human intellect is not adapted for the large majority of conceivable tasks.

Y remata:

Humans, non-human animals, and AI systems have, to a greater or lesser extent, limited abilities to solve problems that they have not encountered before.

Trasladando esto a la inteligencia artificial actual, podemos decir que también el consumo computacional y energético es un problema. Debido en parte a esto, y debido en muchísima mayor medida a nuestras limitaciones actuales en cuanto a algoritmia, está claro que, también, nuestros modelos y sistemas actuales tienen ámbitos limitados de actuación, mucho más limitados que los de un ser humano. 

A pesar de que avances como son los modelos fundacionales permiten un primer paso de generalización, estamos lejísimos de igualar la generalidad de una inteligencia humana, no digamos ya nada de superarla en cuanto a esa generalidad.

Inteligencia cristalizada

La inteligencia cristalizada es una forma de memoria sobre problemas encontrados anteriormente. Con base en ellos, el sistema supuestamente inteligente puede hacer predicciones en situaciones conocidas.

Si lo trasladamos a la inteligencia artificial, en cierto sentido, también existe esa inteligencia cristalizada, aunque quizá aplica una distinción. Cuando la memoria de esos problemas resueltos anteriormente la aporta realmente el humano, el programador o diseñador, lo hace en forma de reglas que a veces son fijas y, en ese caso, normalmente consideramos que estamos fuera del campo de la inteligencia artificial. Cuando esos problemas resueltos anteriormente, se muestran a un algoritmo en fase de entrenamiento (p ej, aprendizaje supervisado) o en base a experiencia (p ej, aprendizaje por refuerzo) sí que hablaríamos de inteligencia artificial.

Sea cual sea la situación, podemos entender que los sistemas inteligentes, de una forma u otra, tienen algo de esa inteligencia cristalizada.

Inteligencia fluida

Se denomina inteligencia fluida a la capacidad de hacer predicciones en situaciones que el sistema en cuestión no se ha encontrado anteriormente. De alguna forma se aplica una deducción más que una inducción.

Bueno, en cierto sentido, también los sistemas inteligentes pueden ser capaces de esta inteligencia fluida. En algunos casos, quizá los menos representativos de la inteligencia artificial actual, porque el sistema dispone de reglas genéricas, como las que se utilizaban en sistemas expertos o como las heurísticas de algoritmos de búsqueda, que le permiten hacer ciertas 'deducciones'.

Quizá, quizá, la capacidad de un algoritmo de machine learning, por ejemplo tipo red neuronal de, tras el entrenamiento, enfrentarse a problemas nuevos en fase de inferencia se podría entender como inteligencia fluida aunque me parece que, en el caso de algoritmos de machine learning, se desdibuja un poco la frontera entre inteligencia cristalizada y fluida, existe un mismo modelo que recoge el 'conocimiento' y que se aplica tanto a situaciones vistas anteriormente como a situaciones nuevas, aunque creo entender que están presentes ambas de alguna manera. 

Las cuatro hipótesis sobre la inteligencia

Bueno, y explicado todo esto, las cuatro hipótesis que nos propone Gamez para una inteligencia, sea ésta natural o artificial, son:

• Hipótesis 1: La predicción es el componente más importante de la inteligencia.


• Hipótesis 2: La predicción y la inteligencia son relativos a conjuntos de entornos.


• Hipótesis 3: La cantidad de inteligencia cristalizada de un sistema varía con el número de predicciones precisas que puede hacer en un conjunto de entornos.


• Hipótesis 4: La cantidad de inteligencia fluida varía con el ratio positivo de cambios en su inteligencia cristalizada

No sé si esas cuatro hipótesis abarcan 'todo' lo que es la inteligencia, pero sí que parecen hipótesis bastante razonables e incluso casi intuitivas (una vez explicados los conceptos que hay detrás) y parece que, en efecto, las encontramos tanto en la inteligencia natural como en la artificial.

Conclusiones

A pesar de tener experiencia de ella, no es fácil ni definir ni caracterizar de forma rigurosa lo que es la inteligencia. Las cuatro hipótesis de Gamez parecen recoger al menos algunos de los elementos esenciales de la inteligencia, con la virtud añadida de que no resulta difícil visualizarlos tanto en la inteligencia natural como en la artificial.

Patrones y significados. La verdadera naturaleza del entendimiento y la cognición

Los algoritmos y las máquinas inteligentes, cada vez parecen exhibir un mayor conocimiento, un mayor entendimiento de la realidad, y esa sensación se ha visto fuertemente incrementada en los últimos meses por los grandes avances en materia, fundamentalmente aunque no únicamente, de procesamiento de lenguaje natural y de información expresada mediante ese lenguaje natural.

Pero ¿es así? ¿De verdad las máquinas cada vez entienden mejor al mundo y a nosotros, los humanos?

Veamos.

La esencia del Machine Learning

Los avances más espectaculares que se han realizado en inteligencia artificial ultimamente, se incluyen dentro del ámbito del machine learning y más específicamente del deep learning.

A grandes rasgos y simplificando un poco, podríamos decir que la esencia del machine learning (y, por tanto, la esencia del deep learning y de gran parte de la inteligencia artificial más avanzada que se hace hoy en día) consiste en detectar patrones en los datos, descubrir las regularidades y relaciones que anidan en ellos de forma que, con base en esos patrones detectados, podamos construir un modelo del mundo (o, más bien, del 'cachito' del mundo a que se refiere la problemática concreta que estemos estudiando) y que podamos utilizar ese modelo del mundo (lo puedan utilizar los algoritmos en realidad) para predecir resultados o comportamientos ante nuevas situaciones que asumimos se comportan conforme a esos mismos patrones.

Y los resultados son en general muy satisfactorios, a veces impresionantes y de aspecto, desde luego, muy inteligente.

Patrones y entendimiento

¿Pero es eso verdadero conocimiento? ¿Tienen los algoritmos y las máquinas inteligentes, al menos las basadas en machine learning, verdadero conocimiento? ¿Entienden realmente lo que están haciendo?

Bueno, puede haber diversas opiniones pero en esencia la respuesta parece ser negativa.

En concreto, en el capítulo firmado por Pentti Haikonen y titulado 'On artificial intelligence, consciousness and robots' incluido dentro del libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella me encuentro esta argumentación de Haikonen en contra:

Pattern detection and classification alone does not constitute understanding.

Es decir, simplemente, la detección de patrones no constituye un verdadero entendimiento de la materia a que afectan dichos patrones, un entendimiento que sí poseemos los humanos, y eso parece alejar a la inteligencia artificial de la inteligencia humana y, quizá, sólo quizá, eso aleja también la posibilidad, en el estado del arte actual, de conseguir una inteligencia artificial general y unas máquinas conscientes porque parece que ambas cosas reclaman un verdadero entendimiento del que ahora carecen.

Según el mismo autor, en la inteligencia artificial no tenemos unas verdadera cognición, además, porque esa cognición debería estar apoyada en significados:

Cognition does not arise from the linking of symbols, it arises from the linking of meanings.

Ya hablamos en el post anterior sobre la problemática de los significados y su fundamentación ('symbol grounding') y cómo actualmente no se está consiguiendo, al menos por el momento y de forma generalizada, a pesar de investigarse en ello, esa fundamentación de significados con base en la experiencia 'sensorial'.

Conclusión

Así que la sensación es que no, que las máquinas no entienden realmente lo que están haciendo y que no parece que con el tipo de tecnologías y algoritmos actuales se pueda conseguir.

Pero no quisiera que esa afirmación fuese una afirmación absoluta, casi ni siquiera una verdadera afirmación porque ya sabemos la capacidad que tienen la ciencia y la tecnología para sorprendernos y el acelerado avance conseguido en los últimos meses y años abren la puerta a casi cualquier cosa.

Significados y el problema del 'symbol grounding' para una auténtica inteligencia y consciencia artificiales

Cuando especulamos sobre una verdadera inteligencia artificial, verdadera en el sentido de que 'entiende' lo que hace, nos enfrentamos al problema de la adquisición de significado y ello nos lleva, a su vez, al problema del fundamentado de los símbolos o 'symbol grounding' problem.

Intento explicar en qué consiste todo esto.

Comportamiento versus entendimiento. El caso de la IA generativa.

Pese a que algunas especulaciones fantasiosas puedan hacer pensar otra cosa, los sistemas actuales de inteligencia artificial o robótica cognitiva no entienden la realidad ni lo que están haciendo. En cierto sentido podríamos decir que su comportamiento es inteligente, a veces muy inteligente, pero que las máquinas en sí mismas no lo son, al menos no en un sentido comparable a una inteligencia humana.

Aunque su comportamiento externo es inteligente, internamente no 'saben' lo que están haciendo, no comprenden realmente la realidad. Quizá en estos momentos tengamos el ejemplo más perfecto de esto en el caso de las soluciones conversacionales de IA generativa del tipo ChatGPT: sus capacidades son asombrosas, sus respuestas y la forma en que las expresan también. Presentan un comportamiento externo inteligente y aparentan entender lo que les decimos, tener un conocimiento casi infinito y responder de forma coherente y adecuada. No siempre, es cierto, pero normalmente sí y, además, en el fondo las personas tampoco damos siempre respuestas coherentes y acertadas. O sea que dicho familiarmente, 'ni tan mal'.

Y sin embargo, sabemos que la respuesta que nos ofrece una solución generativa es de naturaleza básicamente probabilística y de coherencia lingüística: un ChatGPT construye sus respuestas encadenando símbolos lingüísticos (o imágenes) coherentes con el prompt recibido, lo ya generado anteriormente y lo que ha 'aprendido' de la naturaleza del lenguaje humano.

Pero no entiende nada de nada, por más que su respuesta haga pensar otra cosa. Su respuesta es inteligente, la máquina no tanto.

Símbolos y significado

La inteligencia humana, y en cierto sentido la artificial, parecen manejarse, en su expresión más elevada, mediante símbolos, abstracciones de la realidad con un cierto significado. Entre los signos que manejamos, se encuentran de forma prominente los de naturaleza lingüística.

Podemos pensar que una solución de procesamiento de lenguaje natural también utiliza símbolos, las propias palabras o su tokens correspondientes.

En cierto sentido, las representaciones de más bajo nivel, de los datos y las informaciones, que se manejan en sistemas digitales y, en concreto, en las soluciones de inteligencia artificial, podrían, creo, entenderse también como símbolos.

Los seres humanos, no sólo manejamos los símbolos, lingüísticos o no, sino que entendemos lo que significan. Sin embargo, en el caso de la inteligencia artificial, podemos decir que se manejan bien, cada vez mejor, los símbolos, pero sin saber lo que significan.

Hacer entender a las máquinas

¿Cómo hacer que una máquina entienda los símbolos que maneja?

En los primeros sistemas de inteligencia artificial, precisamente los pertenecientes a la denominada inteligencia artificial simbólica, se implementaba la denominada representación de conocimiento que, con base a lógica de predicados, modelos de información (muy parecidos a los modelos entidad-relación propios de las bases de datos relacionales), etc parecía dotar al sistema de conocimiento. En cierto sentido era así, pero creo que eso no puede considerarse un verdadero entendimiento. Lo que esas informaciones aportaban al sistema era orientación sobre símbolos existentes y sus relaciones, no muy lejos conceptualmente de lo que hace un gran modelo de lenguaje actual durante su entrenamiento, pero no me parece que se pueda considerar un auténtico entendimiento.

El problema del diccionario

Si intentamos enseñar a una máquina lo que significa un símbolo con base en otros símbolos que ya maneja la máquina, caemos en lo que se conoce como 'problema del diccionario': un diccionario explica palabras con base en otras palabras. Pero si no llega un momento en que las palabras tienen significado por sí mismas, sin necesidad de definición o explicación mediante diccionario, estamos en un bucle recursivo y casi sin fin de intentar explicar las palabras, símbolos al fin y al cabo, cuyo significado desconocemos, con base en otras, palabras, otros símbolos, cuyo significado también desconocemos.

Se necesita, en algún punto, poder entender un símbolo, una palabra, por sí mismo y con base en la realidad, no explicándola mediante otros símbolos.

Symbol grounding

Y eso nos lleva al problema del 'symbol grounding' que, aunque siempre lo he visto descrito en inglés, me voy a atrever  a traducir como fundamentado de símbolos.

Lo que tiende a decir las teorías cognitivas, es que ese 'symbol grounding' se produce mediante percepción y experiencia de la realidad, con mucha frecuencia la realidad externa percibida mediante nuestros sentidos y procesada por el cerebro. De alguna forma, una forma que creo se desconoce en estos momentos, se asocia una experiencia del mundo real con símbolos que la representan internamente. Esto incluye también auto-percepción, pues nuestro sistema nervioso envía al cerebro sensaciones del propio cuerpo.

Una vez que al menos unos símbolos tiene su significado anclado a la realidad, fundamentado en ella vía experiencia de esa realidad, ya es posible componerlos para conseguir otros símbolos quizá más abstractos.

El caso de los algoritmos y la robótica cognitiva

 ¿Y cómo conseguimos eso en el caso de las máquinas?

No está claro pero, siendo consistentes con la teoría cognitiva, debemos hacer que algunos símbolos los obtenga la máquina a partir de sus sistemas de percepción (sensores y procesamiento posterior), es decir, de su experiencia de la realidad. En el caso de un robot a los que la mayoría de autores les supone en su definición, un cuerpo físico, con sensores y actuadores, parece teóricamente posible conseguir esa experiencia y por tanto esa fundamentación de los símbolos, aunque no creo que haya ninguna realización realmente exitosa en este campo actualmente.

Si existiese esa realización exitosa, estaríamos, creo, en el umbral de conseguir la consciencia de las máquinas.

¿Y en el caso de los algoritmos puros, no robots?

Bueno, esto podría llevarme al debate de si un robot software es un verdadero robot y si tiene cuerpo o no lo tiene. Pero eso sería meterme en 'un jardín' que, para lo que hablamos, poco aporta.

Si suponemos un, digamos, algoritmo puro, sin realización física, al menos en lo que a sensores se refiere, deberíamos pensar, me parece, en alguna forma de transferencia de conocimiento (un 'transfer learning' del que ya se habla en inteligencia artificial y que con tanto éxito se aplica en los denominados modelos fundacionales de la inteligencia artificial generativa), es decir, un robot cognitivo, o máquina similar con implementación física de sensores, debería ser capaz de adquirir el conocimiento, el fundamentado de los símbolos y luego ser transferido (copiado directamente o en la nube) para su uso por otras máquinas.

Hay que decir que según algunas teorías, esa transferencia no sería posible, puesto que, de alguna forma, la experiencia de la realidad, especialmente del propio cuerpo, es propia de cada entidad, viva o, en este caso, artificial. 

En el umbral de las consciencia

Antes decía que conseguir ese anclaje, ese fundamentado de significados nos pondría en el umbral de las conciencia de las máquinas porque, si a esa percepción de la realidad externa, le añadimos la auto-percepción del robot y el symbol grounding correspondiente del propio cuerpo, de la propia realidad, se produciría ese contraste entre la realidad externa, la actuación de la máquina y la realidad interna que está en la base de muchas teorías sobre consciencia.

De todas formas, y como decía, y hasta donde se me alcanza, no se ha conseguido un verdadero éxito, un éxito masivo y generalizable, en el symbol grounding, aunque haya investigación seria sobre ello, y no tengo claro que lo vayamos a conseguir en breve.

Así que no, no parece que hayamos alcanzado el umbral. 

Conclusiones

Se encuentra aún latente y creo que sin resolver, la verdadera asignación de significado por parte de las máquinas a los símbolos que manejas esos sistemas artificiales, algoritmos o robots cognitivo.

Si se consiguiese, dispondríamos de máquinas que realmente entienden lo que hacen y nos podríamos situar en el umbral de una consciencia artificial.

Pero no parece que aún estemos ahí.

Categorías de máquinas conscientes

No sabemos, en realidad, si seremos capaces de construir alguna vez máquinas realmente conscientes, no entendemos completamente qué significar ser consciente ni siquiera en el caso de los humanos y no está claro si sería deseable construir máquinas consciente si alcanzásemos la capacidad para hacerlo.

La consciencia de máquinas como disciplina científica.

Igor Aleksander

Sin embargo, como problema científico, técnico y ético se trata de una problemática fascinante y existen esfuerzos, esfuerzos serios, de estudio teórico y de realización de prototipos de máquinas que exhiban algún acercamiento a lo que podría ser una consciencia.

De hecho, y aunque poco conocida, existe una disciplina denominada 'Machine consciousness' (consciencia de máquinas) que se ocupa de estas problemáticas.

Se suele reconocer como padre fundador de la misma a Igor Aleksander, profesor emérito de ingeniería de sistemas neuronales del Imperial College de Londres. 

Categorías de máquinas conscientes de Igor Aleksander

En el libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella se recoge la aportación de Igor Aleksander quien, en el artículo 'The category of machines that become conscious' que se reproduce también en el libro, aporta una clasificación de máquinas conscientes.

Las categorías propuestas por Aleksander son las siguientes:

• Máquinas conscientes (CM, 'Conscious Machines'): Un sistema diseñado que es capaz de ser consciente en el sentido de construir unas representaciones internas de la experiencia que son accesibles. Caerían dentro de la denominada inteligencia artificial general fuerte y se corresponderían con la idea de un agente inteligente autónomo capaz de percibir su entorno y realizar acciones de manera autónoma para conseguir sus objetivos y con capacidad para aprender de cara a mejorar su desempeño.


• Inteligencia Artificial Algorítmica (AAI, 'Algorithmic Artificial Intelligence'): un sistema que se comporta de una forma que se acepta como inteligente y cuyo objetivo principal es ayudar a la inteligencia de entidades vivas.


• Vida consciente (CL, 'Conscious Life'): sensación de tanto su experiencia pasada, su presente perceptual y su futuro planeado.

A primera vista, la clasificación no me parece del todo limpia en el sentido de que no me parece que se trate de categorías con fronteras diferenciadas sino que aparentemente podrían solaparse.

Tampoco estoy seguro de esas categorías capten realmente lo que entendemos por consciencia (teniendo en cuenta, en cualquier caso, que tampoco somos muy capaces de definirlo).

Sin embargo, prefiero ser prudente. Aleksander es una autoridad y su artículo no es una mera especulación sino que está respaldado por sólida argumentación e incluso cierto modelado matemático.

De momento, simplemente, ahí quedan consignadas las categorías.

Conclusiones

En la apasionante, aunque delicada, investigación de la consciencia y de su eventual consecución en máquinas, algunos de los primeros pasos son definir qué es eso de consciencia y, eventualmente, clasificar las tipologías. 

Eso es lo que hace Aleksander en su artículo, y como tal, parece un esfuerzo loable y clarificador.

Algunas definiciones de consciencia y su traslación a robótica cognitiva

Ya hemos tratado en este blog el interesantísimo aunque elusivo problema de la consciencia, humana y robótica, y también hemos tratado algunos de los modelos computacionales propuestos, incluso algunas experiencias en línea de tratar de conseguir consciencia en robots cognitivos.

En este artículo vuelvo a ello tras haber finalizado no hace mucho la lectura del libro 'Computational Approaches to Conscious Artificial Intelligence' con Antonio Chella como editor.

Definiciones de consciencia. Lo que dicen los diccionarios. 

En él, y como por otra parte no es extraño en un libro de corte científico, lo primero que se intenta, a sabiendas de su dificultad, es definir o al menos centrar qué es exactamente eso de la consciencia. 

Comienza Chella proporcionando una especie de definición, aunque muy introductoria, y que le sirve básicamente para hacer patente la cantidad de análisis, explicaciones y debates que el concepto ha generado a lo largo de los siglos: 

consciousness as its simplest, its sentience and awareness of internal and external existence

Es muy relevante la mención de la sintiencia y la conciencia, pero no entraré en ello en este artículo.

Luego pasa revista a algunas definiciones que se pueden encontrar es diccionarios generalistas. Así, en el Cambridge Dictionary, y siempre según el autor, aparece la siguiente y simple definición:

the state of understanding and realizing something

definición sencilla, válida para 'andar por casa', pero quizá un poco superficial y algo alejada de los debates profundos. 

Luego nos menciona la de The Oxford Living Dictionary que, en realidad, nos aporta tres acepciones, a saber:

The state of being aware of and responsive to one's surroundings.

A person's awareness of perception of something.

The fact of awareness by the mind of itself and the world.

En estas dos fuentes identifica Chella un elemento común, a saber, la conciencia que rodea al objeto consciente y del objeto en él.

Luego revisa la definición del Webster's Third New International Dictionary, que no voy a transcribir aquí por ser ya bastante larga pero que aporta, de nuevo según Chella, la formación de estados mentales a menudo vistas como 'resultado de emociones, voliciones o pensamiento'.

Definiciones de consciencia. Lo que dicen los filósofos.

Tras esta revisión de definiciones encontradas en diccionarios, el autor torna sus ojos hacia la filosofía y resume las materias que los mismos han incluido en esa idea de consciencia en estos puntos:

• Introspección, conocimiento general y experiencia fenomenológica


• Existe algo que podríamos decir 'Cómo es ser ese ente' (una idea que, en el fondo me cuesta entender, pero que entiendo proviene del muy famoso artículo de 'What it is like to be a bat' de Thomas Nagel.


• Experiencias de tipo perceptual, sensación corporal, imaginativas o flujos de pensamientos.

Un modelo

Tras ello, el autor no puede por menos que volver a reconocer la dificultad de especificar qué es la conciencia y nos dice

Consciousness is a fascinating but elusive phenomenon: it is impossible to specify what it is, what it does, or why it has evolved.

No obstante, nos ofrece un modelo, con cinco elementos, basado en la Routeledge Dictionary Encyclopedia of Philosophy y que sería el siguiente:

Según interpreto, el modelo, que ofrece una visión circular, empezaría por la existencia de un entorno del eventual ente consciente, un entorno del cual el ente (que parece sugerir un ser humano, o al menos un ser vivo) recibe a través de sus sentidos, sensaciones que, tras un proceso de reconocimiento se convierten en percepciones y eso lleva a unas impresiones lo que conduce, finalmente a una conciencia del objeto.

Traslación a robótica cognitiva. Comentarios.

Trasladar este modelo a un robot parece casi, y esto es sorprendente, sencillo: los robots tienen sensores a través de los cuales perciben su entorno, y mediante algoritmia complementaria convierten la información recibida en verdaderas percepciones. Parece perfectamente factible con base en esas sensaciones conseguir una cierta representación del conocimiento acerca del entorno (el equivalente, entiendo, a las impresiones del modelo). Y un robot podría, creo que fácilmente 'tener conciencia' de esas impresiones y usarlas en su propio control y el del entorno.

Dicho así, parecería que la consciencia robótica no sólo es posible sino que prácticamente ya la tenemos a nuestro alcance. Y, sin embargo, creo que estamos muy lejos de que sea así. Parece que falta algo más, puede que mucho más.

Por otro lado, es posible que no esté interpretando el modelo correctamente, dado que tengo poco más que el dibujo que muestro, pero a priori hay algo que me sorprende en la propuesta: parece que la toma de conciencia del ente (persona o robot) depende de la percepción, representación y control del entorno.

Y sin embargo, todas las teorías de consciencia que creo haber leído hasta ahora, ponen el énfasis no sólo en la percepción del exterior, sino en la propia autopercepción, la experimentación del propio cuerpo de forma parecida a como se experimenta el entorno, y el contraste, dialéctica o relación del propio cuerpo y sus acciones con el exterior. De hecho, parece que de ese contraste, de esa interacción es, según algunas teorías, de donde nace la consciencia. 

No veo en el dibujo, ni ese contraste ni la autopercepción, que tanto tiene que ver con la idea intuitiva que tenemos de la consciencia.

Conclusión

Es bastante probable que mi entendimiento del modelo sea incompleto o imperfecto y que sí se encuentre de alguna forma, implícita, la autopercepción pero, de todas formas, lo que el recorrido por las definiciones de consciencia que acabamos de ver, junto con la sorpresa sobre el modelo, no hacen más que resaltar, de nuevo, la dificultad no ya solo de definir lo que es la consciencia sino de entenderla realmente en profundidad.

Un problema para conseguir resultados prácticos en psicología, neurociencia o robótica, pero un aliciente más para su estudio.

Artículos de este blog relacionados

• Tests de consciencia robótica
• Teorías para la consciencia (III): La teoría del modelo interno
• Teorías para la consciencia (II): Global Workspace Theory (GWT)
• Teorías para la consciencia (I): Integrated Information Theory (IIT)
• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Cinco etapas de los procesos cognitivos humanos y su aplicabilidad en robótica cognitiva

En una buena parte del trabajo en inteligencia artificial (no en todo), los procesos cognitivos del ser humano actúan como referente, tanto en el sentido de ofrecer un modelo hacia el que mirar en busca de inspiración como en forma un objetivo a alcanzar porque parte de los objetivos (no todos) de la inteligencia artificial es emular las capacidades cognitivas humanas.

Robótica cognitiva

Un campo de investigación donde quizá se acentúa ese interés en los procesos cognitivos es el de la denominada robótica cognitiva donde se intenta dotar a los robots de capacidades cognitivas similares (quizá superiores) a las humanas.

Es relativamente sencillo hoy en día dotarles de capacidades como visión artificial o procesamiento de lenguaje natural, capacidades que los robots heredan casi directamente de la inteligencia artificial y que ya proporcionan resultados muy positivos.

Bastante más complejo, y bastante más interesante como investigación, es el intento de conseguir capacidades cognitivas muy avanzadas y que con frecuencia se ligan a la realidad física que ofrecen los robots: capacidades como el aprendizaje por imitación o la consciencia.

Una propuesta de etapas de los procesos cognitivos humanos

En cualquier caso, especialmente en esas capacidades más avanzadas, se mira una y otra vez al cerebro humano y sus procesos cognitivos en busca de entendimiento e inspiración.

En ese sentido, es un intento razonable intentar estructurar esos procesos cognitivos humanos y eso es lo que me encuentro en el libro 'Computational Approaches to Conscious Artificial Intelligence' del cual actúa como editor Antonio Chella y que es autor también del primero de los capítulos titulado 'The conscious machine'.

En ese capítulo, Chella propone un modelo guía, unas fases de los procesos cognitivos humanos, unas fases que  encuentra también identificadas en el budismo en sus denominados cinco agregados o cinco skandhas en sánscrito.. En concreto, las cinco fases (entre paréntesis su denominación en sánscrito) son las siguientes

• Forma ('rupa'): impresión material o imagen que incluye no solo el cuerpo en si, sino la imagen que uno se forma de él.


• Sensaciones ('vedana'): sentimiento, impresiones recibidas de la forma, información recibida a través de los sentidos.


• Percepciones ('samjna'): ligadas a la memoria, es el registro que se hace de las sensaciones y que se convierten en una suerte de objetos reconocibles, unos objetos donde también se incluyen los propios pensamientos. 


• Actividad mental ('sankhara'): o formaciones. Es la reacción a lo percibido que incluye la voluntad y la experiencia subjetiva de los objetos percibidos.


• Consciencia ('vijnana')

Procesos cognitivos en robótica cognitiva

No resulta demasiado difícil hacer un cierto 'mapping' de algunas de estas fases con las capacidades cognitivas de robots. Parece que las 'sensaciones' encajan muy bien con la recepción de información a través de sensores. 

Hasta cierto punto, aunque creo que no completamente, la denominada percepción en robótica e inteligencia artificial, es decir, el procesamiento de la información en los algoritmos que gobiernan la visión artificial o el procesamiento de la voz y el lenguaje, parece encajar bien en la fase de 'Percepciones'.

La 'Forma', que en las fases del budismo aparece como la primera, creo que en el caso de robótica cognitiva podría, en unos casos, estar preconstruida en el propio robot en forma de datos de forma, tamaño, etc (en cuyo casi sí se trataría de una primera fase) y en casos más experimentales, adquirirla el propio robot durante una suerte de aprendizaje, en cuyo caso parecería un fase posterior a las sensaciones y las percepciones.

Y donde entramos en zona de investigación, a veces incluso de pura especulación en el caso de la robótica cognitiva es en los relativo a las 'Actividad mental' y no digamos nada la 'Consciencia'.

Valoración y conclusiones

Un marco como el anterior, procedente de una larga tradición es interesante como forma de estructurar el conocimiento y el trabajo científico y técnico, y añade el interés de conectarlo con una larga tradición intelectual y en este caso incluso espiritual.

Sin embargo, me parece más un punto de partida, propio de un área de trabajo todavía incipiente, todavía exenta de un conocimiento realmente profundo de su objeto de estudio, que de una disciplina científica y técnica en un estadio avanzado.

En ese sentido, me parece que, aparte de la propia investigación en inteligencia artificial y robótica, se podrán, eventualmente, obtener aportaciones más útiles, más accionables, de unos posibles avances en neurociencia.

No obstante, estamos donde estamos, y cualquier marco que ayude a entender y organizar el conocimiento disponible, es bienvenido.

La robótica como concreción y contraste de realidad

En el mundo actual (no sé si también en el pasado), es fácil, en publicaciones, eventos, charlas, etc encontrarse con grandes declaraciones, con teorías y pensamientos grandilocuentes, pero que no es extraño que se encuentren vacíos de contenido.

En ocasiones opiniones y trabajadas y honestas pueden ser, sin embargo, también poco realistas o poco concretas.

Ingeniería y humanidades

Por titulación y por ejercicio profesional soy ingeniero, pero mis intereses intelectuales son muy amplios e incluyen, por ejemplo, la filosofía, la literatura o la psicología.

Creo que, en el fondo, toda disciplina de estudio es valiosa, interesante y enriquecedora.

Pero también es cierto que la forma de pensamiento de un ingeniero, y no sólo un ingeniero sino también, por ejemplo, un matemático o un físico, te llevan a la claridad, a la concreción, a la formulación inequívoca de razonamientos, teorías y resultados. 

Algo que, y que me perdonen los afectados, no siempre está presente en disciplinas así denominadas humanísticas donde, una formulación verbal brillante y erudita puede, sin embargo, ocultar ambigüedades, errores de razonamiento y elementos de interpretación lo que, me hace pensar, puede ser la fuente de las frecuentes y en ocasiones ardorosas discusiones que se producen entre, por ejemplo, filósofos o literatos. A falta de tangibilidad, a falta de un contraste objetivo, queda abonado el debate, probablemente interesante, pero que difícilmente conduce a conclusiones que no sea el propio debate en sí mismo.

Formas de concreción

Hay muchas formas, creo, de hacer que nuestros pensamientos no sean divagaciones, de concretarlos.

Una forma muy sencilla es, simplemente, escribirlos. Es algo que aconsejo siempre porque escribir lo que te ronda por la cabeza, ponerlo en palabras, es ya una primera forma de concretar. Pero se trata sólo de un primer paso, porque las palabras, permiten, y de qué manera, las ambigüedades.

Un siguiente paso puede ser intentar estructurar nuestras ideas en forma de diagrama de bloques (por cierto, mucho mejor un diagrama de bloques que un mapa mental, que creo que tiende también ala ambigüedad) algo, el producir diagramas, que quizá, ya empieza a ser un síntoma de pensamiento ingenieril.

También podemos aplicar las reglas de la lógica, de la lógica formal, me refiero, como lógica poposicional o silogismos, algo que, además de haber nacido en el ámbito de la filosofía, aplica muy bien a temáticas no técnicas y que forma parte del acervo de herramientas del denominado pensamiento crítico.

Para hay formas mucho más radicales, y en este caso técnicas, de concretar.

El desarrollo software como concreción

Durante muchos años hice desarrollo software y todavía hoy en día, de vez en cuando, hago alguna cosa pequeñita, algún demostrador o prueba de concepto con software.

Y el desarrollo software es una formidable palanca de rigor y concreción. Pese a lo que pueda parecer cuando se ve externamente donde el software hace gala de su flexibilidad, cuando se mira internamente es tremendamente exigente en cuando a rigor y concreción. Cualquier lógica que se te ocurra en tu cabeza debe traducirse a los elementos que te proporciona el lenguaje o herramienta de programación (elementos que son finitos y absolutamente inequívocos en cuanto a funcionamiento aunque a veces una mala documentación pueda hacer parecer otra cosa).

La traducción de comportamientos a software es un extraordinario y muy enriquecedor ejercicio de pensamiento, estructuración y rigor y deja el campo de la fantasía sólo para el diseño externo, funcional y gráfico, pero en absoluto para el funcionamiento interno.

A veces se habla del pensamiento computacional, de la necesidad de introducirlo en la educación e, incluso, incluir como formación básica la programación. No estoy seguro de si eso es correcto o no y, desde luego, a nivel de posterior ejercicio profesional muy pocos perfiles necesitarían programar realmente. Pero lo que sí es cierto es que la programación desarrolla, sin duda, el pensamiento estructurado y lógico, y eso sí que podría ser muy útil para cualquier persona, también para las que se orienten a los ámbitos humanísticos o sociales.

La robótica como concreción y realismo

Y otra forma radical de concreción es la robótica que, además, es la que me ha inspirado el post y la que le da título. Y ha sido a partir de la lectura del libro 'Robot souls', donde la autora, Eve Poole, cita al inicio de un capítulo a Hod Lipson, ingeniero mecánico y director del  Creative Machine Lab Columbia University. Y la cita que incluye es la siguiente.

the nice thing about robotics is that it forces you to translate your understanding into an algorithm and into a mechanism. You can't beat around the bush, you can't use empty words, you can't say things like 'canvas of reality' that mean different things to different people, because they are too vague to translate into a machine. Robotics forces you to be concrete.

La robótica es interesantísima en muchos aspectos pero, en efecto, también es una forma muy efectiva de formar al realismo y la concreción. La robótica incluye desarrollo software, que ya de por sí, como decía antes, fuerza a la concreción, al pensamiento estructurado, a la realidad.

Pero la robótica incluye, además, todo lo que tiene que ver con el diseño mecánico y, sobre todo, el contraste con el mundo físico. El software exige el rigor y la concreción pero tiene la ventaja de que si hacemos las cosas correctamente, hace exactamente lo que tiene que hacer.

Sin embargo, el mundo físico aporta otras exigencias adicionales. Dado que, a pesar del enorme desarrollo científico actual, muchas veces sólo tenemos modelos aproximados de comportamiento de ese mundo físico y dado que, además, en el mundo físico abundan los imprevistos, diseñar y poner en funcionamiento una máquina capaz de funcionar en ese entorno es un desafío de exigencia y contraste con la realidad cosa que hace muchos años pude comprobar durante mi proyecto fin de carrera en que tuve que construir un circuito electrónico real intentando emular los resultados de un artículo científico, cosa que, pese a todos mis esfuerzos, análisis y pruebas, fui incapaz de conseguir completamente.

Y la robótica es mundo físico, sensores y actuadores, movimientos y resultados. 

No valen las ambigüedades.

Vale el rigor, el realismo, los resultados y el contraste con la realidad.

Y eso es una cura, no sólo para la ambigüedad, sino también para la soberbia intelectual. Es tremendamente educativo.

Conclusión

Las disciplinas de la ingeniería, y concretamente el desarrollo software y la robótica, son dos fantásticas escuelas de pensamiento riguroso, humildad intelectual y realismo, mucho realismo.

Así que, a lo mejor sí, sólo por eso valdría la pena enseñársela y hacérsela practicar, aunque fuese en entornos sencillos, a toda nuestra juventud.