Cuatro áreas de trabajo en consciencia artificial

Como ya hemos comentado con cierta frecuencia en este blog, existen esfuerzos científicos y técnicos, para entender la consciencia humana, para conseguir modelos implementables en máquinas y, en último término, alcanzar la denominada consciencia artificial. 

Esos esfuerzos han dado lugar a diversas teorías, modelos e implementaciones.

Cuatro áreas para la consciencia artificial

En libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella y en concreto, en el capítulo titulado 'Intelligence and consciousness in natural and artificial intelligence', David Gamez, intenta clasificar los tipos de soluciones, los tipos de máquinas en que se trabaja en este campo.

Y esta es la clasificación que nos propone:

• MC1 - Máquinas con comportamiento externo que sistemas conscientes: De la misma forma que los humanos se comportan de cierta forma cuando están conscientes (alerta ante situaciones nuevas o ejecución de pasos de resolución de problemas), se pueden conseguir máquinas que exhiban ese tipo de comportamientos. El autor cita en concreto Watson cuando está jugando a Jeopardy. Se trata, como se puede ver, de una solución realizable, y realizada, ya hoy en día y desde hace un cierto tiempo.


• MC2 - Modelos de correlatos de la consciencia: Es decir, modelado en máquinas de los modelos funcionalmente equivalentes a los existentes para la actividad funcional y neuronal humana. Un caso propuesto por el autor son las implementaciones de la Global Workspace Theory que ya mencionamos en el post 'Teorías para la consciencia (II): Global Workspace Theory'. De nuevo, son un tipo de soluciones perfectamente alcanzables hoy día, aunque hago notar que realmente estamos trabajando con modelos sin verdadera seguridad de que la consciencia humana funcione de la forma que postulan esos modelos.


• MC3 - Modelos de la consciencia: Las experiencias conscientes se pueden modelar en ordenadores e, incluso, usarse para controlar robots, como ha hecho, por ejemplo, el editor del libro, Antonio Chella para controlar a un guía-robot. Por tercera vez, vemos que es algo conseguible e implementable, pero de nuevo avisaría de que no dejan de ser modelos hipotéticos aunque puedan resultar funcionales como parece haber demostrado Chella en el ejemplo citado.


• MC4 - Máquinas que experimentan estados conscientes: Nos dice el autor que cuando los humanos estamos conscientes estamos algo así como inmersos en una burbuja en que experimentamos colores, olores, sonidos, etc. Este área de máquinas significaría conseguir en ellas una experiencia similar. Reconoce Gamez que este área no está realmente conseguida y nos dice que para hacerlo deberíamos ser capaces de mapear de una forma fiable, los estados físicos y los conscientes. Lo mejor es que afirma, sin ambages, y creo que con mucha honradez, que 'no tenemos ni idea de si nuestras máquinas son conscientes en el modo MC4'.

No deja de hacernos notar Gamez que éstas áreas, no son compartimentos estancos y que realmente existen solapes entre ellas.

Un problema sin resolver

Aunque los trabajos, modelos y autores que se mencionan, son serios, científicos y rigurosos, creo que realmente estamos lejos de resolver el problema de la consciencia humana, volviéndose a demostrar que conseguirla es un objetivo elusivo.

Sin duda podemos conseguir, y conseguimos de hecho, comportamientos externos que simulan inteligencia y consciencia. Y los novedosos modelos generativos de la Inteligencia Artificial, parecen un gran salto en este sentido.

Pero seguimos sin conocer realmente la naturaleza profunda de la consciencia, más allá de nuestra experiencia individual y menos aún conocemos los mecanismos fisiológicos, neuronales, computacionales o lo que sea, que la genera y opera.

Por ello, aunque podemos lograr comportamientos externos y modelos funcionales implementables, creo que estamos lejos de conseguir la consciencia de la máquinas aunque, estrictamente hablando, desde un punto de vista más teórico que real, y como nos dice Gamez en el último caso, en el fondo no tenemos ni idea de si nuestras máquinas son conscientes o no.

¿Cómo podemos saberlo?

Conclusiones

La consciencia artificial sigue siendo un problema elusivo y que creo que estamos lejos de resolver. Incluso el solo hecho de demostrar la consciencia en un plano que no sea la mera experiencia individual es complejo en sí mismo.

Categorías de máquinas conscientes

No sabemos, en realidad, si seremos capaces de construir alguna vez máquinas realmente conscientes, no entendemos completamente qué significar ser consciente ni siquiera en el caso de los humanos y no está claro si sería deseable construir máquinas consciente si alcanzásemos la capacidad para hacerlo.

La consciencia de máquinas como disciplina científica.

Igor Aleksander

Sin embargo, como problema científico, técnico y ético se trata de una problemática fascinante y existen esfuerzos, esfuerzos serios, de estudio teórico y de realización de prototipos de máquinas que exhiban algún acercamiento a lo que podría ser una consciencia.

De hecho, y aunque poco conocida, existe una disciplina denominada 'Machine consciousness' (consciencia de máquinas) que se ocupa de estas problemáticas.

Se suele reconocer como padre fundador de la misma a Igor Aleksander, profesor emérito de ingeniería de sistemas neuronales del Imperial College de Londres. 

Categorías de máquinas conscientes de Igor Aleksander

En el libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella se recoge la aportación de Igor Aleksander quien, en el artículo 'The category of machines that become conscious' que se reproduce también en el libro, aporta una clasificación de máquinas conscientes.

Las categorías propuestas por Aleksander son las siguientes:

• Máquinas conscientes (CM, 'Conscious Machines'): Un sistema diseñado que es capaz de ser consciente en el sentido de construir unas representaciones internas de la experiencia que son accesibles. Caerían dentro de la denominada inteligencia artificial general fuerte y se corresponderían con la idea de un agente inteligente autónomo capaz de percibir su entorno y realizar acciones de manera autónoma para conseguir sus objetivos y con capacidad para aprender de cara a mejorar su desempeño.


• Inteligencia Artificial Algorítmica (AAI, 'Algorithmic Artificial Intelligence'): un sistema que se comporta de una forma que se acepta como inteligente y cuyo objetivo principal es ayudar a la inteligencia de entidades vivas.


• Vida consciente (CL, 'Conscious Life'): sensación de tanto su experiencia pasada, su presente perceptual y su futuro planeado.

A primera vista, la clasificación no me parece del todo limpia en el sentido de que no me parece que se trate de categorías con fronteras diferenciadas sino que aparentemente podrían solaparse.

Tampoco estoy seguro de esas categorías capten realmente lo que entendemos por consciencia (teniendo en cuenta, en cualquier caso, que tampoco somos muy capaces de definirlo).

Sin embargo, prefiero ser prudente. Aleksander es una autoridad y su artículo no es una mera especulación sino que está respaldado por sólida argumentación e incluso cierto modelado matemático.

De momento, simplemente, ahí quedan consignadas las categorías.

Conclusiones

En la apasionante, aunque delicada, investigación de la consciencia y de su eventual consecución en máquinas, algunos de los primeros pasos son definir qué es eso de consciencia y, eventualmente, clasificar las tipologías. 

Eso es lo que hace Aleksander en su artículo, y como tal, parece un esfuerzo loable y clarificador.

Algunas definiciones de consciencia y su traslación a robótica cognitiva

Ya hemos tratado en este blog el interesantísimo aunque elusivo problema de la consciencia, humana y robótica, y también hemos tratado algunos de los modelos computacionales propuestos, incluso algunas experiencias en línea de tratar de conseguir consciencia en robots cognitivos.

En este artículo vuelvo a ello tras haber finalizado no hace mucho la lectura del libro 'Computational Approaches to Conscious Artificial Intelligence' con Antonio Chella como editor.

Definiciones de consciencia. Lo que dicen los diccionarios. 

En él, y como por otra parte no es extraño en un libro de corte científico, lo primero que se intenta, a sabiendas de su dificultad, es definir o al menos centrar qué es exactamente eso de la consciencia. 

Comienza Chella proporcionando una especie de definición, aunque muy introductoria, y que le sirve básicamente para hacer patente la cantidad de análisis, explicaciones y debates que el concepto ha generado a lo largo de los siglos: 

consciousness as its simplest, its sentience and awareness of internal and external existence

Es muy relevante la mención de la sintiencia y la conciencia, pero no entraré en ello en este artículo.

Luego pasa revista a algunas definiciones que se pueden encontrar es diccionarios generalistas. Así, en el Cambridge Dictionary, y siempre según el autor, aparece la siguiente y simple definición:

the state of understanding and realizing something

definición sencilla, válida para 'andar por casa', pero quizá un poco superficial y algo alejada de los debates profundos. 

Luego nos menciona la de The Oxford Living Dictionary que, en realidad, nos aporta tres acepciones, a saber:

The state of being aware of and responsive to one's surroundings.

A person's awareness of perception of something.

The fact of awareness by the mind of itself and the world.

En estas dos fuentes identifica Chella un elemento común, a saber, la conciencia que rodea al objeto consciente y del objeto en él.

Luego revisa la definición del Webster's Third New International Dictionary, que no voy a transcribir aquí por ser ya bastante larga pero que aporta, de nuevo según Chella, la formación de estados mentales a menudo vistas como 'resultado de emociones, voliciones o pensamiento'.

Definiciones de consciencia. Lo que dicen los filósofos.

Tras esta revisión de definiciones encontradas en diccionarios, el autor torna sus ojos hacia la filosofía y resume las materias que los mismos han incluido en esa idea de consciencia en estos puntos:

• Introspección, conocimiento general y experiencia fenomenológica


• Existe algo que podríamos decir 'Cómo es ser ese ente' (una idea que, en el fondo me cuesta entender, pero que entiendo proviene del muy famoso artículo de 'What it is like to be a bat' de Thomas Nagel.


• Experiencias de tipo perceptual, sensación corporal, imaginativas o flujos de pensamientos.

Un modelo

Tras ello, el autor no puede por menos que volver a reconocer la dificultad de especificar qué es la conciencia y nos dice

Consciousness is a fascinating but elusive phenomenon: it is impossible to specify what it is, what it does, or why it has evolved.

No obstante, nos ofrece un modelo, con cinco elementos, basado en la Routeledge Dictionary Encyclopedia of Philosophy y que sería el siguiente:

Según interpreto, el modelo, que ofrece una visión circular, empezaría por la existencia de un entorno del eventual ente consciente, un entorno del cual el ente (que parece sugerir un ser humano, o al menos un ser vivo) recibe a través de sus sentidos, sensaciones que, tras un proceso de reconocimiento se convierten en percepciones y eso lleva a unas impresiones lo que conduce, finalmente a una conciencia del objeto.

Traslación a robótica cognitiva. Comentarios.

Trasladar este modelo a un robot parece casi, y esto es sorprendente, sencillo: los robots tienen sensores a través de los cuales perciben su entorno, y mediante algoritmia complementaria convierten la información recibida en verdaderas percepciones. Parece perfectamente factible con base en esas sensaciones conseguir una cierta representación del conocimiento acerca del entorno (el equivalente, entiendo, a las impresiones del modelo). Y un robot podría, creo que fácilmente 'tener conciencia' de esas impresiones y usarlas en su propio control y el del entorno.

Dicho así, parecería que la consciencia robótica no sólo es posible sino que prácticamente ya la tenemos a nuestro alcance. Y, sin embargo, creo que estamos muy lejos de que sea así. Parece que falta algo más, puede que mucho más.

Por otro lado, es posible que no esté interpretando el modelo correctamente, dado que tengo poco más que el dibujo que muestro, pero a priori hay algo que me sorprende en la propuesta: parece que la toma de conciencia del ente (persona o robot) depende de la percepción, representación y control del entorno.

Y sin embargo, todas las teorías de consciencia que creo haber leído hasta ahora, ponen el énfasis no sólo en la percepción del exterior, sino en la propia autopercepción, la experimentación del propio cuerpo de forma parecida a como se experimenta el entorno, y el contraste, dialéctica o relación del propio cuerpo y sus acciones con el exterior. De hecho, parece que de ese contraste, de esa interacción es, según algunas teorías, de donde nace la consciencia. 

No veo en el dibujo, ni ese contraste ni la autopercepción, que tanto tiene que ver con la idea intuitiva que tenemos de la consciencia.

Conclusión

Es bastante probable que mi entendimiento del modelo sea incompleto o imperfecto y que sí se encuentre de alguna forma, implícita, la autopercepción pero, de todas formas, lo que el recorrido por las definiciones de consciencia que acabamos de ver, junto con la sorpresa sobre el modelo, no hacen más que resaltar, de nuevo, la dificultad no ya solo de definir lo que es la consciencia sino de entenderla realmente en profundidad.

Un problema para conseguir resultados prácticos en psicología, neurociencia o robótica, pero un aliciente más para su estudio.

Artículos de este blog relacionados

• Tests de consciencia robótica
• Teorías para la consciencia (III): La teoría del modelo interno
• Teorías para la consciencia (II): Global Workspace Theory (GWT)
• Teorías para la consciencia (I): Integrated Information Theory (IIT)
• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Tests de consciencia robótica

Y con este post finalizo la bastante larga serie de artículos relacionados con la consciencia robótica y basados en el capítulo de Antonio Chella titulado 'Robots and machine consciousness' dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

Y digo que finalizo aunque, dado el interés que tengo en la materia, probablemente vuelva al tema en algún otro momento.

Y, como cierre, quería comentar brevemente algo que me ha resultado algo sorprendente descubrir: la existencia de tests para intentar demostrar o descartar la consciencia en robots.

Panorámica de los tests de consciencia 

Y en efecto, no es sólo que existan testas para intentar detectar la consciencia en máquinas sino que, además, Chella referencia el artículo 'Reviewing tests for machine consciousness' de Aida Elamrani y Roman Yampolskiy donde se censan, nada más y nada menos, que hasta 22 tests de consciencia.

Según nos indica Chella, la mayoría de tests de conciencia son tests de imitación, inspirados por el famoso test de Turing, es decir, una máquina intenta emular un comportamiento humano, en este caso un comportamiento que demuestre consciencia. Para ello, se establece algún tipo de interfaz entre la entidad a juzgar si es consciente o no (y que, en ocasiones puede ser el robot y en otras un ser humano) y por otro lado, unos evaluadores humanos que con base en la interacción deben decidir si aquello con lo que están interactuando es una máquina o una persona.

Otros test son del tipo espejo, en que la máquina debe reconocerse a sí misma, de forma similar a como se ha experimentado con primates.

En otros casos se intentan poner a prueba axiomas como los que vimos de Aleksander y Dunmall. Otro tipo de tests, en fin, intentan medir características específicas como la creatividad o también la capacidad para crear un discurso interno. 

En el caso de la ConScale, propuesta por Raúl Arrabales y equipo, más que una respuesta de si/no se establecen una escala de consciencia para un agente expuesto a un entorno, que integra sensores y actuadores así como memoria y un software de control.

Al respecto de las características, comentar que Elamrani y Yampolskiy identifican en su artículo las siguientes características de la consciencia:

• Creatividad
• Dinamismo
• Fundamentación ('grounding')
• Qualia o experiencia subjetiva
• Percepción
• Existencia propia
• Integración de información: conciencia y 'sí mismo'.

Y condensan en una tabla, que se anexa abajo, hasta qué punto cada uno de los tests ponen a prueba esas características:

Caracterización de tests de consciencia según Elamrani y Yampolskiy

En sus conclusiones, estos dos autores, resumen los tests identificados en, básicamente, dos tipos de tests:

• tests de arquitectura Se deduce la existencia o no de consciencia a partir de la correcta implementación de una arquitectura orientada a la consciencia


• tests de comportamiento La consciencia se deduce de un comportamiento indistinguible de un ser consciente

Conclusiones

De lo visto, se deduce que el problema de la consciencia en máquinas y, en concreto, en robots, no es un asunto sólo de fantasía sino que existe trabajo científico serio al respecto que incluye, no sólo el intento de identificación de las características de la consciencia, sino también la definición e implementación de arquitecturas técnicas capaces de proporcionar esas características, como apuntamos en artículos anteriores, y mecanismos para poner a prueba esa consciencia, como hemos esbozado en este artículo.

Personalmente, y ateniéndome a la última clasificación de los tests que acabo de mencionar, y a pesar de reconocer y elogiar el intento de poner a prueba la consciencia, tengo mis dudas con ambos enfoques. 

En el caso de la puesta a prueba de las arquitecturas porque, dado que en el fondo desconocemos la naturaleza profunda de la consciencia, no creo viable definir una arquitectura que 'garantice' esa consciencia en caso de una correcta implementación. Si no podemos demostrar que la arquitectura genera consciencia, demostrar que está bien construida no aporta ningún tipo de prueba definitiva, creo yo.

Y en cuanto al enfoque del comportamiento, creo que dado lo que conocemos hoy sobre algoritmos avanzados, especialmente en procesamiento de lenguaje natural tipo GPT-3 o inteligencia artificial generativa, creo que sabemos lo suficiente para darnos cuenta que ese tipo de algoritmos son bastante eficaces provocando 'ilusiones de verdadera inteligencia' y por tanto de consciencia y, sin embargo, su enfoque de implementación se encuentra muy lejos de lo que entendemos, percibimos por propia experiencia, o intuimos que es la verdadera inteligencia y o la verdadera consciencia. Un test de comportamiento creo que, fácilmente, nos puede engañar sobre lo que hay detrás, y más con la tendencia natural que tenemos a la antropomorfización, como ya hemos comentado con frecuencia.

Como decía en el primer artículo de esta serie, el objetivo de la consciencia robótica, es elusivo. 

Alabo y considero correctos los esfuerzos que se realizan a nivel científico y no descarto ni mucho menos nuevos avances, pero creo que seguimos estando lejos de conseguirlo, a menos en cuanto a resultados, quién sabe en el plano temporal. 

Artículos de este blog relacionados

• Teorías para la consciencia (III): La teoría del modelo interno
• Teorías para la consciencia (II): Global Workspace Theory (GWT)
• Teorías para la consciencia (I): Integrated Information Theory (IIT)
• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Teorías para la consciencia (III): La teoría del modelo interno

Casi me la salto, pero me he dado cuenta de que me quedaba por traer a este blog una tercera teoría sobre la consciencia de las que se comentan en el capítulo de Antonio Chella titulado 'Robots and machine consciousness' dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

Se trata de la teoría del modelo interno, que comentaremos más brevemente, y probablemente de forma más sencilla que las dos anteriores que hemos visto, a saber, la Integrated Information Theory y la  Global Workspace Theory.

Teoría del modelo interno

EcceRobot

La teoría del modelo interno lo que viene a decir es que un agente que opere de manera inteligente, necesita dos modelos internos: un modelo interno del mundo, que represente la realidad exterior, y un modelo interno de sí mismo.

Estos modelos internos, permiten una suerte de, digamos, simulación, es decir, que el agente puede, en esos modelos, simular acciones y evaluar sus resultados. Esta simulación, no puede menos que recordarme, por cierto, el axioma 4 - Planificación del modelo de consciencia de Aleksander y Dunmall que visitamos en este blog hace unas semanas.

De acuerdo con esta teoría del modelo interno, la consciencia surge, no de la interacción del agente con el mundo exterior, sino de la interacción entre el modelo interno del propio agente con el modelo interno del mundo exterior.

Y si, también esta teoría se ha llevado a robots, como el caso, por ejemplo, de EcceRobot, La idea de la implementación es que el módulo controlador del robot, genera en paralelo señales que van hacia el mundo exterior y hacia el modelo interno del mundo que el robot tiene. 

Conclusiones

No hay mucho que añadir a lo ya dicho en posts anteriores. Nos encontramos ante una nueva teoría sobre las consciencia, procedente en el fondo de disciplinas cognitivas diferentes de la robótica pero que encuentran aplicación, o implementación en robots reales.

Lo cual no supone, ni de lejos, como ya hemos expresado, que se haya alcanzado la consciencia en las máquinas, ni que se encuentre cerca. Ni siquiera supone que sea posible llegar a esa consciencia robótica (para ser realistas, las teorías vistas, ni siquiera estamos de que sean ciertas a nivel neurológico y en el cerebro humano).

Lo que demuestran es que existen teorías serias y líneas de trabajo.

Artículos de este blog relacionados

• Teorías para la consciencia (II): Global Workspace Theory (GWT)
• Teorías para la consciencia (I): Integrated Information Theory (IIT)
• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Teorías para la consciencia (II): Global Workspace Theory (GWT)

Sigo con algunas teorías sobre la consciencia, teorías que suelen provenir del campo de la neurociencia o de la psicología pero que pueden habilitar una trasposición a su uso en inteligencia artificial y robótica cognitiva.

Y sigo apoyándome para la exposición, fundamentalmente, en el capítulo firmado por Antonio Chella y titulado 'Robots and machine consciousness' dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

Si en un post muy reciente presentaba brevemente la Integrated Information Theory de Giulio Tononi  ahora me ocuparé de la denominada Global Workspace Theory.

Global Workspace Theory (GWT)

Bernard J. Baas

Global Workspace Theory fue introducida, allá por 1997 por Bernard J. Baars, un neurobiólogo de origen holandés aunque afincado en EEUU y antiguo colaborador del The Neurosciences Institute fundado por el nóbel Gerald Edelman.

Baas describió por primera vez esta teoría en el artículo 'In the theater of consciousness: The workspace of the Mind'.

¿En qué consiste Global Workspace Theory?

Pues bien, la teoría se basa en la observación de que el cerebro humano es capaz de realizar una enorme capacidad de procesamiento inconsciente de manera paralela mientras que, por su parte, la consciencia parece trabajar en serie y con capacidad bastante limitada.

Según eso, Baars propone la existencia en el cerebro de una gran cantidad de procesadores especializados (inconscientes) y de un espacio común ('global workspace') consciente que emite ('broadcast') contenidos a esos procesadores especializados. Estos procesadores especializados compiten por 'ganar' el acceso al espacio global. Aquel procesador que lo consigue es capaz de emitir contenidos hacia los demás y por tanto, en cierto sentido, 'reclutarlos' para seleccionar una acción.

Visualización de GWT

El contenido de este espacio global consciente es condicionado además por el contexto que, de alguna forma, moldea o restringe la competencia entre procesadores o coaliciones de procesadores.

LIDA ('Learning Intelligent Distributed Agent')

Stan Franklin

En realidad, GWT más que una teoría completamente cerrada es un 'framework' en el que se han encajado varias arquitecturas cognitivas, la más importante de las cuales es LIDA ('Learning Intelligent Distributed Agent') desarrollada por Stan Franklin y colaboradores.

El ciclo cognitivo en LIDA es, en esencia, el siguiente:

• El sistema percibe una entidad dando lugar a una percepción ('percept').
• Esa percepción es enviada a un 'buffer' pre-consciente dando lugar a asociaciones locales
• Esa percepción compite por la consciencia
• Si la percepción gana la competición, emite ('broadcast') al resto de procesadores para reclutar recursos
• Se selecciona una acción de acuerdo con una jerarquía de objetivos contextuales
• Una vez seleccionada la acción, ésta se ejecuta y se reinicia el ciclo

Ciclo cognitivo LIDA

La arquitectura LIDA, además, tiene capacidad de aprendizaje con base en el feedback proporcionado por el espacio global, que se envía a los procesadores inconscientes que puede proceder a su ajuste mediante refuerzo o asociación.

Robot XCR-1

Aunque con lo descrito, todavía esta arquitectura pueda parecer muy teórica, lo cierto es que existe, por ejemplo, una implementación accesible libremente en python y es la base de la arquitectura HCA (Haikonen Cognitive Architecture) propuesta por Pentti Haikonen y usada con éxito en el robot XCR-1.

Conclusiones

Como se puede ver, existen teorías sobre la consciencia, con frecuencia inspiradas en la neurociencia, pero que conducen a propuestas implementables y trasladables a robots. 

Bien es cierto que, a falta de estudiar en más detalle lo conseguido, por ejemplo, con XCR-1, no creo que todavía estemos, ni de lejos, ante una verdadera consciencia, pero parecen existir, al menos, vías de trabajo más o menos prometedoras.

Artículos de este blog relacionados

• Teorías para la consciencia (I): Integrated Information Theory (IIT)
• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Teorías para la consciencia (I): Integrated Information Theory (IIT)

Hablar de consciencia en robots, como he venido haciendo en algunos de los últimos posts de este blog, puede parecer algo estrambótico, estrafalario, fuera de un discurso técnico, racional, o incluso realista.

Y sin embargo...

El valor de estudiar la consciencia robótica

Y, sin embargo, aunque personalmente estimo muy lejano, suponiendo que se alcance alguna vez, el momento en que se puedan realizar esa consciencia en un ser artificial, el sólo hecho de estudiarla estimula el debate e ilumina y hace incrementar conocimientos en varias ramas del saber: neurociencia, psicología, filosofía, derecho e inteligencia artificial. Y sólo por ese aporte intelectual, personalmente, creo que vale la pena.

Y sin embargo, además, y pese a lo que pueda parecer, es un campo donde hay estudios y teorías mucho más serias de lo que pueda parecer a primera vista.  

En este post y en otro que publicaré próximamente, voy a revisar dos teorías sobre la consciencia que han ganado atención y cierta relevancia en medios científicos y que me he encontrado mencionadas en más de un libro aunque, como en tantos de los artículos que he publicado en las últimas semanas, me apoyaré para su descripción, fundamentalmente en libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada y, en concreto, el capítulo firmado por Antonio Chella y titulado 'Robots and machine consciousness'. Las dos teorías a que me refiero son:

• Integrated Information Theroy (IIT)
• Global Workspace Theory (GWT)

En este post, me ocuparé brevemente de la primera.

Integrated Information Theory (IIT)

Esta teoría fue lanzada en 2003 por Giulio Tononi, un médico psiquiatra y neurocientífico italiano nacionalizado estadounidense, actualmente director del Centro de Investigación del Sueño y la Consciencia de la Universidad de Wisconsin-Madison (WISC), y cuya última formulación publicada, que yo sepa, puede encontrarse en el artículo 'Integrated information theory: From consciousness to its physical substrate' de 2016.

Giulio Tononi

Según esta teoría, la consciencia, la capacidad para tener una experiencia, depende de la capacidad para integrar información.

Afirma que la experiencia consciente se caracteriza por que el número de posibles estados conscientes es enorme pero que, al mismo tiempo, se percibe como una entidad única. Por tanto, el substrato físico para soportar la consciencia debe ser capaz de integrar una gran cantidad de información y, al tiempo, presentarla como una entidad única.

Sigue a partir de aquí una formulación formal, casi matemática. 

En esa formulación, se afirma que la capacidad de un cierto sistema para diferenciar entre estados, depende de su capacidad de generar información, y esa capacidad se mide mediante la entropía, que es una función de las probabilidades  de las distintas salidas del sistema. 

Y la capacidad de un sistema para integrar información se mide mediante un concepto que denomina información efectiva ('effective information', EI), que es una medida de la interconexión de susbsistemas dentro de un sistema, y cuyo detalle, algo farragoso, excede el ámbito de este post.

El estudio de Tononi y sus colaboradores es, fundamentalmente, de naturaleza neurocientífica y, sin embargo, por su expresión formal y matemática nos acerca a un modelo computacional. 

De hecho, el propio Tononi se refiere a la eventual consciencia en entes artificiales como los robots. Encuentro, por ejemplo, la siguiente afirmación

Any physical system may have experiences to the extent that it can integrate information.

Es coherente: si la consciencia depende de esa capacidad para diferenciar e integrar información, para disponer de un sistema artificial, digamos un robot, que pueda ser consciente 'solo' tenemos que dotarle de esa capacidad.

Sin embargo, y como podemos imaginar, esto no es tan sencillo. Sugiere Tononi que con las arquitecturas de computadores convencionales no se puede conseguir la necesaria capacidad de integrar información y que, como mucho, se pueden conseguir ingenios que simulen un comportamiento externo consciente pero que en realidad sean incapaz de experimentar realmente nada.

Y parece, pues, que se necesitan otro tipo de arquitecturas como pudieran ser, por ejemplo, los sistemas neuromórficos.

 

Conclusiones

La principal conclusión a obtener, creo, aparte de un somero conocimiento de esta teoría, es, precisamente, constatar que el investigar y tratar sobre la consciencia artificial no es tan 'divergente' como pueda parecer. Existen, aunque aún algo primitivas, teorías científicas potencialmente trasladables, además, a modelos computacionales.

Y eso parece querer decir que, aunque no estemos en apariencia cerca, puede que tampoco sea imposible de alcanzar. 

Artículos de este blog relacionados

• Modelos multi-nivel para una auto-conciencia robótica
• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Modelos multi-nivel para una auto-conciencia robótica

Sigo a vueltas con el tema de la consciencia robótica. Y sigo a vueltas con ello porque, personalmente, me parece interesantísimo, porque, además, nos puede ayudar mucho también a entender las consciencia humana y porque, a medida que avanzo en mi indagación del tema, aparecen más y más aportaciones interesantes.

Y sigo, como en los últimos artículos de este blog, usando como fuente principal el  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada y, en concreto, el capítulo firmado por Antonio Chella titulado 'Robots and machine consciousness'.

Y en este post, en concreto, me voy a detener a comentar brevemente alguna de las ideas que sobre auto-conciencia en robots aporta el capítulo. Pero, antes de ello, algún apunte terminológico.

El problema terminológico

Es problemático, o al menos no clara y comúnmente entendido y consensuada, la distinción entre lo que se denomina 'conciencia' y lo que se denomina 'consciencia'. Y es aún más problemático hacerlo traduciendo del inglés. 

Sin entrar en academicismos y no siendo muy formal, decir que, como argumenté en un debate en LinkedIn subsiguiente al artículo anterior sobre consciencia, personalmente utilizo (y está amparado por la Real Academia Española de la Lengua) estos dos términos en el siguiente sentido:

• consciencia: facultad que, de alguna manera, habilita a un agente (normalmente un ser vivo) para disponer no sólo de un modelo del mundo sino también un modelo diferenciado de sí mismo y para utilizar ambos y su interacción, de una forma integrada y coherente.


• conciencia: facultad de orden moral, que de alguna forma implica conocimiento del bien y el mal

Como digo, ambos usos están amparados por las acepciones reconocidas por la Real Academia Española de la Lengua pero advirtiendo que, en otras acepciones, ambos términos se confunden y se hace casi equivalentes como cuando decimos 'ser consciente de algo' o 'tomar conciencia de algo'.

Y se complica más la cosa cuando intentamos trasladar al castellano las palabras en inglés que, de alguna forma, se traducen en esos términos en castellano. En ese sentido, tiendo a traducir la palabra 'consciousness' como consciencia y la no muy empleada 'conscience' como conciencia en el sentido que para ambos términos en castellano yo asigno.

Pero me resulta problemático, sin embargo, traducir manteniendo el rigor y separación conceptuales, la palabra  'awareness' porque se puede traducir tanto como 'consciencia' como también como 'conciencia'. Pero cuando se traduce como conciencia, no es como conciencia en sentido moral, sino como en el sentido de 'tener conciencia de' o 'ser consciente de'. Y cuando se traduce como 'consciencia' creo que no llegar a significar lo mismo que 'consciousness' sino que es como un paso previo, más a una percepción que una verdadera y profunda 'consciencia'. 

Auto-conciencia ('self-awareness') robótica 

Con todas esas precauciones y matizaciones, decir que el autor habla de 'self-consciousness' ('auto-consciencia') y menciona, como un elemento importante de ella la 'self-awareness', digamos,  auto-conciencia o auto-percepción. E identifica esa 'self-awareness' como la capacidad de un agente, digamos un robot, de reflexionar sobre sí mismo, sus percepciones y sus acciones durante su vida operativa. Así expresado, estaría muy cercano al término 'consciencia' tal y como yo lo entiendo.

Los modelos multinivel

En cualquier caso, lo que en el fondo quería mencionar brevemente es la existencia de un tipo de modelos de auto-conciencia (en realidad hay más) que establecen una suerte de modelos jerárquicos o, por mejor decirlos, en niveles.

De acuerdo a estos modelos computacionales de la mente, los niveles más bajos están cercanos a la percepción y la actuación refleja (lo que en seres vivos vendrían a ser las actuaciones instintivas), en el nivel intermedio estarían las capacidades deliberativas de planificación y razonamiento, lo que creo que 'mapea' con el razonamiento consciente y, en el nivel más alto se sitúan los módulos dedicados a la auto-monitorización y la auto-reflexión 

Modelo de la mente de Minsky

Nos menciona también Chella, por ejemplo, un modelo de la mente debido al mismísimo Marvin Minsky y en que se identifican, de abajo a arriba (orden creciente de complejidad) los siguientes niveles:

• Reacciones innatas
• Reacciones aprendidas
• Pensamiento deliberativo
• Pensamiento reflexivo
• Pensamiento auto-reflexivo
• Pensamiento auto-consciente

No son estos, ni mucho menos, los únicos modelos que se mencionan de auto-consciencia robótica, ni siquiera los únicos modelos en niveles. Quizá deba volver a ellos y profundizar más, pero de momento sólo quería dejar constancia de su existencia.

Y de paso reseñar que me ha resultado llamativo el cierto paralelismo con el modelo de emociones propuesto por el famoso neurocientífico Antonio Damasio. No sé cuánta conexión existe entre unos modelos y otros...pero no creo que el paralelismo sea del todo casual. Y si no es casual es que, quizá, quizá, estén en lo cierto.

Conclusiones

Aunque creo poder afirmar tranquilamente que no existen logros muy significativos en materia de consciencia robótica, sí que se observa la existencia de numerosos modelos y una cierta convergencia o cercanía entre ello. 

A lo mejor, solo a lo mejor, eso puede ser un indicador de que algo sí se ha avanzado en esta materia.

Artículos de este blog relacionados

• La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.
• El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

La idea de consciencia robótica y el modelo conceptual de Aleksander y Dunmall.

Cuando la semana pasada terminé el post 'El elusivo objetivo de la consciencia robótica. Concepto y axiomas' pensaba retomar el tema de la consciencia robótica pero de una forma algo más ligera. Sin embargo, me parece tan interesante que creo que voy a detenerme bastante en ese capítulo firmado por Antonio Chella dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

En efecto, y antes de pasar a lo que allí puedo encontrar sobre implementación o incluso tests de consciencia, antes quiero revisar algún modelo todavía conceptual. 

En concreto, en este artículo, aparte de traer a colación una definición aproximada de consciencia robótica, probablemente insuficiente, pero interesante, quiero repasar el modelo conceptual propuesto por Aleksander y Dunmall.

Una definición sencilla de consciencia robótica.

Aunque no es una definiciones muy ambiciosa y sólo centrar alguna idea, me interesa mencionar. La  debida a Tihamer Nemes y recogida en su libro 'Cybernetic Machines' que se remonta, nada más y nada menos que a 1962 y que dice, simplemente, que la consciencia en un robot es:

the capability of a robot to discriminate between self and others.

Probablemente sintamos que esta definición se queda muy corta, pero me parece sin embargo interesante porque, en efecto, y volveremos a ello al final, ese saberse reconocer a 'uno mismo' como diferente del entorno, parece un atributo más que relevante de una consciencia.

La definición de consciencia de Aleksander y Dunmall

Más elaborado que esta definición primigenia de Nemes, tenemos el modelo axiomático propuesto por Igor Alksander (al cual ya mencionamos en un post anterior) y Barry Dunmall en 2003 y que se recoge en su artículo 'Axioms and Tests for the Presence of Minimal Consciousness in Agents'. En él, y como veremos más abajo, caracterizan la consciencia con base en cinco axiomas, de los cuales luego deducen algún corolario.

Se observa en el título que no se habla explícitamente de robots, sino de agentes. Como explico en uno de mis primeros vídeos de 'The robot notes', en concreto, el titulado 'The robot concepts' una de las formas de entender un robot es, precisamente, como una forma de agente. Es cierto que un agente, y un agente inteligente, puede ser muchas cosas, incluyendo a un ser humano o, incluso, principalmente un ser humano. Pero también un robot es un agente y un agente inteligente. En el artículo, y aunque los axiomas que en seguida veremos se suelen explicar a partir de hallazgos de neurociencia en humanos, claramente están orientados a posibilitar modelos computacionales de consciencia como, por ejemplo, sucedería en robots. Y de hecho, los autores dicen:

casting  this material in the domain of physically realisable robot-like machinery is exploited as a hook on which to hang the more general axiomatic theory.

Establecido esto, y antes de pasar a los axiomas propiamente dichos, traemos aquí la definición que usan los autores de consciencia, aportando una definición que ellos mismos califican como rudimentaria y de trabajo. Nos dicen:

Being conscious is defined by "having a private sense of: of an 'out-there' world, of a self, of contemplative planning and of the determination of wether, when and how to act.

Se verá a continuación que esa definición encaja muy bien con los axiomas, pero ahora quiero resaltar esa doble visión del exterior ('out-there') y el propio agente / robot ('the self').

El modelo axiomático de consciencia de Aleksander y Dunmall

Dicho esto, pasamos ya a revisar brevemente los cinco axiomas. Según los autores, para considerar a un agente consciente este debe cumplir cinco axiomas:

• Axioma 1 - Representación ('Depiction'): el agente tiene estados perceptivos que representan partes del mundo exterior.


• Axioma 2 - Imaginación ('Imagination'): El agente tiene unos estados internos imaginativos que recuerdan partes del mundo exterior o que crean sensaciones similares a las del mundo exterior.


• Axioma 3 - Atención ('Attention'): El agente es capa de seleccionar qué partes del mundo exterior representar o cuáles imaginar.


• Axioma 4 - Planificación ('Planning'): El agente dispone de medios para controlar las secuencias de estados imaginativos de cara a planificar acciones.


• Axioma 5 - Emoción ('Emotion'): El agente tiene estados afectivos adicionales que evalúan las acciones planificadas y determinan las acciones consiguientes.

Estos axiomas se expresan de forma literal pero también con una notación formal de tipo matemático que al final del artículo complican un poco su lectura (hay que recordar lo que significa cada símbolo) pero que ayudan a darle rigor y acercarlos a modelos computacionales. 

Aparte de exponer y explicar los axiomas, los autores razonan sobre ellos y extraen alguna conclusión adicional (algún corolario).

De estos axiomas, y un poco a bote pronto, decir que sorprende un poco el que afecta a la emoción porque no parece responder del todo a la idea intuitiva que tenemos de emoción (los otros cuatro sí me parece que son muy claros).

Un breve apunte sobre auto--consciencia

Echo también un poco en falta la visión interna del agente / robot, los estados que representan al propio agente / robot, que me parecen esenciales en una idea de consciencia y que, de hecho, sí aparecen en la definición de los autores ('the self') y muy claramente en la propuesta de Nemes.

Esta dualidad entre exterior e interior, parece clave en el entendimiento de consciencia y aparece en otros autores que ya hemos visto en este blog, como Jun Tani, y, seguramente aparezca repetidamente en el futuro. 

Conclusiones

Los autores apuntan hacia el final del artículo la idea de partir de un entendimiento del funcionamiento neurológico de los seres vivos en el sentido de llegar a entender cómo soportan esos cinco axiomas entendiendo que, actuando así, se pueden llegar a obtener modelos computacionales, es decir, por lo que a este artículo concierne, robots conscientes.

¿Sucederá así?

Desde luego, de momento no creo que estemos en condiciones de afirmar que sea imposible (ni tampoco lo contrario) y, en cualquier caso, creo que se pueden conseguir, estoy seguro de que se conseguirán, avances tanto en el propio entendimiento de la consciencia humana, como en la consecución de máquinas (robots) más inteligentes, sean conscientes (que parece difícil ahora mismo) o no.

El elusivo objetivo de la consciencia robótica. Concepto y axiomas.

Uno de los objetivos finales, o al menos más avanzados, de la robótica cognitiva sería el alcanzar la consciencia ('consciousness') en los robots.

No está claro que sea éticamente deseable ni tampoco técnicamente viable (desde luego, ahora mismo parecemos estar muy lejos de ello) conseguir la consciencia robótica , pero más allá de esa deseabilidad y esa viabilidad, hay un elemento previo que hace difícil el alcanzar esa consciencia: el propio concepto de lo que es la consciencia. 

Y si no sabemos lo que queremos conseguir, en qué consiste y qué la caracteriza, parece muy difícil alcanzarla salvo que esta consciencia sea un fenómeno emergente, no intencionado, de otros desarrollos cognitivos avanzados (algo que subyace a algunos de los miedos asociados a la super-inteligencia y la presunta singularidad).

En un post futuro hablaré de algunos planteamientos y puede que avances en materia de consciencia robótica pero en este, simplemente, me voy a detener en el problema en sí mismo: qué es  la consciencia y qué la caracteriza.

Y para hacerlo utilizo como base, como en muchos de los últimos artículos, las aportaciones del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada y en este caso concreto, en el capítulo que firma Antonio Chella de la Universidad de Palermo.

¿Qué es la consciencia? Los enfoques experiencia y funcional

Antonio Chella

Por qué la búsqueda de la consciencia es difícil, tecnología aparte, es sencillo de entender y Chella nos lo deja claro nada más empezar:

There is no accepted definition of consciousness so far

Así que, si no sabemos cuál es el objetivo que queremos alcanzar, si no estamos de acuerdo en qué es la consciencia pues, bueno, es difícil conseguirla o al menos, estar seguros de haberlo conseguido.

Nos comenta Chella, no obstante, la existencia de dos grandes enfoques principales: el enfoque experiencial y el enfoque funcional.

En el enfoque experiencial asignamos consciencia a 'cosas' que tiene experiencias visuales, sensaciones corporales, imágenes mentales y emociones o, como afirma Thomas Nagel en su famoso 'What is it like to be a bat?' y recoge Chella, cuando el sujeto experimenta que existe 'algo' que es ser ese propio sujeto. 

En el enfoque funcional, más que sensaciones, los elementos conscientes exhiben algunas capacidades o funciones como que procesan la información disponible, son conscientes ('aware' no 'conscious') de sí mismos, disponen de un modelo de sí mismos y de su entorno, generan un discurso interno y se relacionan mediante interacciones sensomotoras con el exterior.

Axiomas para una consciencia

En el capítulo citado, Chella hace un breve recorrido histórico de los trabajos en materia de consciencia robótica, en los que no me detendré ahora, y también en algunos trabajos y experiencias procedentes de la neurociencia. A lo mejor vuelvo a ellos, pero ahora, manteniendo la intención de este post de revisar cómo se intenta caracterizar la consciencia, me detendré a mencionar los cinco axiomas que Igor Aleksander propuso en 1992 como aspectos a verificar para concluir que un organismo es consciente. Son los siguientes:

• Aprendizaje: Un organismo que no aprende, no puede ser consciente


• Estado interno: Un organismo consciente posee un estado interno que representa el mundo exterior


• Atención al estado: Un organismo consciente es capaz de prestar atención a ese estado interno


• Acciones: Un organismo consciente es capaz de generar estados internos relacionados con entradas externas y generar acciones adecuadas


• Predicción: Un organismo consciente es capaz de predecir eventos externos mediante desarrollos controlados de su estado interno

Aunque quizá eche en falta alguna mención al estado interno que representa al propio organismo, no solo a su entorno, este planteamiento de Aleksander me parece muy interesante porque recoge de forma muy clara características que deseamos, enlaza muy bien con el concepto de agente inteligente que se maneja en inteligencia artificial y robótica y aproxima a una implementación real, no a una mera especulación.

Conclusión

Todavía 'hay mucho que trillar', muchos que investigar y consensuar a nivel de filosofía, psicología y neurociencia para tener claro qué es la consciencia en seres vivos y especialmente humanos y también mucho que trabajar para conseguirla en una máquina, en un robot, y eso siempre suponiendo que sea algo deseable y alcanzable.

De momento, ahí dejo algunas de las ideas existentes y en futuros artículos veremos alguna idea de cómo se avanza en este campo en el caso de robots e incluso el planteamiento de alguna prueba de consciencia.

Consciencia de las máquinas: el naturalismo biológico y la necesidad de prudencia

Ya hemos tratado en más de una ocasión en este blog el tema de la consciencia en las máquinas y más concretamente en los robots. No puedo negar que me resulta un tema muy atractivo, tanto el entendimiento del fenómeno de la consciencia en los humanos como la posibilidad, o no, y en caso afirmativo de qué manera, conseguirla, esa consciencia en robots.

Lo cierto es que, a día de hoy, y como ya he comentado en artículos pasados, ni entendemos la consciencia humana, ni somos capaces de conseguirla en robots y ni siquiera está muy claro que sea deseable alcanzar esa consciencia en los robots, caso de que fuese posible.

Eso me va a llevar a pedir, o aconsejar al menos, prudencia.

La visión de Damasio sobre la consciencia

Ya comentamos brevemente hace unas semanas la visión de Antonio Damasio sobre la consciencia, una visión que resumí y con la que especulé en los artículos titulados 'Derivadas del pensamiento de Damasio (I): Consciencia de los robots y la hipótesis de la sensorización masiva', 'Derivadas del pensamiento de Damasio (II): La dudosa consciencia del software y los límites del transhumanismo' y 'Consciencia de los robots: Antonio Damasio versus Jun Tani'.

Lo que me interesa recordar aquí es, simplemente, que para Damasio, la aparición de la consciencia está indisolublemente unida a la existencia de un cuerpo, ya que es la creación de imágenes del propio cuerpo lo que posibilita la aparición de esa consciencia.

El naturalismo biológico de John Searle

Leyendo el libro 'Artificial Intelligence. A modern approach' de Stuart Russell y Peter Norvig encuentro una muy breve referencia al llamado naturalismo biológico del filósofo John R. Searle y, en concreto, a lo que este pensador expresaba en un artículo ya antiguo, el titulado 'Minds, brains and programs' y publicado en 1980 en la revista 'The behavioral and brain sciences'.

Aunque tengo dicho artículo justo delante de mí en el momento de escribir este post, confieso que aún no lo he leído, por lo que, para lo que sigue, 'me fío' de lo que acerca del mismo resumen Russell y Norvig, Si su posterior lectura, que espero hacer en breve, me hiciese cambiar de opinión respecto a lo que a continuación voy a decir, cosa que dudo, lo haría constar como una modificación de este post o, quizá, como un nuevo post.

De todas formas, y fiándome, como digo, de lo que cuentan Russell y Norvig, lo que entiendo es que el naturalismo biológico de Searle entiende que la consciencia está unida a la realidad física, en concreto al sistema nervioso y los fenómenos neurobiológicos, aunque de alguna forma los trasciende y se sitúa en un plano superior o diferente. o dicho de otra forma, más parecida a como lo expresan Russell y Norvig, la consciencia es una característica emergente de alto nivel pero causada los fenómenos fisiológicos que se producen en las neuronas.

De alguna forma, pues, la consciencia, dicho de una forma algo simplista, necesita de las neuronas y su existencia está de alguna manera ligada a ellas. Sin neuronas, no hay consciencia. Sin embargo, si esa consciencia de alguna forma "está en las neuronas", no lo está por ejemplo, y como dicen Russel y Norvig, en un transistor de silicio.

Parece que esta forma de pensar, implica que un intelectual como Searle considera imposible la aparición de consciencia en un robot...al menos un robot fabricado con metal, plástico y silicio.

Según leo, esta argumentación de Searle ha sido discutida y eventualmente refutada aunque sin alcanzarse consenso ni a favor ni en contra. En concreto, Russell y Norvig aportan el caso de un relato de ciencia-ficción 'They are made out of meat' de Terry Bisson, en que unos robots alienígenas que llegan a la Tierra se sorprenden de que unos seres hecho de carne puedan pensar. La misma línea de razonamiento de Searle, en su caso, les llevaría  deducir que sólo pueden ser conscientes seres con mentes hechas de silicio, pongamos por caso.

La necesidad de prudencia

Aunque me resulta interesante conocer la teoría de Searle y sus refutaciones, en el fondo lo que pretendía con este post es llegar a esta llamada final a la prudencia. 

Y es por eso que no creo que la lectura detallada del artículo de Searle me haga cambiar de opinión respecto a lo que sigue.

El caso es que no deja de sorprenderme, una y otra vez, tanto en publicaciones y debates ligeros (en blogs, revistas, webinars, etc) como incluso en autores sesudos, como puede ser el caso de Searle, la seguridad, la suficiencia diría, con que se afirman cosas como que no se puede conseguir la consciencia en los robots o que la inteligencia artificial general es imposible y que la singularidad nunca llegará. O justo lo contrario, la seguridad y suficiencia con que otros afirman, y como dice Kurweil, que la singularidad está cerca, que llegaremos a conseguir la super-inteligencia y también la consciencia de los robots.

Creo que hay que ser más prudentes.

Sencillamente, no lo sabemos. 

Podemos opinar, opinar incluso con ciertos datos, ciertas argumentaciones racionales, ciertos síntomas. Pero saberlo, lo que se dice saberlo, no lo sabemos. Ni nuestro conocimiento del cerebro humano es suficientemente profundo ni nuestro desarrollo de la inteligencia artificial y la robótica suficientemente avanzados.

Así que no sabemos si es posible o no conseguir una consciencia artificial y no sabemos si se puede alcanzar o no la singularidad.

Podemos tener opiniones, podemos tener convencimientos, incluso íntimos convencimientos, con base en conocimientos, en intuiciones o en fe religiosa. Pero por fundadas y razonadas que éstas opiniones y convencimientos puedan ser, sólo son eso, opiniones.

Seamos, pues, prudentes, casi diría modestos, en nuestras afirmaciones.