Patrones y significados. La verdadera naturaleza del entendimiento y la cognición

Los algoritmos y las máquinas inteligentes, cada vez parecen exhibir un mayor conocimiento, un mayor entendimiento de la realidad, y esa sensación se ha visto fuertemente incrementada en los últimos meses por los grandes avances en materia, fundamentalmente aunque no únicamente, de procesamiento de lenguaje natural y de información expresada mediante ese lenguaje natural.

Pero ¿es así? ¿De verdad las máquinas cada vez entienden mejor al mundo y a nosotros, los humanos?

Veamos.

La esencia del Machine Learning

Los avances más espectaculares que se han realizado en inteligencia artificial ultimamente, se incluyen dentro del ámbito del machine learning y más específicamente del deep learning.

A grandes rasgos y simplificando un poco, podríamos decir que la esencia del machine learning (y, por tanto, la esencia del deep learning y de gran parte de la inteligencia artificial más avanzada que se hace hoy en día) consiste en detectar patrones en los datos, descubrir las regularidades y relaciones que anidan en ellos de forma que, con base en esos patrones detectados, podamos construir un modelo del mundo (o, más bien, del 'cachito' del mundo a que se refiere la problemática concreta que estemos estudiando) y que podamos utilizar ese modelo del mundo (lo puedan utilizar los algoritmos en realidad) para predecir resultados o comportamientos ante nuevas situaciones que asumimos se comportan conforme a esos mismos patrones.

Y los resultados son en general muy satisfactorios, a veces impresionantes y de aspecto, desde luego, muy inteligente.

Patrones y entendimiento

¿Pero es eso verdadero conocimiento? ¿Tienen los algoritmos y las máquinas inteligentes, al menos las basadas en machine learning, verdadero conocimiento? ¿Entienden realmente lo que están haciendo?

Bueno, puede haber diversas opiniones pero en esencia la respuesta parece ser negativa.

En concreto, en el capítulo firmado por Pentti Haikonen y titulado 'On artificial intelligence, consciousness and robots' incluido dentro del libro 'Computational Approaches to Conscious Artificial Intelligence' editado por Antonio Chella me encuentro esta argumentación de Haikonen en contra:

Pattern detection and classification alone does not constitute understanding.

Es decir, simplemente, la detección de patrones no constituye un verdadero entendimiento de la materia a que afectan dichos patrones, un entendimiento que sí poseemos los humanos, y eso parece alejar a la inteligencia artificial de la inteligencia humana y, quizá, sólo quizá, eso aleja también la posibilidad, en el estado del arte actual, de conseguir una inteligencia artificial general y unas máquinas conscientes porque parece que ambas cosas reclaman un verdadero entendimiento del que ahora carecen.

Según el mismo autor, en la inteligencia artificial no tenemos unas verdadera cognición, además, porque esa cognición debería estar apoyada en significados:

Cognition does not arise from the linking of symbols, it arises from the linking of meanings.

Ya hablamos en el post anterior sobre la problemática de los significados y su fundamentación ('symbol grounding') y cómo actualmente no se está consiguiendo, al menos por el momento y de forma generalizada, a pesar de investigarse en ello, esa fundamentación de significados con base en la experiencia 'sensorial'.

Conclusión

Así que la sensación es que no, que las máquinas no entienden realmente lo que están haciendo y que no parece que con el tipo de tecnologías y algoritmos actuales se pueda conseguir.

Pero no quisiera que esa afirmación fuese una afirmación absoluta, casi ni siquiera una verdadera afirmación porque ya sabemos la capacidad que tienen la ciencia y la tecnología para sorprendernos y el acelerado avance conseguido en los últimos meses y años abren la puerta a casi cualquier cosa.