Muestras de que cerebro y redes neuronales no funcionan igual

Ya he mencionado varias veces en este blog cómo las redes neuronales, la tipología de algoritmos constituyentes del deep learning, se inspiran en el cerebro y sistema nervioso humanos pero como la semejanza no pasa de eso, una semejanza y una inspiración, pero que no podemos suponer el mismo funcionamiento.

La ignorancia sobre el cerebro humano

En primer lugar, mal podemos imitar, imitar de manera profunda quiero decir, el funcionamiento de algo que realmente desconocemos. 

Y no sabemos cómo funciona realmente el cerebro, aunque la neurociencia vaya avanzando a grandes pasos y cada vez arroje más elementos de luz. Así que, si no sabemos cómo funciona el cerebro, mal podemos diseñar un algoritmo que opere de la misma manera. 

La improbabilidad de conseguirlo es tan alta que roza la imposibilidad.

Síntomas de la diferencia entre cerebro y redes neuronales

Por si fuese poco esa 'casi' imposibilidad  teórica, existen muchos síntomas, no me atrevo a llamarles pruebas, pero sí síntomas claros, de que, en efecto, las redes neuronales no funcionan igual, o al menos no exactamente igual, que el cerebro humano.

Están descritos en la literatura, e incluso muchos de nosotros los podemos experimentar en nuestra interacción, por ejemplo, con agentes conversacionales, errores absurdos de los algoritmos de inteligencia artificial en general y deep learning en particular. Algoritmos que, en general funcionan bien, o incluso muy bien, fallan a veces de formas tan tontas que nos resulta incomprensible por lo absurdo.

Pero es que esos fallos son tontos y absurdos si pensamos como humanos con nuestro cerebro de humanos, pero no son en el fondo absurdos para una red neuronal 'pensando' como red neuronal con su 'cerebro' de red neuronal.

Está descrito incluso cómo, ex-profeso, y no siempre con santos propósitos, se puede engañar a algoritmos de deep learning. Se puede, por ejemplo, conseguir que algoritmos de visión artificial, que funcionan ben o muy bien, sean engañados sin embargo por otros algoritmos mediante el cambio de unos pocos píxeles de la imagen, unos pocos píxeles que para el ojo (y sobre todo el cerebro humano) son prácticamente invisibles y que no cambian nada de nuestra comprensión de esa misma imagen.

Un poco en esa línea, en el libro 'Artificial Intelligence. A modern approach' de Stuart Russell y Peter Norvig, se nos dice, a propósito precisamente de la visión artificial y del uso del deep learning en este campo que:

These findings suggest that deep learning models recognize objects in ways that are quite different from the human visual system.

Conclusión: cerebro y redes neuronales

Así que, tanto la lógica, como los síntomas que tenemos, apuntan a que cerebro y redes neuronales funcionan de manera diferente, no sabemos cuánto de diferente o parecido, a pesar de haber servido el primero, el cerebro, como inspiración de las segundas, las redes neuronales.

Quizá, y solo quizá, si algún día, si llegamos a comprender de forma profunda cómo funciona el cerebro, podamos construir redes neuronales, o puede que un algoritmo completamente diferente, capaz de emular realmente al cerebro humano, no sólo en sus resultados externos sino también en funcionamiento interno.  

Quizá, sólo quizá, pero si en algún momento avistamos que eso será realmente posible, habrá que pensar si es lo que queremos y, sobre todo, como lo gestionaríamos de una manera responsable.