La tristeza del robot. Una visión literaria sobre roboética

Este fin de semana y con bastante retraso la verdad, he publicado una sencilla reseña de la novela 'Klara y el sol' del Nobel de literatura Kazuo Ishiguro, en mi blog dedicado a la literatura y humanidades: 'El Cielo del Gavilán'.

Y digo que publico la reseña con bastante retraso porque, realmente, leí la novela en Semana Santa, hace ya más seis meses. Y de hecho, allá por Abril, publiqué en este mismo blog el artículo 'Klara o la relación robots-personas desde el punto de vista del robot'.

Perspectivas en las relaciones robots-persona.

En ese artículo, destacaba la novedad que, aunque afrontado desde un punto de vista literario y ficcional, que no técnico, suponía el contemplar las relaciones robot-persona (HRI, 'Human-Robot Interaction'), que tanto me interesan y que ocupan una parte muy importante de mi labor dentro de OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial), no desde la perspectiva habitual, que es una perspectiva externa, desde fuera, un poco desde la perspectiva humana sino, por el contrario, mirarlas desde el lado del robot.

Es evidente que esa perspectiva sólo puede adoptarse desde la ficción, porque a despecho de fantasías e incorrecciones, los robots actuales están muy lejos de tener sentimientos, ni consciencia ni, por lo tanto, ser capaces de aportar una visión propia, una perspectiva del robot, de las relaciones robots-persona.

'Klara y el sol', pues, podría considerarse una suerte de 'experimento conceptual', que no real.

Antes de continuar, aclarar, sin desvelar demasiado de la novela, que Klara es lo que en la novela denomina una Amiga Artificial, un robot humanoide destinado a servir de compañía a niños y adolescentes. Y que la novela nos cuenta la existencia de Klara, desde que se encuentra expuesta en una tienda y aspira a que algún humano la adquiera, hasta un final que no desvelaré aunque, en el fondo, es lo que inspira este post.

La tristeza del robot

Portada de 'Klara y el sol'

En la relación de Klara con los humanos, y en la constante observación y análisis de su comportamiento Klara incurre en alguna interpretación errónea o confusa de lo que sucede. Pero siempre, al fin y al cabo está programada para ello, intentando agradar, acompañar y ayudar a Josie, su amiga humana.

Se nos presenta a Klara como bastante racional y neutral en sus evaluaciones y decisiones, al fin y al cabo es un robot, pero durante toda la novela se nos recuerda que Klara es una Amiga Artificial especial, más observadora de lo normal y, aunque bajo esa capa de neutralidad, y aunque nunca se afirme tan directamente ni de muestre de forma explícita, Klara parece tener sentimientos.

La verdad es que es difícil no empatizar con el personaje de Klara y cogerle un cierto cariño. Al menos eso me ha sucedido a mí.

En ese final que no debo desvelar, existe, pese a la capa de neutralidad, lo que yo interpretaría como una cierta tristeza en Klara, una tristeza que tiene que ver con su propio destino y con el trato que ha recibido de los humanos, muy especialmente de Josie, a lo largo de su existencia.   

La tristeza de los humanos

Portada de 'Los ingratos'

Ha querido la casualidad que hace pocos días haya finalizado la lectura de la novela 'Los ingratos' de Pedro Simón. La novela no tiene nada que ver en su argumento con 'Klara y el sol', al menos en su argumento formal. 

En este caso se nos habla de la vida de una familia en la España de los años 70 o así, contada desde la perspectiva de David ('Currete'), el hijo menor, del traslado a un pueblo donde la madre ejerce de maestra, de la vida en ese pueblo, y de la relación de amistad que establece con Emérita, una mujer sencilla y sorda, que entra al servicio de la familia.

De nuevo, no quiero desvelar mucho del contenido pero debo decir que no he podido evitar establecer el paralelismo, la correspondencia de Emérita con Klara y de David con Josie.

Y es que al final, se intuye en Emérita una tristeza similar a la que creo observar en Klara ... y por muy parecidos motivos.

Klara y la ética de los robots

Al hablar de Klara, he dicho que percibo en tristeza en su interior y que es difícil no empatizar con ella. 

Y esto no es más que una demostración del poder de la antropomorfización, de la asignación de capacidades y sentimientos humanos a las cosas o seres con que nos relacionamos, fenómeno del que hemos hablado abundantemente en este blog y que es básico para entender y tratar las relaciones robots-persona, desde el punto de vista operativo y de diseño, pero sobre todo desde el punto de vista ético. Estoy suponiendo sentimientos en Klara, estoy suponiendo una forma de entender la existencia similar a la humana y estoy sintiendo empatía y simpatía por ella.

Pero hay otro aspecto también de vertiente ética que queda iluminado, o al menos ilustrado, de alguna manera por la novela de Ishiguro. 

En algunos tratados de ética sobre robots, se analiza si debemos considerarlos como cosas sin más o si debemos concederles un status especial. Más específicamente, se cuestiona si tiene alguna resonancia moral el hecho de maltratar a un robot, más allá de, quizá, poderlo considerar un ataque a la propiedad cuando el robot no es nuestro. Se plantea, pues, si es lícito o no, desde un punto de vista moral, maltratar a un robot.

Y aunque no percibo un consenso absoluto, si creo detectar una tendencia mayoritaria hacia considerar inmoral el maltrato de un robot, y más cuanto más se parezca ese robot a un animal o a un humano. Y el razonamiento no se basa tanto en concederle a los robots status moral o sugerir que sean sujetos de derecho, sino que se basa en lo que ese comportamiento enseña y demuestra del humano que lo comete.

¿Qué tipo de sentimientos y actitudes morales subyacen en un humano capaz de maltratar a un robot que habla, que simula sentimientos, que en cierto sentido ha sido su juguete, su mascota, su amigo, quizás? ¿Qué principios morales nos sugiere ese humano? Y, sobre todo, ¿Qué nos hace pensar que en relación con personas, ese 'maltratador de robots' va a tener un comportamiento exquisito y completamente moral? Debemos, parece, evitar el maltratar a un robot, no tanto por el robot en sí, sino por lo que demuestra y afecta al humano.

Es, en cierto sentido, el paralelismo en la relación humano-robot y humano-humano, donde puede subyacer gran parte del peso ético del comportamiento hacia los robots.  Y si no, sugiero al lector que se haga con las dos novelas que menciono, 'Klara y el sol' y 'Los ingratos' (anticipo que, bajo mi punto de vista, ambas son valiosas e interesantes desde el punto de vista exclusivamente literario), las lea y luego compare, como he sugerido en este post, a Klara con Emérita, a Josie con David y valore, desde el punto de vista ético la relación de Josie con Klara y de David con Emérita. 

Conclusión

En más de una ocasión he dicho (y he leído), que la relación robots-personas y la roboética, nos hablan, en el fondo, más que de los robots, de los propios seres humanos, de nuestros valores, nuestros comportamientos, nuestra auto-percepción y nuestra ética.

Y la ciencia ficción es un buen campo para la experimentación conceptual, especialmente en lo relativo del comportamiento y a moral.

Así que, sea una percepción mía, o sea real, la supuesta tristeza de Klara puede enseñarnos mucho sobre los seres humanos y nuestras relaciones.