Computación afectiva y voz: detección de estados anímicos en la cara y en la voz

Un campo de la computación, y muy especialmente de la que tiene que ver con la inteligencia artificial, que recibe gran interés, aunque al tiempo resulta polémico o desafiante desde el punto de vista ético y regulatorio, es la detección de emociones por las máquinas, por algoritmos y robots.

Computación afectiva

Aunque últimamente quizá no se utilice mucho este nombre, existe un subconjunto de la inteligencia artificial denominado computación afectiva ('affective computing') que se concentra en ello, una disciplina a la que hace un tiempo dediqué bastante espació en este blog a propósito de la lectura del libro 'The Oxford handbook for affective computing' y una disciplina que su creadora, Rosalind Pickard definía como 

computing that relates to, arises from, and deliberately influences emotion.

una definición compacta y clara y no exenta de ambición e incluso polémica puesto que declara la intención, no sólo de detectar emociones sino de, deliberadamente, influir en ellas.

Modelos de emociones. 

Una de las tareas de la computación afectiva es, claro, detectar las emociones de los humanos. Y el resultado de esa detección podría ser, simplemente, una etiqueta que clasifique la emoción. En esa labor es frecuente acudir al campo de la psicología para que nos defina y clasifique de alguna manera las emociones humanas.

Un muy famoso, aunque no completamente aceptado, modelo de emociones es el de las seis emociones básicas definidas por Paul Ekman, que identificaba seis emociones que, además, se daban en todas las culturas: alegría, ira, miedo, asco, sorpresa, tristeza.

Las seis emociones fundamentales de Ekman

Hay que decir que este modelo ha sido discutido y que el propio Ekman amplió este modelo para llegar hasta las quince emociones, en lugar de 6.

Detección visual de emociones 

No es del todo difícil imaginar cómo trabajar en la detección visual de emociones. Más o menos, la idea podría ser: partimos de un sensor (típicamente una webcam) que captura la imagen y se le da como entrada a un algoritmo (típicamente una red neuronal, probablemente con unas primeras capas de convolución para 'entender la imagen' y otras capas densas finales para realizar la clasificación con una función de actividad final de tipo softmax). A este algoritmo, evidentemente se le ha entrenado previamente, seguramente mediante aprendizaje supervisado, para que aprenda a hacer la clasificación.

El mismo Ekman planteó también otra forma de trabajar, no pensando en machine learning, pero sí orientada a la detección visual de las emociones, mediante el desarrollo de FACS ('Facial Action Coding System') en que se definen una serie de unidades de acción ('action units') que eran como elementos de la expresión facial anatómicamente observables y que luego se relacionan con emociones.

FACS y action units

Lo que no cabe duda es de que, con mayor o menor acierto, es viable la detección de emociones humanas mediante la expresión facial

Análisis de sentimiento

Pero hay otros mecanismos. Es muy conocido en el campo de la inteligencia artificial el denominado análisis de sentimiento ('sentiment analysis'), que trabaja con un texto (texto que lo puede haber tecleado un usuario, que puede proceder de un tuit, un correo electrónico, una noticia, un documento, o que puede provenir de la conversión a texto de lo dicho vocalmente por una persona) y se le asigna una etiqueta que representa la actitud del emisor/emisora de ese texto hacia lo que allí expresa.

Es una tarea propia del procesamiento de lenguaje natural y que da buenos resultados en el estado actual de la tecnología.

Detección acústica de emociones

Pero lo que, en el fondo, me ha animado a escribir este post es otra forma de detectar emociones humanas, en este caso, con base en la voz y las propiedades físicas del sonido emitido por el humano.

Se trata de una forma de trabajo que me encuentro descrito en el libro 'The Oxford Handbook of Computational Linguistics' editado por Ruslan Mitkov y, en concreto, en el capítulo 'Text-to.Speech synthesis' de Thierry Dutoit y Yannis Stylianou.

En este caso, se trabaja con el propio sonido, con la onda del sonido, no con el texto que se expresa, enlazando un poco, aunque creo que no exactamente, con la idea de la prosodia.

Se trata de la exposición de un trabajo ya antiguo, realizado por la propia Rosalind Pickard de la que hablábamos más arriba, y que relaciona las propiedades del sonido de la voz con las seis emociones de Ekman, que mencionábamos antes.

En la tabla se pueden observar esas correspondencias.

Como se puede ver en esa tabla, Pickard se fijaba en cuatro propiedades:

• La velocidad del hablante, es decir la tasa a la que va emitiendo elementos léxicos


• El tono ('pitch') es decir, si es más agudo o más grave, (medido a partir de la frecuencia fundamental del sonido de la voz) y del cual evalúa tanto su valor medio como el rango de tonos empleados.


• La intensidad de la voz 

Aunque parece un estudio algo preliminar y no del todo operativo, da buenas pistas de cómo las propiedades físicas de la voz correlan con las emociones y estados anímicos.

Combinaciones

No me resulta difícil imaginar que un mecanismo avanzado de detección de emociones, como podría incluir un robot social avanzado, probablemente reuniría percepción multisensorial y ejecutaría un análisis multimodal que combinaría los elementos visuales, textuales, acústicos e incluso alguno más, para proporcionar un mecanismo de detección de emociones altamente sofisticado y efectivo.

Conclusiones

Por si alguien lo duda a estas alturas, las máquinas, combinando sensores y procesamiento mediante inteligencia artificial, están bien preparadas para detectar emociones en los humanos, unas emociones que pueden detectar, al menos, mediante la imagen facial, el texto expresado por la persona y, además, por el propio sonido de la voz.

Emoción artificial

Un campo apasionante, a la vez que intimidante, en lo relativo a la inteligencia artificial y la robótica cognitiva, es todo lo que tiene que ver con la gestión de las emociones.

La gestión de las emociones por entes artificiales

Me refiero a la detección de emociones en humanos, a la reacción inteligente de un agente artificial inteligente (digamos un algoritmo, un agente conversacional o un robot social) ante esas emociones humanas, y a la simulación de sus propias emociones por parte de ese agente artificial inteligente.

Ya he hablado en este mismo blog sobre el tema y me he referido, por ejemplo, al campo del 'Affective computing' un término, creo, un poco en desuso hoy día, aunque, a despecho de lo que pueda suceder con el término, lo que hay detrás, la disciplina en si, está vivo, muy vivo, y creo que lo estará aún más en el futuro.

Recientemente me estoy tropezando con el término 'Emotion AI', que quiero investigar y que calculo que se refiere poco mas o menos a lo mismo.

Más allá del contenido, que es lo más interesante, en este post voy solamente a especular un poco sobre la propia definición del campo. Y lo hago inspirado por la lectura del libro 'Alone Together: Why We Expect More from Technology and Less from Each Other' de Sherry Turkle, un libro casi clásico entre quienes se interesan por la robótica social, por la relación robots-personas y, en general, por la interacción social de los humanos con la tecnología.

Se trata de un libro no del todo reciente (data de 2017, lo cual en otros campos seria bastante actual, pero en el que nos ocupa, puede notar el paso del tiempo) pero aún relevante.

La definición primigenia de inteligencia artificial

Turkle hace un paralelismo, que, en el fondo, es lo que me ha llamado la atención, con la explicación, no sé si definición, que los asistentes a la famosa conferencia de Darmouth dieron para explicar la recién creada y bautizada disciplina de la inteligencia artificial.

Decían que lo que pretendían era conseguir que las máquinas se comportasen de tal manera que la consideráramos inteligente si un humano se comportase de esa misma manera.

Una visión externa de la inteligencia (artificial), orientada a los resultados y manifestaciones y no tanto a una esencia, probablemente más difícil de definir.

Una orientación que, de alguna manera, enlaza con el famoso test de Turing que también juzga la inteligencia por su manifestación externa en un enfoque que podríamos calificar casi como fenomenológico.

Una definición de emoción artificial

Con esa inspiración Sherry Turkle propone, de una forma que considero ingeniosa, una definición paralela de lo que sería la emoción artificial. Así, nos dice

We are coming to a parallel definition of artificial emotion as the art of "getting machines to express things that would be considered feelings if expressed by people".

En esta especie de definición, nos olvidamos (aunque en el fondo queda implícito) de la detección de las emociones humanas por parte del agente artificial inteligente y nos concentramos más en su expresión de emociones y, como hacían los científicos de Darmouth, consideremos que una máquina es emocional si es capaz de expresar cosas que consideraríamos sentimientos si las expresase un humano.

Alguna implicación filosófica

Es muy importante, de cara a consideraciones éticas e incluso legales, el notar que adoptamos una visión externa. Es decir, no afirmamos que el agente artificial inteligente, 'sienta' realmente nada, que tenga realmente ninguna emoción: sólo que se comporta de una forma que consideraríamos emocional (sentimiento) si un humano hiciese lo  mismo

En una visión filosófica profunda eso nos podría llevar a debates sobre si realmente eso es una emoción o no, o incluso si podemos realmente llegar a saber si realmente ese agente siente algo o no (en el fondo, la misma cuestión aplica a los seres humanos).

Pero más allá de esa quizá irresoluble cuestión, el hecho de que consideremos a un agente como 'sintiente' puede ser suficiente para adjudicarle 'paciencia moral' y por tanto, deducir que puede tener unos derechos.

Por otro lado, desde un punto de vista ético, también nos podemos cuestionar si se produce engaño cuando un agente artificial expresa emociones o si hay riesgos fundamentalmente de tipo afectivo o moral de cara a humanos que interactúen, quizá inadvertidamente, con esos agentes 'emocionales'. 

Conclusión

El campo de la gestión de emociones por parte de agentes artificiales es técnicamente viable, al menos hasta un cierto nivel, y lo que cabe preguntarse ahora es hasta donde lo queremos llevar y qué implicaciones filosóficas, éticas y legales trae consigo.

Tres cuestiones éticas en el campo de la interacción entre robots y personas

Los avances en materia de robótica y de inteligencia artificial, la consecución de agentes inteligentes dotados de presencia física como son los robots sociales, abren unas fantásticas e inspiradoras posibilidades, una perspectiva de avances tanto en el ámbito industrial o laboral, como incluso en los servicios y los entornos domésticos. Pero también da lugar a miedos, algunos justificados y otros no, y a ciertos desafíos éticos que conviene tener presentes.

En algún momento intentaré disponer, a ver si es viable, de un censo más o menos consensuado y abarcador de estos retos, estado de opinión y respuestas razonables.

De momento, en este post quisiera recoger tres riesgos que se destacan ya hacia el final del fantástico libro 'The Oxford Handbook of Affective Computing', en concreto en un capítulo firmado por Ronald C. Arkin y Lilia Moshkina y que se centra en el afecto en las relaciones entre robots y personas.

Estos autores citan las aportaciones procedentes del campo de la filosofía y, en concreto, el artículo 'The march of the robot dogs. Ethics and Information Technology' de Robert Sparrow (2002) y el libro 'Alone together: Why we expect more from technology and less from each other' de Sherry Turkle (2011). Y resumen en estos tres puntos los riesgos a que nos enfrentamos en caso de la introducción en la vida humana de unos robots altamente interactivos:

• Malos entendidos intencionados: Se refiere en concreto a personas mayores y a que se les pueda crear intencionadamente una visión distorsionada de la realidad, atribuyendo cierta 'vida' a los robots. Se preguntan los autores si no debería existir un derecho a percibir el mundo tal cual es.


• Derogación de responsabilidad: En este caso habla de una excesiva delegación en robots de tareas de cuidados de otras personas, con un posible impacto en esas personas sometidas a cuidados.


• Deterioro del tejido social: Se apunta, finalmente, a un riesgo de deterioro generalizado de las relaciones entre personas, por la aparición de unos artefactos, los robots, con los que puede resultar más atractivo interactuar que con personas reales.

Así enunciados, estos riesgos asustan un poco. No tengo claro que esos riesgos sean tan profundos. No obstante, tampoco me parecen descabellados, así que, mientras construimos nuevas tecnologías y nuevas soluciones, nuevos robots sociales en este caso, conviene estar en paralelo muy atentos a estos riesgos e implementar medidas para mitigarlos o, si se puede, eliminarlos.

Definiendo la computación afectiva

Me encantan los territorios fronterizos del conocimiento. Así que, el sólo hecho de oír el término 'computación afectiva', me motiva.

¿Qué es eso de la computación afectiva? En efecto, se trata de una disciplina ecléctica que mezcla computación con psicología.

Me encuentro leyendo, en ese afán por explorar fronteras, el libro 'Cyberpsycology and the brain' de Thomas D. Parsons. En el primer capítulo dedica un espacio a explicar lo que es la computación afectiva. Allí, menciona a Rosalind Picard quien acuñó en 1997 este término y que definía de esta forma:

a discipline that pulls from computer science, engineering, psychology and education to investigate how affect impacts interactions between humans and technology.

Dra. Rosalind Picard

Dos observaciones sobre esta definición. Por un lado, el carácter multidisciplinar de ésta rama del saber, puesto que integra conocimiento de la psicología, computación, ingeniería y educación. Por otra parte, que su área de investigación es cómo la emoción impacta en las interacciones entre personas y tecnologías. 

Unas líneas más adelante, nos explica qué buscan los investigadores de este nuevo campo y ese objetivo nos aclara más, quizá, que la propia definición:

Researchers in affective computing aim to design machines that can recognize human emotions and respond accordingly

Muy claro... y muy interesante y ambicioso: diseñar máquinas que reconozcan las emociones humanas y se comporten conforme a ellas. Recuerda a una especie de test de Turing emocional: que la máquina se comporte, emocionalmente, como un ser humano. Pero, una advertencia: 

Affective computing researchers do not need to build computers that actually feel emotions in the same way that humans do. Instead, it is enough that affective computers express emotions.

Esto es muy importante: no se aspira a que la máquina 'sienta' (suponiendo que siquiera fuésemos capaces de decir qué es eso de sentir exactamente), sino que reconozca y exprese emociones. Si se quiere, la emoción se encuentra en la interfaz con el humano, no en el interior de la máquina.

Un campo, como se puede ver, interesantísimo y que parece prometedor dados los avances actuales, y los que cabe esperar en el futuro próximo, de tecnologías como la inteligencia artificial, el machine learning, deep learning o Big Data.

Continuaremos explorando...