miércoles, 22 de febrero de 2023

Una lección de la navegación robótica acerca de inteligencia artificial y datos

El panorama actual de la inteligencia artificial está claramente dominada por el machine learning y una inteligencia artificial basada en datos. Eso es innegabl<<<<e.


Sobre la inteligencia artificial y los datos


Sin embargo, defiendo cuando tenga ocasión, y para quien quiera escucharlo (que no me parece que sea mucha gente, por cierto), que es un error conceptual la habitual y poco reflexiva identificación de la inteligencia artificial con el manejo de datos. Ya expliqué en un post que titulé, significativamente, 'La equívoca relación de inteligencia artificial y datos: cinco mitos comunes' que no sólo esa identificación es equívoca es que, además conduce a otros equívocos como pensar que cualquier tratamiento de datos es inteligencia artificial.

No niego, es imposible negarlo y además no tengo el más mínimo interés en hacerlo, que los avances más notorios de la inteligencia artificial moderna provienen del campo del machine learning, en especial el deep learning y, casi siempre, con algoritmos apoyados para su entrenamiento, en el uso de muchos datos, que en muchos casos, y muy importantes, tanto el entrenamiento de algoritmos como su aplicación tiene que ver con ese procesamiento de abundantes datos.

Eso es cierto.

El problema, lo que es un error, es identificarlo como concepto y tomar la parte por el todo, creer que no hay y no puede haber formas de inteligencia artificial que no tengan que ver, al menos no de manera fundamental, con el uso de muchos datos.


Inteligencia artificial simbólica y representación del conocimiento


La inteligencia artificial simbólica no los empleaba (no en abundancia, quiero decir) y dio lugar a ciertos avances significativos, aunque hoy en día en desuso como los sistemas expertos y a disciplinas que recibieron mucha atención, como la representación del conocimiento.

Es cierto que hoy en día no se habla mucho de esto...pero no mucho no es lo mismo que nada.

No sólo no es nada sino que algunas de las áreas más avanzadas que se investigan es, por ejemplo, modelos mixtos conexionistas-simbólicos que, en principio, pudieran ser un buen correlato del funcionamiento de nuestro cerebro donde es innegable su base neuronal pero en el que de alguna forma, que ni conocemos ni entendemos, surgen símbolos que, entre otras cosas, representan nuestro propio conocimiento del mundo y de nosotros mismos.


La lección de la navegación robótica


Pero no es sólo que la inteligencia artificial simbólica o la representación del conocimiento puedan volver en algún momento. Es que, aunque no de forma muy notoria, siguen entre las soluciones existentes actualmente.

En efecto, continuando con comentarios inspirados en el libro 'Introduction to AI robotics' de Robin R. Murphy, y hablando todavía de la navegación robótica, que ya nos ocupó en el post anterior, nos dice:


AI robotics approaches to navigation have been focused on path planning and simultaneous localization and mapping. These topics rely heavily on the AI areas of knowledge representation, search and planning.


Destaco la mención a la representación del conocimiento, que en el caso de la navegación toma en buena medida la forma de mapas, y la mención a algoritmos de búsqueda que, claramente, no son del tipo conexionista, ni siquiera de machine learning.

No quiero engañar a nadie. En bastantes casos los mapas se construyen con base en información de percepción, típicamente visión artificial, que fácilmente están basados en redes neuronales entrenadas con muchos datos.

Pero lo relevante, lo que quiero destacar, es que se sigue hablando de representación del conocimiento o de algoritmos de búsqueda que no se basan de forma especial en datos.


Conclusión


La conclusión es casi el mismo inicio del artículo. Gran parte de la Inteligencia Artificial actual se apoya en algoritmos de machine learning y en especial deep learning, que necesitan de muchos datos para su entrenamiento. Pero es un error identificar la inteligencia artificial en su conjunto con ese manejo de datos. Hay espacios relevantes en la inteligencia artificial y la robótica que no se basan en datos y cualquiera sabe lo que nos pueda traer el futuro.

Identificar inteligencia artificial con datos solo conduce a errores de entendimiento y a limitar sus posibilidades.


lunes, 20 de febrero de 2023

Cuatro preguntas a contestar por un sistema de navegación de un robot o vehículo autónomo

Un concepto muy importante cuando hablamos de robots móviles, es el de navegación.

Nos referimos a robots del tipo AMR ('Autonomous Mobile Robots') pero también, por ejemplo, al caso de vehículos autónomos o vehículos de exploración espacial tipo 'rover'.

Todos ellos son sistemas robóticos que deben desplazarse por un espacio más o menos abierto en el que, eventualmente, se encuentran con límites y obstáculos. En algunos casos ese espacio no es completamente abierto,  como cuando el robot se mueve por grandes edificios o instalaciones como fábricas, almacenes u hospitales, pero dadas las características de amplitud de ese espacio, a efectos técnicos los podemos considerar, creo, similares a un espacio abierto.


Navegación


En esencia, cuando hablamos de navegación, y esto se aplica no sólo a robots o vehículos autónomos, sino también a seres vivos, estamos hablando del desplazamiento completo de un ente, digamos el robot, desde una localización a otra diferente.

Realizar esa navegación implica mucho más que la planificación del camino a seguir. Implica, también, por ejemplo, conocer o detectar los obstáculos o restricciones que en ese camino el ente, el robot, se puede encontrar y reaccionar adecuadamente.


Las cuatro preguntas y las cuatro áreas de la navegación


De cara a entender y caracterizar adecuadamente las problemáticas que abarca la navegación, Robin R. Murphy, en su libro 'Introduction to AI robotics' identifica cuatro preguntas a contestar que, a su vez, darán lugar a los problemas técnicos a resolver y a campos de trabajo consiguientes. Las cuatro preguntas son las siguientes:


  • '¿A dónde voy?' Pregunta que tiene que ver un poco con los objetivos, a dónde quiero ir y por qué. Esta pregunta se contesta con una disciplina o área de estudio de la inteligencia artificial denominada planificación de la misión ('mission planning') y tiene que ver con la función deliberativa que mencionábamos al hablar de arquitecturas operativas en robots. Con cierta frecuencia, no obstante, desde el punto de vista de la robótica, la contestación a esta pregunta se saca fuera del campo de la navegación, entendiendo que ésta, la navegación, comienza cuando el robot ya tiene un objetivo marcado.

  • '¿Cuál es el mejor camino para llegar hasta allí?' Pregunta que se contesta con las técnicas de planificación de caminos ('path planning'), probablemente el área más representativa y que mayor atención ha recibido dentro del campo de la navegación.

  • '¿Dónde he estado?' Aunque el enunciado de la pregunta pueda conducirnos a pensar otra cosa, esta pregunta en el campo de la robótica y la inteligencia artificial se contesta mediante la construcción de mapas, unos mapas que se basan en lo que el robot ha percibido de su entorno hasta el momento mediante sus sensores. Es cierto que en ocasiones, en entornos controlados, estos mapas se apoyan en elementos externos como balizas, pero en el caso más general, el robot debe ir descubriendo el mapa mediante sus capacidades sensoras y de percepción y el procesamiento mediante los algoritmos adecuados del tipo, por ejemplo, de SLAM ('Simultaneous Localization And Mapping').

  • '¿Dónde estoy?' En este caso se trata de que el agente, el robot o vehículo, sepa en cada momento dónde se encuentra. Esto entra dentro del campo de la localización ('localization'). Algunas técnicas en este campo son bien conocidas como el uso de la geolocalización (GPS, magnetómetros, etc), odometría, sensores de distancia o rango, etc.


Cada una de estas preguntas, como se puede observar, cuando se traslada al mundo de la robótica, da lugar a áreas de estudio, a diferentes algoritmias y, en algunos casos a nuevas capacidades sensoras.


Conclusiones


La navegación es un campo de la inteligencia artificial y/o de la robótica que, seguramente, está ganando y ganará aún más peso a medida que se desarrollan y extienden los robots móviles, tanto industriales como  de servicio, y también los vehículos autónomos de todo tipo.

Un campo en el que, entiendo, hay ya muchos avances, pero que seguramente vea todavía progresos, especialmente, creo, en temas de comportamiento más dinámico por ejemplo ante la aparición de obstáculos imprevistos u otros vehículos  o agentes móviles, incluyendo a los humanos.


miércoles, 15 de febrero de 2023

La educación y el espectáculo

Desde que hace unos años, concretamente desde 2018, en que inicié mi andadura profesional por cuenta propia, probablemente, sin duda en realidad, la actividad a que más tiempo dedico es a la docencia, algo que siempre me ha gustado, algo que realmente es una vocación y va más allá de una mera actividad profesional.

Mi espectro de temas es variado y abarca la tecnología, la innovación, la transformación digital, la inteligencia artificial, la robótica, el análisis y automatización de procesos...es decir, temas en general muy relacionados  con la tecnología, y en muchos casos con la tecnología más avanzada y disruptiva.

Pero también hago alguna asesoría, que junto con los programas in-company me ayudan a mantener el contacto con la actividad empresarial y del día a día. 

Y también me dedico a la comunicación, en forma de artículos, libros, conferencias, mesas redondas.


El conocimiento como valor


En el fondo, concibo todo ese tipo de actividades, asesoría, docencia, escritura, eventos, etc como una forma de transmisión del conocimiento, un conocimiento que heredo de mi experiencia y que me preocupo de incrementar vía lectura, estudio y experimentación. Todos estas formas de actividad profesional, como digo, las concibo como una forma de transmisión del conocimiento, aunque tanto los medios como los fines sean diferentes según el caso.

Y el conocimiento es para mí muy importante, tanto que lo incluyo en mi declaración de valores personales, precedido, sólo, de la honestidad y el compromiso.


Tecnología y espectáculo


La tecnología, especialmente la tecnología emergente, es por desgracia campo abonado para la comunicación superficial e incluso la frivolidad. Y muy especialmente algunas de las áreas que más me atraen y a los que más me dedico como es la inteligencia artificial.

Tanto en los medios de comunicación generalistas, como incluso en medios digitales, blogs, etc, presuntamente especializados, abundan por desgracia los análisis superficiales o precipitados y los titulares e incluso argumentaciones exagerados cuando no directamente equívocos o incluso mentirosos.

Es la búsqueda, supongo, de la atención y la notoriedad. En un mundo hiperconectado y con exceso de información y acontecimientos, conseguir la atención es difícil, muy difícil: Es por eso que se acuñó el término de economía de la atención. Y, claro, con base en esa lógica de la atención, se recurren a técnicas de 'clickbait', a titulares espectaculares, a contenidos cortos multimedia llamativos.

Se recurre, en definitiva, al espectáculo.

Puede pensarse que eso no es grave. Y en algunos casos a lo mejor no lo es. A veces se trata casi puro entretenimiento.

Y puede que sea comprensible. Seguramente lo es... pero en general no resulta muy saludable. Porque esos contenidos llamativos son frecuentemente superficiales, inexactos o directamente falsos.

Y no olvidemos que la tecnología es, cada vez más, un motor de cambio económico y social. Entenderla mal, puede llevar a decisiones equivocadas a nivel cultural pero también empresarial o incluso legal.


Comunicación y espectáculo


Decía antes que todas las variantes de mi actividad profesional actual tienen que ver con la transmisión de conocimiento, pero que no todas usan los mismos medios y fines.

Aunque, personalmente, no puedo evitar un cierto toque pedagógico en toda mi actividad, lo cierto es que, en el caso de la comunicación, entendiendo en este caso la comunicación sobre todo como las charlas y conferencias, el objetivo el algo diferente. 

Aunque siempre existe una cierta trasmisión de conocimiento, entiendo que en una charla, especialmente una charla breve como se tiende en la actualidad, es más importante la inspiración, la movilización y el impacto que la abundancia de conocimientos.

En ese sentido, las técnicas de 'espectáculo' son muy importantes, tremendamente importantes. Es importante el storytelling, es importante el lenguaje no verbal, son importantes los elementos multimedia, es importante la puesta en escena. Es importante, en definitiva, el espectáculo.

Aunque muchas de mis investigaciones se dirigen a los aspectos técnicos, he leído libros y libros sobre comunicación en público, he visualizado cientos de charlas TED, me he fijado y me fijo en cómo actúan algunos de los mejores speakers, locutores de radio y presentadores de televisión.

Así que nadie se equivoque: me gusta el espectáculo, el buen espectáculo. Y no sólo me gusta: creo que ese espectáculo, bien entendido y bien utilizado, no sólo es una técnica poderosa en sí misma, sino también muy conveniente, casi imprescindible, para la comunicación... y también para transmitir conocimiento objetivo.

Y esto del conocimiento objetivo me lleva ya al mundo de la educación.


Educación y espectáculo


¿Cuál es el objetivo de la educación?

Pues conseguir que los receptores de esa educación adquieran nuevos conocimientos y/o nuevas habilidades. Los puede transmitir el profesor directamente o lo pueden adquirir los alumnos mediante su propia investigación, trabajo o dinámicas. Pero al final, el alumno debe llevarse algún conocimiento y/o habilidad que no tenía.

Un conocimiento o habilidad que esperamos, claro, que sea útil y que, en el caso del conocimiento, además, que sea cierto.

¿Y el espectáculo? ¿Qué papel juega el espectáculo en la educación?

Pues si, también en educación tiene que haber algo de espectáculo. Es importante afinar las técnicas pedagógicas y de comunicación para que los contenidos resulten atractivos, motivadores, e incluso divertidos.

El problema con el espectáculo en educación es cuando éste se convierte en un fin por sí mismo y no en un medio. 

Veámoslo de esta manera: en la educación de posgrado, en escuelas de negocio, en academias, en programas in-company, el alumno, no sólo es alumno, es también el cliente. Es quien recibe el servicio y quien paga por él. Y, claro, a un cliente se le quiere tener contento. El espectáculo es atractivo y, por tanto, ayuda a tener a esos alumnos/clientes contentos.

Luces de colores, abundancia multimedia, frases altisonantes, ejemplos sencillitos, juegos, tópicos, polémicas...todo ello contribuye al espectáculo y convierte una clase, seguramente, en muy divertida e incluso inolvidable. 

Pero ¿y el conocimiento? ¿y la certeza de ese conocimiento? ¿Qué obtiene el alumno?

A veces mucho, pero otras veces poco y en otras ocasiones, incluso, conceptos erróneos, porque directamente se les han transmitido mal o porque se ha hecho de una forma tan ambigua, tan 'light', que ellos mismos han sacado las conclusiones equivocadas.

Aunque no estoy siendo muy explícito, por prudencia y elegancia, puedo asegurar que tengo en mi mente ejemplos concretos de esto que digo, de esta transmisión ambigua o directamente incorrecta de conocimientos. De hecho, ya recogí en el post titulado 'Una voz en el desierto: luchando contra algunos mitos sobre tecnología e innovación', varios equívocos a que me enfrento con cierta frecuencia, algunos de los cuales derivan, precisamente, de mensajes erróneos también en formación. 

Es necesario dejarlo claro: el espectáculo también es importante en docencia. Es importante porque ayuda a aumentar el interés por una materia, porque ayuda a mantener la atención en una clase y porque, bien usado, favorece la comprensión. Es algo que yo mismo busco, incesantemente, como forma de mejorar mi propia capacidad pedagógica.

Lo que me resulta inadmisible es la utilización del espectáculo a costa del rigor y de la transmisión del conocimiento cierto, del verdadero conocimiento, su empleo como sucedáneo e incluso como sustitutivo de esa verdadera transmisión de conocimiento o habilidades, su empleo, simplemente, para una engañosa satisfacción de esos clientes que son los alumnos. 


Una reflexión para docentes


Para mis compañeros de actividad docente, humildemente sugeriría, por tanto, el sistemático autoexamen crítico de su propio empleo del espectáculo. Si concluyen que lo emplean poco, a lo mejor les sugeriría incluso que buscasen incrementarlo, que explorasen formas de implementarlo para mejorar su propia capacidad comunicativa y docente.

Y advertiría, también humildemente, pero al tiempo, muy seriamente, en contra de la falta de rigor y de conocimiento al que mal uso o un uso excesivo de ese espectáculo puede conducir.

Como docentes creo que tenemos una responsabilidad muy seria con nuestros alumnos y, si me apuran, con la sociedad.


Conclusión: una reflexión para estudiantes


Y a los estudiantes, y no me refiero sólo, ni siquiera principalmente, a chicos jóvenes en instituto o universidad, sino también a profesionales e incluso directivos, a que se examinen a sí mismos y que estén muy atentos a qué valoran realmente en una formación.

Es lógico preferir una clase amena. Es lógico casi esperarla, pedirla y valorarla. Pero mucho más importante, es esperar y exigir que, más allá del espectáculo, haya verdadera transmisión de conocimiento, de un conocimiento útil y cierto.

No olvidéis que en el fondo sois los clientes en este negocio. Y, como clientes que sois, al final, acabaréis recibiendo aquello que valoréis.

Pensároslo bien: ¿De qué depende vuestra satisfacción? ¿Qué vais a exigir?


lunes, 13 de febrero de 2023

Comportamientos biológicos y traslación a robots

Hace unos veinte días publicaba en este mismo blog el artículo 'Comportamientos reactivos y los conceptos de inteligencia e inteligencia artificial'  en  que, a partir de aportaciones procedentes del libro 'Introduction to AI robotics' de Robin R. Murphy,  reflexionaba sobre lo que los comportamientos reactivos nos hacen cuestionarnos sobre el significado del concepto 'inteligencia'.

En el post de hoy, continuo con la misma fuente y más o menos, el mismo tema, los comportamientos reactivos, pero ahora desde un punto de vista, digamos, un poco más descriptivo y menos especulativo, 

Y lo hago para registrar la interesante clasificación que de los comportamientos animales hace la autora en dicha obra, y algún comentario, que seguramente ampliaré en el futuro, sobre su traslación al caso de robots.


Comportamientos


Y me interesa comenzar aclarando de qué hablamos con el término 'comportamiento', porque en el ámbito de que nos estamos moviendo, etología y robótica, tiene, creo, un significado más restrictivo que el que aplicamos en el lenguaje de la calle.

En concreto, Murphy nos dice que:


A behavior is a mapping of sensory inputs to a pattern of motor actions that then are used to achieve a task.


Creo que esta definición restringe el término comportamiento a aquellos que se disparan por estímulos externos. Una forma de actuar o conducirse que provenga de la propia iniciativa, reflexión o decisión, me parece que queda excluida de esta definición de comportamiento ('behavior').  


Tipos de comportamientos en animales


Es sabido que las realidades de la naturaleza, muy especialmente los seres vivos y, más aún, los seres humanos y su cerebro o sistema nervioso, son fuente de inspiración para la inteligencia artificial y la robótica, así que no es extraño que a la hora de estructurar los comportamientos robóticos, se mire la forma en que estos se producen en la naturaleza.

La autora, en esa línea, nos resumen los tipos de comportamientos que se dan en animales, y nos habla de tres categorías:


  • Comportamientos reflejos: Se trata de reacciones estímulo-respuesta directas, como cuando levantamos la pierna al ser golpeada en el punto justo de la rodilla con un martillito, como hacen los médicos precisamente para ver el estado de esos reflejos. Son comportamientos muy rápidos y que se encuentran de alguna manera impresos en los circuitos neuronales de los seres vivos.

  • Comportamientos reactivos: Comportamientos que se ejecutan de manera inconsciente pero que vienen precedidos por alguna forma de aprendizaje y consolidación. La autora lo ejemplifica con la denominada 'memoria muscular' de que se habla en deporte y cómo, con base en entrenamiento, la buena técnica, por ejemplo en carrera o en movimientos de golf, se interioriza y llega a ejecutar inconscientemente. No obstante, este tipo de comportamientos puede modificarse por atención consciente

  • Comportamientos conscientes En que realmente se presta esa atención consciente. Son ya de naturaleza deliberativa y nos acercan, aunque creo que no llegan a ellos, a los comportamientos que consideramos excluidos de esta clasificación como los procedentes de la propia iniciativa.


Traslación de los comportamientos reactivos a los robots


Probablemente trate en algún artículo futuro algo más sobre la implementación, la traslación digamos, de este tipo de comportamientos a los robots.

Los comportamientos reflejos tienen una traslación relativamente sencilla, y muy conseguida hoy en día, siendo recogidos en la capa reactiva de la arquitectura operativa de los robots e incluso hay roboticistas que sólo incluyen estos comportamientos reflejos en la capa reactiva.

Como digo, está muy conseguida aunque alcanzar un comportamiento global adecuado, a partir de un conjunto de comportamientos individuales, creo que puede tener su cierta ciencia. 

También me resulta muy interesante la capacidad para conseguir unas manifestaciones externas bastante inteligentes sólo a partir de este tipo de comportamientos y aún más algo que tengo pendiente de investigar, y que también es observable en la naturaleza, que es el comportamiento inteligente de un conjunto amplio de individuos (bancos de peces, enjambres de aves o insectos, etc) a partir de comportamientos muy simples de sus miembros, algo que en robótica nos lleva al 'swarm robotics').

Los comportamientos reactivos, que precisan aprendizaje, creo que nos conducen al campo de la inteligencia artificial, al machine learning e incluso a mecanismos de aprendizaje propios de los robots, algunos de los cuales ya hemos comentado en este blog.

Los comportamientos conscientes creo que, desde un punto de vista robótico, no precisan una verdadera consciencia, algo polémico y al menos por el momento fuera de nuestro alcance. Creo, lo seguiré investigando, que es suficiente con una actuación de la capa deliberativa de la que aún hemos hablado poco, sin necesidad de verdadera consciencia,

La autora nos advierte, además, de un conflicto terminológico. Nos hace ver que en el campo de la etología, el término comportamiento reactivo se refiere a una habilidad o comportamiento aprendido, mientras que en robótica se tiende a utilizar ese término 'reactivo' como sinónimo de comportamiento reflejo.


Conclusiones


Una vez más, la observación de la naturaleza y las conclusiones alcanzadas por disciplinas como la biología, la neurociencia o la etología pueden iluminar los caminos de investigación e innovación en materia de inteligencia artificial y robótica.

En el caso de los comportamientos comentados, veo claro un paralelismo, casi una traducción directa, en la parte más refleja, menos deliberativa, mientras que, en los niveles superiores, reactivo y consciente, creo que es más una inspiración y orientación que una guía clara.

Pero demos tiempo a la investigación...


miércoles, 8 de febrero de 2023

... y razones en contra de los robots como agentes morales

En este post continuo con los muy breves apuntes (seguramente el tema merezca un análisis mucho más profundo, pero ahora no tengo disponibilidad para ello) sobre los argumentarios acerca de la eventualidad de una máquinas éticas, en concreto, unos robots éticos o, dicho de otra manera, la posibilidad y conveniencia de que los robots sean agentes morales.

En el último post aportaba 'razones a favor de los robots como agentes morales', así que ahora toca ver los argumentos en contra de los robots (o las máquinas en general) como agentes morales. 

Y para ello vuelvo, como en el post anterior, a la recopilación que, al respecto, hace ello Sven Nyholm, en su libro 'This is machine ethics'.


Cuatro razones contra las máquinas éticas


En este caso, son cuatro las razones que se aportan y a las que Nyholm dedica una sección, pero que yo, simplemente, me voy a limitar enunciar:


  • La moralidad no puede ser codificada completamente, es decir, la moralidad no se puede reducir a unas reglas que puedan ser implementadas en máquinas y, además, es sensible al contexto or lo que la respuesta a un problema ético puede no ser evidente.

  • No es ético crear máquinas a las que permitamos tomar decisiones sobre la vida o la muerte de seres humanos, una objeción que, entiendo, no es de carácter general, sino que afecta, por ejemplo, a armas letales autónomas o, incluso, vehículos autónomos, pero no a otro tipo de maquinas sin esa capacidad real de afectar a la vida o muerte de personas.

  • Los agentes morales necesitan tener emociones morales y las máquinas no las tienen. En esta visión, la ética, la propia ética humana, no es un asunto racional sino que existen las llamadas emociones morales (vergüenza, culpa, resentimiento, etc), que, sin embargo, no están presentes en las máquinas.

  • Las máquinas no son capaces de actuar conforme a unos principios, a unos deseos y creencias


La verdad es que en este post, y por puros condicionantes puntuales de tiempo, no pretendía, no pretendo en realidad, hacer un análisis propio sino sólo una anotación, una consignación de argumentos, pero no puedo evitar decir que, salvo la segunda objeción, las otras tres me parecen algo débiles.

¿En qué sentido?

Pues en el sentido de que creo que se apoyan en unas limitaciones de las máquinas, los robots en el caso que me interesa, que son ciertas hoy en día, pero no tengo claro que la tecnología no pueda llegar a superar algunas de ellas. Si eso es así, los proponentes de esas objeciones ¿cambiarían de opinión?

Me hago a la idea de que no, pero su posición creo, sería entonces más débil, menos defendible y entonces, ¿Qué concluiríamos? ¿Serían posibles los robots como agentes morales? ¿Serían deseables?


Conclusiones


Hablo de conclusiones pero, en este momento no tengo verdaderas conclusiones. Sólo una interesante panorámica de razones en favor y contra.

Un buen tema para pensar, para reflexionar, para debatir... aunque no sé si seremos capaces de llegar a conclusiones.


lunes, 6 de febrero de 2023

Razones a favor de los robots como agentes morales

Retomo, aunque sea muy brevemente, en este artículo, a la cuestión de la eventual agencia moral de los robots, algo que ya toqué en el post titulado 'Características de los agentes morales y el caso de los robots' y anteriormente en 'Tres criterios para considerar a un robot un agente moral'.

Y vuelvo a ello a propósito de la lectura del libro 'This is machine ethics' de Sven Nyholm, quien a su vez también abordo el tema en su fantástico libro 'Humans and robots'. 

En este caso, en el capítulo que dedica a este problema de la agencia moral de las máquinas intentando contestar, tanto a si pueden ser agentes morales como a si deben, si es deseable que lo sean.


Agentes morales


Decir que un ente es agente moral, es decir que tiene juicio suficiente para entender las cuestiones morales y actuar en consecuencia. En esa línea, en el libro se recogen, aunque de pasada, algo parecido a una definición que reza:


an entity that can make moral judgements and that can act on the basis of moral considerations.


Es evidente que los seres humanos somos agentes morales, pero no está claro que ningún otro ente, ni siquiera otro ser vivo lo sea. ¿Y los robots?

Antes de seguir, advertir que, en realidad, Nyholm no se refiere específicamente a robots sino, de una forma más amplia, a máquinas éticas o morales. Pero, dado que me interesan especialmente los robots, 'arrimo el ascua a mi sardina' para particularizarlo en los rotos, 


Argumentos a favor de los robots como agentes morales


Creo que está bastante claro que, al menos hoy en día, los robots no pueden ser agentes morales, en el sentido de que no tienen ese juicio moral. Otra cosa es que, en su diseño se les pueda imprimir alguna forma de regla o se le intente enseñar alguna forma de comportamiento que siga las reglas éticas que los humanos nos hemos impuesto.

La pregunta se dirige, pues, mas bien hacia si tiene sentido el proyecto de intentar conseguir máquinas o robots que sean agentes morales. En su desarrollo, menciona las teorías de trabajo de Michael Anderson y Susan Leigh Anderson quienes argumentan tres razones en favor de esa aspiración a la agencia moral:


  • En primer lugar, porque existen máquinas como resultado de cuyas acciones, se pueden producir daño o, por el contrario, ayuda a los seres humanos. Siendo así, entienden que es mejor que tengan criterios éticos.

  • En segundo lugar, piensan que si fuésemos capaces de construir robots (máquinas en realidad) con criterios morales, eso contribuiría a mitigar la preocupación que en las personas generan los posibles riesgos derivados de este tipo de máquinas autónomas.

  • Finalmente, entienden que si somos capaces de diseñar máquinas éticas, eso nos ayudará a comprendernos mejor a nosotros mismos, los humanos.


¿Es esto suficiente para emprender la búsqueda de máquinas morales?


Conclusión


Ni que decir tiene que existen opiniones en contra. En el próximo post, las repasaremos también brevemente.