Ha querido la suerte, bueno no exactamente la suerte, que haya coincidido aproximadamente mi lectura del libro de Ray Kurzweil 'The singularity is nearer' con la del libro de Mark Coeckelberg 'La ética de los robots', y esa coincidencia me lleva a una fusión un poquito libre de dos planteamientos: el de la singularidad planteado por Kurzweil y el de una antropología más allá de lo humano que plantea Coeckelberg al final de su libro.
La primera tiene que ver con que las máquinas, básicamente la inteligencia artificial, por un lado supere en inteligencia al ser humano y, por otro, que sea capaz de auto-mantenerse, por lo que ya no necesita al ser humano.
La otra visión, la que realmente plantea más bien una fusión del humano y la máquina. Y esta visión de Kurzweil, muy transhumanista, es la que realmente enlaza con las reflexiones de Coeckelberg.
Un futuro de convivencia con la máquina
El libro de Coekcelberg, para ser sinceros, no reflexiona exactamente sobre la singularidad. De hecho, no estoy cien por cien seguro, pero creo que no la menciona en ningún momento, y si lo hace es un poco de pasada o como contexto.
Lo que apunta Coeckelberg al final de su libro es la posibilidad de una ética y una antropología que vayan más allá de lo estrictamente humano y que incluyan a las máquinas, típicamente a los robots.
Aunque, como digo, no lo plantea exactamente en relación con la singularidad, no puedo evitar verlo como muy cercano.
Las tres opciones
En cualquier caso, lo que quería traer a colación en este post son las tres visiones que Coeckelberg plantea para esa ética y, de una forma terminológicamente paradójica, una antropología que vaya más allá del ser humano y que pueda incluir a las máquinas.
Las tres opciones que expone Coeckelberg son:
Visión transhumanista: Se plantea aceptar que el ser humano es una forma de máquina, aunque biológica, y en ese sentido una forma de robot. Y, diría que más importante, acepta el llamado 'mejoramiento humano', es decir, la mejora de capacidades físicas y sobre todo cognitivas obtenidas de la tecnología. En la visión más extrema, la que plantea por cierto Kurzweil, lleva a una fusión del ser humano con la tecnología hasta casi dar lugar a una nueva especie o una nueva forma de humanidad.
Visión poshumanista: plantea la convivencia de seres humanos, animales y robots de forma, digamos, natural, incluyendo formas de hibridación. Las máquinas se convierten en compañeras y la fronteras de lo humano se diluyen hasta cierto punto.
Visión ecológica: Que pone el foco en el planeta y donde los robots deberían contribuir a un futuro sostenible o no existir.
Por supuesto, en las tres visiones hay mucho más que plantear, debatir y razonar pero, al menos de momento, sólo quería enunciar las tres opciones.
Conclusiones
El avance de las máquinas, particularmente inteligencia artificial y robots, y más cuanto más nos acerquemos o eventualmente lleguemos a la singularidad (si es que eso sucede), nos hace plantearnos cuál debe ser el enfoque de relación con ellas con una perspectiva práctica, claro, pero también ética y antropológica.
En este post he identificado muy brevemente las tres opciones que propone Coeckelberg y que no puedo evitar, aunque estrictamente no esté implicado, ponerlas muy en conexión con el momento de la singularidad o posterior.
Esta semana he tenido una experiencia muy interesante, una experiencia que me ha hecho reflexionar sobre el punto en que nos encontramos en cuanto al diálogo ético sobre inteligencia artificial, ese necesario debate y análisis que debe producir los criterios que luego se trasladan a regulaciones, mecanismos de gobernanza o comportamientos.
En seguida comento la experiencia, pero antes quisiera introducir o repasar algunas ideas.
La ética de la inteligencia artificial
Desde hace ya unos cuantos años, el debate sobre la ética de la inteligencia artificial está presente entre nosotros. Pero no se trata sólo de que se haya convertido, simplemente, en un tema 'de moda', que lo ha hecho, o de algo de lo que se habla simplemente...porque es de lo que habla todo el mundo, cosa que también sucede. No, además, de eso, y más allá de modas y superficialidades, también ha conducido a resultados prácticos, tangibles y que seguramente debemos celebrar.
Así, ha dado lugar el desarrollo de técnicas y soluciones para, por ejemplo, detectar sesgos, para proteger la privacidad, etc.
También ha hecho que fabricantes, como por ejemplo, OpenAI en su ChatGPT, incluyan protecciones (los famosos 'guardrails') para evitar que su producto estrella produzca resultados inadecuados (en lo ético, me refiero, aunque se pueden usar para conseguir más objetivos).
Igualmente ha llevado a regulaciones, como el famoso Reglamento de la Inteligencia Artificial de la Unión Europea. Incluso, algunas empresas han adoptado esquemas de gobierno bajo la filosofía de 'ética por diseño' buscando crear unos procesos de producción de soluciones de inteligencia artificial que aplican criterios y filtros éticos en todo el ciclo de vida.
El diálogo ético
.
En el origen de algunos de estos resultados, se encuentra un diálogo, un debate y un análisis previo. Así, y a modo de ejemplo, unos años antes de aprobar el Reglamento de la Inteligencia Artificial, la Unión Europea ya había reunido a un grupo de expertos para producir un primer resultado fruto del diálogo ético: las "Directrices éticas para una IA fiable".
Sin embargo, creo que el diálogo ético ha sido insuficiente o, quizá, por mejor decirlo, debería continuar y ampliarse. ¿Por qué? Pues porque todavía quedan debates éticos sin resolver y, lo que sobre todo quiero traer a colación en este post, porque hay actores importantes que no han participado aún en ese diálogo.
Problemas éticos sin resolver
Queda todavía muchísimo camino por recorrer, por supuesto, en materia de resolver problemáticas éticas como la privacidad o los sesgos. Sin embargo, en la mayoría de las problemáticas digamos 'clásicas' de la inteligencia artificial, como las dos mencionadas, y si nos circunscribimos al ámbito occidental, fundamentalmente Europa, el debate ético está cerrado: sabemos qué valores queremos proteger y sabemos lo que consideramos correcto e incorrecto desde un punto de vista ético (otra cosa es la implantación de esos criterios en lo regulatorio o en la aplicación práctica por parte de empresas, administraciones y usuarios). Pero, insisto, desde un punto de vista de debate ético, creo que lo podemos considerar casi cerrado.
Pero en la inteligencia artificial, y en lo que voy a mencionar, en la robótica, existen una serie importante de debates éticos que no creo resueltos. Debates relacionados en buena medida con nuestra relación con las máquinas, en la dependencia de ellas o en el establecimiento de relaciones afectivas con robots o chatbots.
Se trata de problemas complejos desde todos los puntos de vista y no existe, creo, ni el suficiente debate, ni el suficiente consenso ético.
Y ese es uno de los motivos por lo que el diálogo ético debe continuar y se debe profundizar en él.
La experiencia: jornadas sobre la relación de la teología y la IA
Al comenzar este post mencionaba una experiencia interesante. Bueno, pues la experiencia es que fui invitado por la Universidad Pontificia de Salamanca a participar como ponente dentro del marco de las LVII Jornadas de Teología, que este año exploraban el tema: "IA y teología: una relación a construir".
Confieso que recibí con ilusión, pero también con mucho respeto, la invitación. Aunque estoy acostumbrado a hablar (e impartir docencia) sobre ética de la inteligencia artificial, el escenario, y el público, eran muy diferentes: en este caso hablamos de unas jornadas de teología, donde el público estaba compuesto mayormente por sacerdotes, muchos de ellos profesores de campos como teología o antropología, y seminaristas. Y, además, examinado del currículum de otros ponentes, veía que predominaban altas autoridades de la iglesia y/o catedráticos.
Desde luego, un público y un contexto muy diferentes a los que frecuento.
El escenario: aula magna de la Universidad Pontificia de Salamanca
Y el escenario, precioso, también era impresionante: el aula magna de la Universidad Pontificia.
Conocer el terreno
Es importante en cualquier circunstancia conocer el terreno que pisas. Considero para mí un deber, y también sucedió en este caso, informarme sobre el contexto en que me movía. En realidad es algo que hago siempre antes casi de cualquier presentación o de impartición de una clase o materia sobre un tema que no frecuento.
En este caso, por ejemplo, me leí dos libros de teología. El primero 'Iniciación a la teología', cortito pero, en mi opinión, demasiado abstracto y alambicado para constituir una verdadera iniciación. El segundo, 'Esta es nuestra fe: teología para los que no frecuentan la teología', este sí, llano, fresco, sencillo y agradable de leer y que sí que recomiendo a cualquiera interesado en informarse sobre la teología cristiana, sea creyente o no.
Más importante que eso, me leí también el documento 'Antiqua et Nova', que creo que es la mayor reflexión hasta la fecha publicada por la Iglesia católica en materia de inteligencia artificial y que, de hecho, se presentó en las jornadas y se citó abundantemente.
E, incluso, un artículo cuyo conocimiento debo a Javier Barraca, publicado en La Razón, el día antes de inicio de las jornadas y en que se informaba de que el papa León XIV había publicado una carta apostólica, titulada "Diseñar nuevos mapas de esperanza" y que, en el contexto de la educación, menciona la tecnología y la inteligencia artificial.
Mi planteamiento
En mi ponencia, que tenía que ser corta, introducía muy rápidamente ideas sobre la tecnología y su papel en el progreso y unas muy breves pinceladas sobre lo que es la inteligencia artificial y qué puede hacer.
De ahí saltaba a identificar los problemas éticos más conocidos de la inteligencia artificial, problemas sobre los que, como he indicado más arriba, tenemos razonablemente claro lo que es correcto y lo que no.
Y luego pasaba a algo que me apasiona, a lo que he dedicado mucho tiempo de lectura e investigación en los últimos años y a lo que dedico una parte importante de mi tiempo en OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial): las relaciones con las máquinas (especialmente con los robots) y todo lo que tiene que ver con las implicaciones emocionales. Un ámbito, precioso y retador en lo intelectual, pero donde no existe ese consenso sobre los criterios éticos, quizá porque todavía no hemos asimilado el fenómeno.
Y luego venía lo que, en mi opinión, era lo mejor y más importante: el papel de la ética en todo esto, contestar a la pregunta de si debemos humanizar a las máquinas o robotizar a las personas (ese era el título de la mesa en que yo participaba) y, sobre todo, sobre todo, muy sobre todo, el papel y la implicación, siempre en mi opinión, de la teología e iglesia cristianas en esta materia.
Cuando el tiempo no es lo importante
Pero ahí se produjo un borrón, el único en un par de días que en todo lo demás fueron extraordinarios: mi ponencia fue interrumpida bruscamente, lejos de haberla culminado y sin poder enviar los mensajes más importantes.
En una acción que considero equivocada, el moderador, obsesionado por el tiempo, y mucho más pendiente del reloj que del mensaje y del verdadero avance de la mesa, no me permitió continuar más que dos brevísimos minutos.
Confieso que yo sabía que me iba a pasar de tiempo. No en vano ya había ensayado varias veces la presentación, la última esa misma mañana y dos veces más la noche anterior, y sabía que me iba a exceder en unos minutos (entre cinco y diez).
Pero en esa noche anterior había decidido que si, que intentaría no adornarme para ir directo al grano e intentar no sobrepasar demasiado el tiempo asignado pero no, no iba a recortar nada como era mi plan inicial. Al fin y al cabo contaba también con el colchón de minutos del tiempo de preguntas y del tiempo de descanso.
Y decidí no recortarla porque, tras escuchar durante toda la primera jornada las exposiciones de los ponentes, y quizá más aún, las preguntas de los asistentes, sentí que era muy importante que les contase todo lo que traía conmigo: necesitaba que entendieran, de verdad, qué es y qué puede hacer realmente la inteligencia artificial, en qué punto estamos a nivel ético fuera del entorno católico y, sobre todo, sobre todo, lanzarles unos mensajes, en gran medida motivadores, pero también con deberes claros y muy necesarios.
Lágrimas en la lluvia
Me resulta difícil explicar la frustración y el desconsuelo que arrastro desde ese día por no haber podido culminar la presentación. No se trata sólo del desperdicio de las muchas horas que dediqué a la ponencia, en realidad eso es lo de menos, se trata de algo mucho más importante.
Se trata de que era una ocasión y un escenario únicos para un mensaje en mi opinión necesario y potente y que, además, estaba completamente personalizado para el público asistente.
Como decía más arriba, no son unas jornadas de teología mi territorio habitual y nunca hasta ahora me había dirigido a un público de sacerdotes católicos. Y como no es mi territorio natural. es muy difícil que vuelva a estar en una situación similar y que pueda lanzar el mensaje que traís. Así que como dice la famosa frase de 'Blade Runner":
todos esos momentos se perderán, como lágrimas en la lluvia
Más que momentos, en este caso se perderán, mensajes, ideas, por los que, metafóricamente, quizá valga la pena llorar para añadir más caudal a la lluvia.
La necesidad de ampliar el diálogo ético
Hecho ese dolido apunte, rescato una parte, sólo una pequeña parte, de lo que tenía en mente y de alguna forma explicitaba en ese mensaje final perdido: la necesidad del diálogo ético, y la necesidad de incorporar a actores que no han estado presentes en el diálogo ético hasta ahora, en este caso, la Iglesia católica.
Al parecer, y bajo el impulso del Papa León XIV, la Iglesia católica está reflexionando y va a reflexionar más, sobre la inteligencia artificial y, como ya ha hecho en la 'Antiqua et nova', entiendo que emitirá nuevos juicios y criterios en forma de cartas apostólicas, encíclicas o discursos papales.
Pero lo cierto es que hasta ahora ha estado bastante ausente o esa es mi percepción. No participó, por ejemplo, hasta donde yo sé, en la redacción de las guías éticas que precedieron al Reglamento de Inteligencia Artificial de la Unión Europea.
Como tampoco, hasta donde se me alcanza, han estado presentes otras iglesias o religiones: ni protestantes, ni judías, ni islámicas, siempre que yo sepa.
Y me pregunto, porque en este momento no se me ocurre, qué otros actores relevantes pueden haber quedado fuera hasta ahora en el diálogo y debate ético sobre inteligencia artificial.
El mensaje
El mensaje iba mucho más allá, pero al menos quiero dejar esa idea de la incorporación al diálogo ético de la Iglesia católica y, en general, de las religiones.
Aunque mi verdadero mensaje, en su completitud e integridad se ha perdido en gran medida. no pude resistir la tentación, el Viernes, al día siguiente de finalizadas las jornadas, de publicar en mis redes un vídeo con la presentación completa, lo que se vio, y lo que no se vio.
Es éste:
No, pese a que se pueden ver todas las trasparencias, no se puede más que intuir el mensaje, el mensaje íntegro, porque eran muy importantes las palabras con que pensaba acompañar las trasparencias finales, unas palabras que, como lágrimas, se han confundido ya con la lluvia.
Conclusiones
Aunque llevamos varios años con un intenso debate ético en torno a la inteligencia artificial y aunque a lo largo de esos años tenemos resultados tangibles en forma de propuestas, regulaciones, modelos de gobernanza y tecnologías, lo cierto es que el debate ético no ha finalizado.
No ha finalizado porque quedan cuestiones sin resolver, o al menos sin consensuar, y porque nos han faltado actores relevantes en ese debate, siendo las religiones, y en concreto la Iglesia católica, uno de ellos.
En un reciente post, al explicar el giro relacional en roboética propuesto por David Gunkel. en materia de roboética, mencionaba, brevemente, el término 'mind reading' y sugería que lo trataría en un siguiente post. Bueno, ha llegado el momento de hacerlo.
Si menciono el término 'mind reading', (literalmente 'lectura de la mente') a aquellas personas que no conozcan el concepto, les puede sugerir algo misterioso, algo así como en una especie de telepatía o, ya que lo menciono en relación con la roboética, algo temible, como si las máquinas fuesen capaces de leer nuestra mente, nuestros más íntimos pensamientos y sentimientos. Pero no, no se trata de eso exactamente, aunque tenga alguna conexión y aunque ¡a saber dónde podemos llegar!.
El mind reading en humanos
En realidad, la idea del mind reading surge en el contexto de la psicología y hace referencia, no a una estricta lectura de la mente, sino a la capacidad que tenemos los seres humanos (supongo que también al menos hasta cierto punto otros seres vivos) de interpretar lo que, dicho familiarmente, 'se le está pasando por la cabeza' a nuestro interlocutor. Bueno, por la cabeza y por el corazón usado el corazon como metáfora de los sentimientos y emociones.
El mind reading es la capacidad para intuir los pensamientos y emociones de otros, con base en lo que expresa mediante lenguaje verbal, las expresiones faciales y, en general, todo tipo de lenguaje no verbal incluyendo, claro, elementos involuntarios como el 'ponernos colorados'.
Aunque, como todo mecanismo natural no es perfecto, nuestras capacidades humanas de 'mind reading' son eficaces y suficientes para entender a los demás y así engrasar las relaciones interpersonales y sociales.
Mind reading en relación robots personas
Pero ¿existe 'mind reading' en las relaciones robots-personas o, en general en la relación de las máquinas y las personas?
Bueno, creo que podemos decir que existen al menos formas más o menos rudimentarias de 'mind reading'.
Si lo pensamos en el sentido de que un robot haga 'mind reading' a una persona, es decir, entienda sus intenciones y emociones, podemos decir que, aunque de una manera imperfecta, existen mecanismos para ello.
De todos es conocido el formidable avance de los últimos años en materia de procesamiento de voz y de lenguaje natural, de forma que, aunque con alguna reserva, podemos decir que los robots tienen capacidad para 'entender' el lenguaje verbal. Es necesario precisar aquí que lo de 'entender' va con comillas, con muchas comillas en realidad, porque los algoritmos actuales de entendimiento de lenguaje natural, en general no comprenden lo que el humano dice, no asignan un verdadero contenido semántico a las palabras. Se trata de un tema con muchos matices y que, por ejemplo, nos llevaría al problema del 'symbol grounding', pero voy a evitar en este post complicarme con esos temas y asumir que, a efectos prácticos, y aunque de manera imperfecta, los robots pueden entender el lenguaje verbal.
Ya hemos tratado también con frecuencia cómo los robots, aplicando, por ejemplo, las técnicas de la computación afectiva ('afective computing') pueden también deducir, aunque de manera aún limitada, emociones.
Y combinando estímulos verbales y no verbales, los robots puede, hasta cierto punto, estimar las intenciones de los humanos.
Es decir, los robots (pienso, por supuesto, en robots cognitivos avanzados) tienen unas razonables capacidades para hacer 'mind reading' a los humanos.
¿Y en el otro sentido?
¿Podemos los humanos entender las intenciones, emociones y estados internos de los robots?
Bueno, hay mucho que decir sobre en qué consisten esos estados internos, esas presuntas emociones e intenciones de los robots.
Pero antes de entrar en ello, decir que en el propio diseño de los robots sociales o incluso los robots software de naturaleza conversacional, se busca que tanto el lenguaje verbal, expresado mediante voz, como los gestos o expresiones faciales del robot, transmitan, precisamente, esas presuntas emociones o intenciones del robot.
¿Existe en los robots una mente que leer?
Quizá haya que explicar de qué estados internos, de qué emociones e intenciones estamos hablando si nos referimos a un robot o, dicho de otra forma ¿Qué 'lee' un humano de la mente de un robot?
Hay que ser claro: los robots, al menos los robots actuales, no tienen emociones. Punto. En ese sentido, no habría nada que leer... Bueno, relativamente. Es seguida vamos a ello.
¿E intenciones? Bueno, si por intenciones entendemos una forma de libre albedrío, podría ser tan radical como en el caso de las emociones y decir que no tienen libre albedrío. Y punto, de nuevo.
Sin embargo, sí que tienen claramente intenciones en el sentido de acciones que planifican realizar a continuación como consecuencia de sus objetivos y del estado del entorno en que se mueven (formando las personas parte de ese entorno). Y dado que son acciones 'lógicas', y siguiendo además una lógica similar a la humana, y que además los propios robots 'señalizan' de alguna forma esa intención, sí podríamos considerar que los humanos podemos 'leer', al menos hasta cierto punto, las intenciones de los robots.
Pero, y volviendo a las emociones, los robots sociales, aunque no sientan emociones, sí que simulan en su comportamiento externo, esas emociones. Sí tienen, o pueden tener, estados computacionales internos que les sitúan en una especie de estado emocional y que condiciona su comportamiento y cómo se expresan en su relación con los humanos a nivel de lenguaje verbal, gestual y, en general, las capacidades de lenguaje no verbal que el robot pueda exhibir.
Y los humanos podemos 'leer' esos estados emocionales porque, además, los robots sociales están expresamente diseñados para facilitar esa lectura de sus estados por parte de los humanos.
Mind reading y roboética
Y esto conecta con la roboética porque nos encontramos ante unos entes, los robots sociales o cognitivos avanzados, que no sólo son capaces de, hasta cierto punto, 'leer nuestra mente' (en el sentido psicológico del 'mind reading'), sino que, además, simulan un estado interno que incluye emociones y, por supuesto intenciones y que los humanos podemos, a su vez, 'leer' e interpretar.
Y esto conecta con muchos elementos éticos.
Si, como defiende Gunkel, lo que puede definir el estatus moral de un robot es, no su propia naturaleza (enfoque de las propiedades), sino las relaciones que mantenemos con ellos, en cierto sentido pierde importancia el que el robot no tenga verdaderas emociones o libre albedrío en la medida que en su relación con los humanos sea capaz de leer suficientemente bien nuestra mente y simular, suficientemente bien su propia mente y simularla de una forma que los humanos podamos leer.
Y todo esto afecta, pues, a su estatus moral o a problemáticas éticas que incluyen la eventual amistad de personas con robots, e incluso las relaciones sentimentales con robots.
Conclusiones
Hemos visto que el 'mind reading' es una capacidad de naturaleza esencialmente psicológica que tenemos los seres humanos y que facilita y moldea nuestras relaciones.
Y hemos visto que, aunque con limitaciones e imperfecciones (que seguramente se irán borrando en el futuro a medida que la tecnología avance), los robots cognitivos y sociales avanzados pueden, a su vez simular estados anímicos internos, intenciones y emociones y hacerlo de manera que los humanos podamos 'leer' esos estados, esas intenciones y emociones.
Dejando aparte el enorme interés científico y técnico de este hecho, también es muy relevante las herramientas que añade y también las problemáticas que abre desde un punto de vista ético
Y, basándonos en el capítulo 'The relational turn. Thinking robots otherwise' firmado por David Gunkel e incluido en el libro titulado 'Social robotics and the good life' editado por Janina Lo y Wulf Loh, repasamos en qué consistía el enfoque de propiedades como forma de derivar el estatus moral de un ente, en este caso los robots.
De forma muy simplificada, decir que el enfoque de propiedades intenta deducir el estatus moral de una entidad (en este caso un robot) a partir de características como la 'sintiencia' o la 'consciencia' que le otorgan, caso de existir, ese estatus moral.
El problema de ese enfoque es, en esencia, que se basa en estados internos de la entidad que no nos es dado conocer. Esto conecta con el denominado problema del 'mind reading' (la capacidad para atribuir estados mentales como sentimientos, objetivos, intenciones o deseos a una entidad externa, sea un ser humano o, en este caso, un robot).
Aparco para otro momento la eventual discusión sobre si, incluso, en el caso de un robot existen o pudieran existir esos estados internos del tipo de sentimientos o intenciones, algo que, aunque muy interesante, creo que, en cierto modo, el giro relacional hace mucho menos relevante.
La esencia del giro relacional
Dicho de forma muy sencilla, el giro relacional prescinde de las características de la entidad como fuente del estatus moral y soslaya la problemática del 'mind reading', para fijarse en aspectos externos y sociales.
En palabras de David Gunkel, se trata de:
an alternative model [] which shifts the emphasis from internal properties of the individual entity to extrinsic social circumstances and relationships.
Es decir, nos fijamos en las relaciones que mantenemos con la entidad (en este caso, las relaciones de los humanos con los robots) y aspectos sociales asociados.
Las tres características del giro relacional
Gunkel identifica tres características importantes de ese giro relacional que serían:
Relacional: El estatus moral se decide no a partir de propiedades internas subjetivas sino de relaciones sociales extrínsecas objetivamente observables o, si se prefiere, el estatus moral depende de la relación que, en este caso los robots, establecen con nosotros.
Fenomenológico: Se trata de un enfoque radicalmente empírico
Diverso: El abandonar el enfoque de propiedades, muy propio del pensamiento occidental, conecta mejor con otros planteamientos morales en diferentes culturas y momentos históricos.
Como opinión meramente personal, diría que, aunque el enfoque de propiedades parece que conecta mejor con nuestra forma de pensar y razonar (quizá precisamente por ser occidentales) el giro relacional que, en el fondo, con otros nombres pero parecidos planteamientos se puede encontrar en otras obras y autores sobre roboética o ética de máquinas y algoritmos, parece una solución práctica, realista y posibilista que rompe un cierto bloqueo analítico a que lleva el enfoque de propiedades.
Críticas y retos
Pero este enfoque relacional, no está exento de problemáticas y críticas. Siguiendo de nuevo la obra de Gunkel, nos encontramos con:
Relativismo: Al tratarse de un enfoque no deductivo, sino empírico y no dependiente de unas características claras, el enfoque relacional corre el riesgo de conducir al relativismo moral, un relativismo en que se asigna o no ese estatus moral no de forma universal sino dependiente de circunstancias.
Deshumanización: según algunos pensadores, el enfoque relacional podría conducir a perder de vista características valiosas de las relaciones humanas e, incluso, 'cosificar' a las personas.
Contradicción: Hay autores que piensan que, pese a lo que pueda parecer, el enfoque relacional es plenamente antropocéntrico y, en el fondo, también dependiente de las propiedades
En la obra citada, Gunkel analiza y contraargumenta algunas de las objeciones, pero no voy a entrar aquí en ese detalle.
Conclusiones
Gunkel nos recuerda que el enfoque de propiedades no es realmente erróneo pero sí que presenta limitaciones que pueden ser superadas en su mayoría por el este giro relacional.
Está claro que la problemática de asignación de estatus moral a los robots es compleja y no hay unidad de criterios, como ocurre, por otro lado, en tantas y tantas problemáticas filosóficas en general y de la roboética en particular. Paradójicamente, en parte esto es lo que convierte a esta disciplina en intelectualmente tan apasionante.
Seguiremos pues hablando con cierta frecuencia de roboética...
Uno de los debates filosóficos más apasionantes, y a la vez complejos, no de entender sino de decidir, dentro del campo de la roboética, es la asignación o no de un estatus moral a los robots.
El planteamiento del problema
Cuando hablamos de estatus moral lo podemos ver desde una doble perspectiva: la agencia moral, es decir, si los robots pueden llegar a ser responsables desde un punto de vista moral de sus acciones, y la paciencia moral, es decir, si los robots son acreedores de alguna forma de respeto o consideración moral por nuestra parte e, incluso, si pueden tener derechos.
Estrictamente hablando, el planteamiento no es diferente de otras entidades. Lo que ocurre es que, en el caso de que la entidad sea un ser humano, le asignamos ese estatus moral de una forma casi axiomática, como algo que damos por supuesto. Y en el caso de los animales, aunque cabe más el debate, en la actualidad se le tiende a asignar ese estatus moral e incluso, progresivamente, crece la legislación que los protege.
Sin embargo, en el caso de los robots la cosa no está clara en absoluto sino que, cierto que en ámbitos especializados, existe un activo debate al respecto. Pero ese debate que, como digo, actualmente se concentra en círculos muy de nicho del campo de la robótica y, sobre todo, de la ética , pudiera extenderse y pudiera ser más necesaria su resolución en la medida en que los robots puedan avanzar tanto en sus capacidades cognitivas como, quizá, en su aspecto humanoide y también en la medida en que, eventualmente, pueda generalizarse su uso.
El giro relacional de David Gunkel
Uno de los más importantes pensadores en este campo es David Gunkel, profesor de la Northern Illinois University y autor de varios libros, entre los que destacan 'Robot rights' y 'Person, thing, robot'.
Este autor propone lo que denomina un giro relacional ('relational turn') como forma de superar una cierta dicotomía entre personas y cosas.
De forma resumida, su planteamiento se puede encontrar en el capítulo 'The relational turn. Thinking robots otherwise' incluido en el libro coral titulado 'Social robotics and the good life' y editado por por Janina Lo y Wulf Loh.
Arguye Gunkel que, tradicionalmente, aquellas entidades que eran consideradas personas tenían estatus moral y derechos mientras que las que eran consideradas cosas no disponían de ese estatus moral. Argumenta además que ya en el pasado han existido algunas situaciones intermedias como la de los esclavos en la antigua Roma o actualmente los animales. Y piensa que los robots podrían ser otra de esas entidades intermedias, a medio camino, de alguna manera, entre personas y cosas.
Antes de entrar en su propio planteamiento, Gunkel resumen el denominado enfoque de propiedades ('properties approach') que es lo que quisiera resumir en este post, para revisar, en otro artículo próximo, la propuesta de Gunkel, su giro relacional.
El enfoque de propiedades
En el enfoque de propiedades, el que una entidad deba disponer o no de estatus moral depende de que exhiba o no una o varias propiedades que, de alguna forma, le califiquen para ese estatus. Podría expresarse como: si tiene las propiedades A, B y C, debe gozar de estatus moral y si no las tiene, no. Ese enfoque de propiedades se puede esquematizar, y así lo hace Gunkel, como una suerte de silogismo de la siguiente forma
Tener la propiedad P es suficiente para tener a el estatus moral M
La entidad E tiene la propiedad P
La entidad E tiene el estatus moral M
Vuelvo a insistir en que este planteamiento es válido para el análisis del estatus moral de cualquier entidad, incluido el ser humano. Lo que ocurre que encuentra especial interés, y también dificultad, cuando lo trasladamos a robots.
Algunas de las propiedades que pudieran actuar como calificadoras para el estatus moral, y así aparecen en las obras sobre roboética, podrían ser la denominada 'sintiencia' (capacidad para sufrir) o la consciencia (fácil de entender pero muy difícil de definir).
Los problemas del enfoque de propiedades
Sin embargo, y aunque el enfoque de las propiedades parece lógico y fácil de entender (e incluso de compartir) para Gunkel adolece de importantes limitaciones que él condensa en tres y que, de forma muy resumida, son las siguientes:
Determinación: Cómo establecer concretamente qué propiedad o conjunto de propiedades son necesarias y suficientes para que 'algo' tenga estatus moral. En efecto, no existe consenso al respecto.
Definición: Supuesto que identificamos esa propiedad o propiedades, la dificultad para definirlas de una forma exacta. Ya lo mencionamos a propósito de la consciencia, pero incluso la propia 'sintiencia' u otras propiedades similares no son sencillas de delimitar de manera rigurosa.
Detección: Cómo acceder o percibir esa propiedad teniendo en cuenta que las que se proponen como posibles propiedades (como la 'sintiencia' y 'consciencia' ya mencionadas) se suelen corresponder con estados mentales internos de la entidad y, por tanto, no directamente accesibles desde el exterior.
Estas carencias limitan la capacidad real del enfoque de propiedades como orientación para asignar o no estatus moral a una entidad, en este caso, un robot.
Conclusiones
En un próximo post, veremos en qué consiste el giro relacional propuesto por Gunkel pero, de momento, hemos revisado 'de qué va' el problema de la asignación de estatus moral a una entidad, especialmente un robot, en qué consiste el planteamiento del enfoque de propiedades y algunas de sus limitaciones.
Finaliza con este post, la serie de artículos inspirados en la lectura del libro libro 'Person, Thing, Robot: A Moral and Legal Ontology for the 21st Century and Beyond' de David Gunkel y que aborda temáticas de roboética y que también recuerda aspectos tratados en su libro anterior 'Robot rights' donde explora la posibilidad de que los robots, especialmente los robots más avanzados de tipo humanoide, pudieran tener alguna forma, no sólo de consideración moral sino también, y en parte, aunque no únicamente, derivado de ello, alguna forma de derechos.
¿Es impensable que los robots tengan derechos?
Seguramente a muchos lectores, aunque probablemente no tanto a los que sigan este blog, la idea de que los robots tengan derechos les pueda sonar extraña, probablemente disparatada e, incluso, un poco repugnante.
La idea de que los robots tengan derechos parece que es un poco como equipararles a personas y eso, 'a bote pronto' nos genera un casi inmediato rechazo. Nos parece impensable.
Sin embargo pudiera no serlo tanto y, a ese respecto, y muy brevemente, sólo quisiera apuntar tres ideas:
Existe un debate real sobre la posibilidad de crear una personalidad electrónica
Los robots ya tienen en algunos casos derechos
La historia nos demuestra que puede no ser tan impensable
El debate de la personalidad electrónica
Sólo apuntar que, aunque al menos hasta donde se me alcanza, no existe ni consenso ni una senda clara de avance, el debate jurídico sobre la posibilidad de crear la idea de una 'persona electrónica' que represente a robots, algoritmos, etc (de la misma forma que en su momento se creo la 'persona jurídica' para representar a empresas y organizaciones) es un debate que está sobre la mesa.
Hasta donde sé, esa idea de la personalidad electrónica ha estado dirigida no tanto por consideraciones morales sino sobre problemáticas sobre cómo tratar la responsabilidad legal de una máquina autónoma que haga daño o sobre una eventual fiscalidad sobre robots.
En cualquier caso y, aunque, repito, hasta donde sé con poco avance, el debate sobre el concepto de personalidad electrónica existe y se trata de forma seria.
Los robots ya tienen derechos
Aunque no lo sepamos, incluso aunque nos sorprenda, en algunos casos concretos los robots ya tienen alguna forma limitada y específica de derechos.
Así, el propio David Gunkel en su libro, recuerda que en estados norteamericanos como Pensilvania o Virginia, los robots de reparto ya tiene algunos pequeños derechos para permitir de forma eficaz su circulación.
Esta misma idea nos la recordó en el evento 'Robots & Philosphy with David Gunkel' que tuve el placer de conducir dentro de las actividades del área de Relación Robots-Persona de OdiseIA y que te animo a ver en su totalidad.
Derechos impensables e historia
Gunkel nos recuerda también en su libro, y mencionando a autores como Christopher Stone, que históricamente
each succesive extension of rights to some new entitiy has been theretofore, a bit unthinkable
Es decir, que al principio la extensión de derechos a entidades que no los tenían, parecía impensable. Y sin embargo, luego les fueron concedidos. Y eso ha ocurrido con 'entidades' que hoy en día vemos tan claro que deben tener derechos como son las mujeres o como, posteriormente, los animales.
En estos casos, lo que al principio parecía impensable, luego fue debatido seriamente y al final se reconocieron esos derechos. Añadiría que, especialmente en el caso de las mujeres, lo que hoy en día nos parecería impensable, al menos en países occidentales, es que no tuvieran derechos e iguales a los de los hombres.
Parece que hoy en día estamos iniciando una tímida transición desde la idea de que los derechos de los robots son impensables, a iniciar el debate.
¿A dónde llegaremos?
Conclusiones
Aunque no hay en absoluto consenso, ni siquiera todavía un debate demasiado extendido, lo cierto es que no sólo desde un punto de vista moral, donde es más discutible, sino también en el orden práctico, hay ya algunas razones que podrían sugerir la necesidad de conceder derechos a los robots y eso supone, al menos, el inicio del debate.
Y si miramos a la historia, eso podría sugerir que, lo que hoy resulta para muchos impensable, que los robots tengan derechos, pudiera cambiar en el futuro.
Como todo buen lector de este blog sabrá, me interesan mucho los robots, desde todos los puntos de vista, uno de los cuales es el ético y casi diría, filosófico, que se reúne, de alguna forma en la seudo-disciplina de la roboética.
La problemática de fondo: el estatus moral de los robots
Uno de los problemas fundamentales que se tratan en esa rama del conocimiento o, quizá sería más correcto decir, la investigación y análisis, es si los robots deben tener alguna forma de estatus moral, si les debemos alguna forma de consideración, quizá, en el caso más extremo, al mismo nivel que las personas o quizá a niveles inferiores como los que podemos adjudicar a los animales, por ejemplo.
Muy en esencia, el desarrollo del libro nos dice que tradicionalmente, el problema del estatus moral de los robots se ha realizado desde su ontología, desde su naturaleza, intentando decidir si son más como una persona (lo que les haría merecedores de estatus moral) o como una cosa (que se lo denegaría).
Existe también un enfoque fenomenológico que ya comenté en el post anterior pero en el que ahora no me detendré.
En cualquier caso, en el desarrollo del libro de Gunkel, examina diferentes posiciones y análisis, tanto con las cosideraciones como cosa, como en las consideraciones como persona, como en la vía intermedia.
Y en el ámbito de la visión como 'persona', me encuentro dos planteamientos que me ha parecido anotar aquí.
Se trata de dos planteamientos en que, de alguna forma, se plantean pruebas que podrían determinar si un robot merece estatus moral.
Como ya creo haber comentado anteriormente, existe una línea de pensamiento en que identifica dos elementos que hacen a un ser artificial, digamos un robot, merecedor de estatus moral, a saber, la 'sintiencia' (la capacidad de sentir placer y sobre todo de sufrir) y la consciencia.
El planteamiento de Levy el factor relevante es la consciencia y proporciona dos criterios o dos pruebas de naturaleza psicológica, por mejor decir, para identificar si un ente es consciente, a saber
Capacidad para reconocerse a sí mismo y en ese sentido, Levy propone una variante de la prueba del espejo de Gordon Gallup, desarrollada en los años 70.
Retardo estímulo-acción es decir, la prueba del retardo de Francis Crick y Christof Koch que se basa en el retardo entre un estímulo concreto y la ejecución de alguna acción subsiguiente.
Se trata de un planteamiento interesante, si no, evidentemente, no lo recogería en el blog, pero me parece que en cierto sentido insuficiente y, sobre todo, diría que hoy en día es falseable.
¿A qué me refiero?
Creo que la prueba del espejo, que hasta donde sé, ya ha sido explícitamente superada por robots, realmente se puede conseguir 'fácilmente' con las capacidades de visión artificial actuales, sin que ello suponga una verdadera consciencia, sólo una forma de reconocimiento de objetos relacionado con la auto-percepción.
Igualmente, a falta de mayor análisis y de entender mejor qué se espera de ese estímulo respuesta, esa relación y ese retardo se produce en casi cualquier robot sin que, de nuevo, me parezca que eso demuestra consciencia.
Tengo la sensación que el planteamiento de Levy se ha quedado, en cierto sentido, obsoleto, superado por una tecnología que ya es capaz de superar las pruebas planteadas, pero que, sin embargo, no alcanza, probablemente ni siquiera se acerca, a la consciencia tal y como se manifiesta en humanos.
Hubbard desarrolla una suerte de 'test de capacidad para la personalidad'. Advierto en este punto la dificultad para traducir 'personhood' al español, porque la traducción como 'personalidad' no es realmente exacta. En el planteamiento de Hubbard creo que ese 'personhood' se refiere a algo así como 'naturaleza de persona' o, si se quiere, hasta cierto punto, 'humanidad'. En realidad se refiere, de alguna forma, a la cualidad, que seguro tenemos las personas, y que nos hace acreedores de estatus moral.
Hecha esa aclaración, los tres elementos, las tres capacidades que Hubbard considera empíricamente observables, son:
Interacción: Capacidad para interaccionar de una forma significativa con el entorno mediante la recepción y decodificación de entradas desde el entorno y el envío de datos inteligibles al mismo.
Auto-consciencia: Poseer el sentido de un 'sí mismo' ('self') que no sólo existe como una entidad diferenciada a lo largo del tiempo, sino que además puede ser objeto de una auto-definición creativa en términos de un plan de vida
Reconocimiento social: El derecho de un ente a reclamar el derecho a 'ser persona' presupone una relación recíproca con otras personas que reconocerían ese derecho y que, a su vez, podrían reclamarlo.
Los planteamientos de Hubbard, me parecen mucho más cercanos a una verdadera prueba de consciencia. Lo que me cabe la duda es, y a pesar de que se afirma que se trata de cualidades empíricamente observables, si realmente se trata de capacidades realmente perceptibles y medibles y por tanto, si realmente se trata de un planteamiento accionable.
Además, y utilizando el lenguaje de los teoremas matemáticos, me da la impresión de tratarse de capacidades necesarias, pero no estoy seguro de si son suficientes para la consciencia aunque es cierto que, especialmente la segunda, son condiciones 'fuertes'.
Conclusiones
Es evidente que el problema de la asignación de estatus moral a los robots, no digamos ya el tema de la consciencia, es un tema abierto, aún en debate y reflexión.
Las planteamientos y pruebas mostrados son algunos de los intentos relevantes e interesantes, pero seguramente no definitivos, de explorar esta problemática en busca de una elusiva verdad, de una elusiva conclusión.
Quizá el título de este post asuste un poco. Quizá parezca 'demasiado filosófico', quizá demasiado teórico, pero en realidad no va a ser, ni mucho menos, tan difícil de entender.
A vueltas sobre el estatus moral de los robots
Todo esto viene a cuento sobre si los robots, especialmente robots avanzados, deben de tener alguna forma de estatus moral, en el sentido de agencia moral pero, especialmente, de paciencia moral, es decir, si debemos tener alguna forma de respeto, cuidado o consideración moral hacia los robots.
Ahí, el autor hace un recorrido por las diversas posiciones que respecto a ese estatus moral han hecho diversos autores.
Primero nos resume algunas visiones más ontológicas, en el sentido de que los robots podrían tener o no estatus moral o derechos en función de su propia naturaleza (y si se acercan más a ser una persona o una cosa).
La visión fenomenológica
Pero lo que quiero recoger aquí son varias posiciones de naturaleza, espero utilizar bien el término, fenomenológicas, es decir, que 'no se empeñan' en deducir el estatus moral a partir de la naturaleza de los robots sino de su comportamiento externo, de lo que podemos percibir de ellos, de nuestras relaciones con ellos.
Y lo cierto es que varios autores, y varios autores relevantes, apuestan por esta visión.
La posición de Mark Coeckelberg
El primero que nos menciona Gunkel es Mark Coeckelberg. Coeckelberg dice que, en la práctica, cuando decidimos cómo tratar a un ente, no lo hacemos analizando su naturaleza interna sino sólo cómo se aparece ante nosotros y, en este sentido, Coeckelberg sugiere:
If robots were sufficiently advanced - that is, if they managed to imitate subjectivity and consciousness in a sufficiently convincing way - they coud become others (or at least quasi others) that matter to us in virtue of their appearances.
y Coeckelberg remata con una frase muy directa, relacionando las exigencias morales que hacemos a humanos frente a las que hacemos a los robots:
Why put such high demands on robots if we do not demand this from humans?
Ahí queda eso.
Como se afirma en otros entornos de la ética e incluso la regulación de la inteligencia artificial, parece como si nos empeñásemos en exigirles más que lo que exigimos a las propias personas.
En cualquier caso, esa es la base de lo que luego Coeckelberg denomina la 'ética social relacional'.
La posición de John Danaher
La segunda posición que resalta Gunkel en su libro es la de John Danaher, una posición que Danaher denomina 'ethical behaviorism', que traduciré, espero que correctamente, como conductismo ético.
Según recoge Gunkel, Danaher afirma que:
What's going 'on the inside' does not matter from an ethical perspective. Performative artifice, by itself, can be sufficient to ground a claim of moral status as long as the artifice results in rough performative equivalency between a robot and another entity to whom we afford moral status.
O dicho de otra forma, si un ente artificial, un robot, parece y actúa como una persona natural, eso es suficiente para atribuirle estatus moral.
La posición de Erica Neely
La tercera posición que nos muestra Gunkel, y que es algo diferente es la de Erica Neely. Su argumento es, quizá, mucho menos teórico, mucho mas práctico, y nos dice:
In general it is wise to err on the side of caution - if something acts sufficiently like me in a wide range of situations then I should extend moral standing to it
Es decir, que podemos no estar del todo seguros pero, puestos a equivocarnos, es mejor hacerlo del lado de la prudencia, asignando estatus moral a los robots que se parezcan suficientemente a los humanos.
La posición de Aníbal Astobiza
Aunque no aparece en el libro de Gunkel, no quisiera dejar de mencionar la posición de un filósofo español, Aníbal Astobiza, al que tengo el placer de conocer y cuyo último libro 'Tecnofilosofía' ya he reseñado en este blog.
Astobiza mantiene una posición parecida que denomina 'conductismo relacional'. En palabras de Astobiza:
El conductismo relacional establece la idea de que cualquier juicio sobre el estatus moral que hagamos de un animal no humano, ser humano, máquina, etc parte de los estados conductuales. Es decir, depende de inferencias que hagamos a partir de la conducta manifiesta externa de esas entidades.
Muy en la línea de los filósofos que hemos visto anteriormente en este post.
Conclusiones
Aunque no existe una posición única ni consensuada ni mucho menos, respecto a la conveniencia de asignar un estatus moral a los robots, hay como dos líneas de razonamiento, una ontológica, con base a lo que los robots son, y otra fenomenológica, con base en la forma en que se comportan y quizá, quizá, ésta última, aunque quizá menos intuitiva en primera instancia, puede resultar más práctica... y parece que avanza en la línea de asignar estatus moral a los robots suficientemente avanzados.
Todo lo que tiene que ver con los robots tiende a sonar un poco a ciencia ficción, no tanto porque no existan robots hoy en día, que existen, y muchos, sino porque en medios 'populares' el foco tiende a ponerse, precisamente, en la visión más futurista, sea o no esa visión medianamente realista.
Y claro, si ahora hablamos de roboética, de una ética dedicada específicamente a los robots, parece normal pensar que, quizá, estemos también fantaseando un poco (o un mucho), que realmente no tenga mucho sentido, al menos a estas alturas, plantearse una ética cuyo foco sean los robots, especialmente si en esa ética nos planteamos cuestiones como si los robots tienen alguna forma de derechos, o si debemos tener para con ellos alguna forma de consideración de tipo moral.
¿Tienes, pues, sentido, plantearse hoy, ahora, una ética de los robots?
Algunas de las especulaciones sobre roboética (aunque hay que decir que no todas ni mucho menos), dependen de que realmente se produzcan avances técnicos que pueda conducir a robots con más autonomía y, sobre todo, 'sintientes' y, quién sabe si 'conscientes'.
En la medida que algunas de esas posibilidades sean solo eso, posibilidades, estamos de alguna forma haciendo puras especulaciones.
Y contra ese tipo de especulaciones nos alerta Luciano Floridi cuando dice:
It may be fun to speculate about such questions, but it is also distracting and irresponsible given the pressing issues we have at hand.
Claramente, Floridi se posiciona en contra de esta especie de moral especulativa que, al menos parcialmente, afecta a la roboética.
Sin embargo, destacaría que lo hace fundamentalmente, al menos eso me parece a mi, por una consideración práctica y de priorización: tenemos problemas éticos no resueltos, de impacto inmediato y, por tanto, mucho más urgentes.
Se esté de acuerdo con Floridi o no, parece una opinión sensata.
Una opinión de John-Stewart Gordon
John-Stewart Gordon
En el mismo libro, David Gunkel trae a colación la argumentación de John-Stewart Gordon sobre el papel de la especulación en la filosofía moral, una opinión expresada, por ejemplo, en "What do we owe to inteligent robots?". La argumentación de Gordon, va en un doble sentido, como expresa él mismo:
First, skepticism regarding the possibility of highly advanced intelligent robots seems quite premature given the great technological advances and future prospects in robotics, AI and computer science. Second, it is unwise and un-philosophical to abstain from discussing important moral and socio-political issues the emergence of which cannot be fully ruled out in advance.
Es decir, por un lado, y en un aspecto más práctico, considera probable que la propia tecnología hiciese real que eso que ahora mismo pueda parecer especulativo y, por otro, y desde un punto de vista más teórico, considera un deber de la filosofía moral el tomar en consideración fenómenos sobre los que, incluso, no haya seguridad de que se produzcan.
Una reflexión propia
La opinión de Floridi, como he expresado, me parece lógica y sensata.
Y, sin embargo, creo que eso no anula la necesidad, no sé si urgencia, pero sí necesidad, y desde luego el sentido, de una roboética y ahí me acerco un poco más a Gordon, especialmente en su primer argumento.
Ahí, en apenas un minuto o menos expresé rápidamente mi opinión.
Por un lado, mi apuesta, que no es solo mía, de que la robotización se está produciendo ya y va a continuar probablemente de forma acelerada, con dispositivos cada vez más inteligentes y cada vez más relacionales.
Y, por otro, que esas capacidades relacionales de los robots, tienen bastantes implicaciones éticas, algunas de las cuales tienen que ver con las emociones humanas y otras con el sentido de la propia naturaleza humana.
Y eso me parece suficiente razón para dedicar tiempo a la roboética.
Conclusión
Probablemente, en efecto, no lo niego, sea menos urgente que otros desafíos que tenemos encima de la mesa. Puede que bastante menos urgente. Probablemente, en efecto, debamos resolver otros muchos temas antes o con más prioridad. Seguramente bastante más prioridad.
Pero mejor que no abandonemos este campo de análisis.
Tiene mucho que enseñarnos, incluso sobre nosotros mismos como seres humanos, y a lo mejor, a lo mejor, se convierte en urgente en menos tiempo de lo que pensamos...
¿De quién es la responsabilidad de lo que hacen las máquinas?
Se trata de un problema aún sin resolver completamente y que se puede ir haciendo más complejo a medida que las máquinas cobran mayor inteligencia y, sobre todo, mayor autonomía.
El debate está abierto y, quizá, el Mago de Oz ofrezca una metáfora sobre su solución.
Veamos.
El mago de Oz: la película
'El mago de Oz' es la bien conocida y ya muy antigua película, que por cierto no he visto, lanzada en 1939 y basada en el libro 'El maravilloso mago de Oz' de Frank L. Baum. No creo que importe mucho a estas alturas hacer un pequeño 'spoiler' recordando que en esa película, donde la protagonista Dorothy es llevada por un tornado al mágico mundo de Oz, uno de los habitantes de ese mundo de ensueño es un mago que, al final, resulta ser ficticio, en realidad un humano que realiza trucos de ilusionismo.
Y eso da lugar a la popular metáfora en algunos ámbitos del 'mago de Oz'.
El Mago de OZ como Producto Mínimo Viable
El término Mago de Oz se ha hecho, en efecto, más o menos popular para significar, de alguna manera, situaciones en que una realidad más o menos autónoma, automática, o mágica, es manejada por detrás por humanos de una manera mucho más manual y menos mágica de lo que parece.
Así, en el mundo de la innovación y el emprendimiento, y específicamente en el caso de una metodología como Lean Startup, el 'Mago de Oz' es una forma de producto mínimo viable (un producto incompleto en sus capacidades o características pero suficiente par ponerlo en manos de clientes obteniendo de esta manera 'feedback' sobre el mismo), quizá no el más mínimo todo hay que decirlo, en que un 'front-office' que aparenta un producto o servicio terminado y más o menos automatizado o al menos optimizado, es en realidad, en 'back-office' manejado de una forma bastante manual y artesanal.
Esta forma de operar permite ofrecer una apariencia de producto o servicio terminado, sin la necesidad de invertir en todo el desarrollo e implantación del back-office.
Eso si, no parece que permita una operación a gran escala.
La responsabilidad sobre sistemas inteligentes autónomos
Cuando se habla de agentes inteligentes autónomos, como puedan ser robots avanzados o vehículos autónomos, una cuestión que aúna lo ético con lo legal es quién es responsable de un eventual mal funcionamiento, de un fallo, de un daño a terceros.
Desde un punto de vista ético, en su vertiente más filosófica, eso nos lleva a una reflexión sobre la agencia moral, sobre si un ente artificial puede ser considerado como un agente moral, es decir, puede hacerse responsable de sus acciones y puede discernir de alguna manera el bien del mal.
Desde un punto de vista más práctico, que nos acerca a lo legal, esto nos lleva más bien a quién puede ser culpable (y eventualmente condenado) por un daño realizado por estos agentes artificiales y quién debería, eventualmente, pagar indemnizaciones.
No hay una doctrina clara al respecto, y las especulaciones sobre una eventual 'personalidad electrónica', podrían llevar a alguna forma de 'culpabilidad' del agente artificial.
Sin embargo, pensando de manera práctica y en un terreno sobre todo legal, no parece que tenga demasiado sentido castigar a un robot. ¿Le importaría mucho a un robot estar encarcelado? ¿Pagar una multa? ¿Y, como, por cierto, pagaría la multa ese robot? ¿No la pagaría, más bien, su dueño, o fabricante, por ejemplo?
El Mago de Oz de la responsabilidad
Las consideraciones anteriores parecen apuntar en el sentido de que, al menos por el momento, y desde un punto de vista práctico, la responsabilidad ha de estar en las personas, aunque pueda existir debate legal sobre qué personas en concreto (dueños, fabricantes, diseñadores...).
Sin embargo, y volviendo al terreno más filosófico, hay quien piensa que el atribuir la responsabilidad a personas, en lugar de al robot o ente artificial, no se trata solo un tema práctico, sino un principio firme y de naturaleza ética, no legal.
According to this way of thinking, all artifacts, no matter how sophisticated or interactive they appear to be, are actually a Wizard of Oz technology.
lo cual resulta una bonita metáfora en que, también a efectos de responsabilidad y no solo de innovación, podemos estar hablando de un mago de Oz, un mago de Oz de la responsabilidad en que, a pesar de la apariencia de agencia moral y por tanto responsabilidad que pueda ofrecer el ente artificial, desde un punto de vista moral está 'operado' por detrás por humanos y es responsabilidad, por tanto, de los humanos.
Y al contrario de lo que sucedía en innovación, en este caso no se trata de una estrategia temporal, sino de algo profundo y esencial.
Conclusiones
Al menos a corto plazo, y al menos desde un punto de vista práctico, parece que la responsabilidad sobre lo que hacen las máquinas, recae en último término sobre humanos, aunque pueda aún estar poco claro en algunos casos sobre qué humano concretamente.
Pero hay corrientes de pensamiento que entienden que no se trata sólo de una opción práctica y de corto plazo sino que, desde un punto de vista ético y esencial, las responsabilidad debe ser siempre en último término humana y que, en ese sentido, en el de la responsabilidad, la tecnología inteligente y autónoma es solo un caso más de Mago de Oz.
Lecturas. "Madre patria" de Marcelo Gullo Omodeo
-
'*Madre patria*' es un alegato, muy documentado, contra la leyenda negra
que pesa desde hace siglos alrededor de 'la conquista' de América por parte
de E...
