sábado, 31 de diciembre de 2022

Bibliografía 2022

Y para cerrar el año, y como vengo haciendo desde 2009, recojo en este post mis lecturas del año en los ámbitos que tienen que ver con mi actividad e intereses profesionales. Estos ámbitos se ocupan por un lado del mundo de la empresa y de la gestión ('management') y, por otro, de la tecnología, complementados ambos con algunos ensayos en el campo de ciencia y humanidades que actúan como una extensión o ampliación de visión de mis intereses más directamente profesionales.

No siempre es posible o claro, y diría que cada vez lo es menos, separar cuándo estoy en un lado o en otro, empresa o tecnología,  y puede discutirse la categoría de algunos de los libros. Incluso hay algunos que claramente tienen una visión mixta tecnología/empresa e incluso, ética. A pesar de que me dificulte la clasificación, que en algún caso será discutible, lo cierto es que me encanta ese carácter multidisciplinar y es algo que busco en mi propio conocimiento y, por tanto, en mis lecturas.  

Este año, como es bastante habitual, algunas de las lecturas han sido más tácticas, dirigidas a actualizar mi conocimientos y contenidos de naturaleza sobre todo formativa, mientras que otros tienen que ver más con mis propias inquietudes o intereses de evolución. Por suerte, no siempre está claramente diferenciado cuándo me encuentro en una situación y cuándo en otra. Y digo por suerte porque considero que eso es un indicador de que trabajo, y enseño, materias que me interesan y, además, de que puedo incluir en mis contenidos formativos aspectos avanzados de la tecnología, el pensamiento o la empresa.

Dentro de la visión más táctica podemos encontrar por ejemplo, abundantes lecturas a principio de año en materia de cloud computing con mucho foco en las capacidades de los hiperescaladores o la entrada en temas como ESG.

Más en la vertiente de investigación y evolución, hay muchísimas lecturas sobre robótica, especialmente robótica inteligente y cognitiva y muchas lecturas sobre inteligencia artificial. Lecturas complementadas además con ensayos en temas variados pero destacaría lo que tiene que ver con filosofía y ética y una tímida, pero creo que persistente, entrada de temas de derecho.

También he explorado, para entenderlo y ver qué me encuentro, temas como el metaverso o la computación cuántica.

Este año, por desgracia, voy atrasadísimo en la elaboración de reseñas, algo que creo que me llevara meses enmendar, así que de muchos de los libros del listado no se podrá encontrar, aún, reseña en este blog. 

Como ya ocurrió el año pasado, y creo que seguirá sucediendo, también he leído libros de autores amigos, a los que suelo dar un tratamiento algo diferencial para, por un lado, hacer más visibles las obras de estas personas talentosas que tengo la suerte de conocer y, por otro, para evitarme contaminaciones a la hora de elaborar el ranking final.


Libros amigos


Y, precisamente, voy a comenzar con la breve presentación de estos libros amigos.


'Colabora y conecta' de Virginia Cabrera


'Colabora y conecta' nos habla de cómo afrontar, de la mejor manera posible, mejor en cuanto a productividad, pero mejor también en cuanto a gestión de emociones humanas y en cuanto a un liderazgo efectivo de equipos un mundo laboral dominado, especialmente desde la pandemia, por la virtualidad y el trabajo remoto. Directo y fresco, lleno de consejos y con ese estilo tan personal de Virginia.


'Manual de ética aplicada en inteligencia artificial' de Mónica Villas y Javier Camacho


'Manual de ética aplicada en inteligencia artificial' es, quizá, y no lo digo por la amistad que me une a los autores, el mejor libro que he leído sobre ética de la inteligencia artificial. El mejor porque es claro y abarcador, el mejor porque está explicado de una forma perfectamente alcanzable para cualquiera que tenga interés, y el mejor porque no cae en ninguno de los tópicos habituales y explica con objetividad, la naturaleza de riesgos y problemáticas y también las soluciones posibles o que se están investigando desde el punto de vista ético y normativo, pero también técnico y metodológico.


'Claves de inteligencia artificial y derecho' con Carlos Hernández


'Claves de inteligencia artificial y derecho' supone para mí una incursión en el mundo del derecho aplicado a la inteligencia artificial. Un libro en mi opinión irregular en cuanto al acierto de sus argumentaciones pero donde, para mi gusto, destaca el capítulo escrito por mi amigo Carlos donde, de una forma muy ordenada y austera, desgrana el contenido del borrador del reglamento de inteligencia artificial de la Unión Europea, incluyendo también mención a algunas de las críticas que ha recibido y posibles vías de evolución.


La lista completa de lecturas 


A ahora sí, vamos con la lista completa de mis lecturas profesionales en 2022:


Management

  • Data analytics in project management (Seweryn Spalek)
  • Colabora y conecta (Virginia Cabrera Nocito)
  • Organización y transformación de los sistemas de información de la empresa (Carmen de Pablos Herredo, José Joaquín López Hermoso Agius, Santiago Martín-Romo Romero y Sonia Medina Salgado)
  • A guide to the project management book of knowledge 7th edition (PMI)
  • High Performance Through Business Process Management (Mathias Kirchmer)
  • ESG and Responsible Institutional Investing Around the World (Pedro Matos)
  • Thinking about the future (Andy Hines y Peter Bishop)
  • Metaverso. Pioneros en un viaje más allá de la realidad (Edgar Martín-Blas)
  • ESG Matters: How to Save the Planet, Empower People, and Outperform the Competition (Debra L Browny David A.H. Brown)
  • Liderazgo y emergencias (Unidad Militar de Emergencias)
  • The autonomous Enterprise (Sarah Burnett)

Tecnología

Ensayo: ciencia y humanidades
  • Robot ethics (Mark Coeckelberg)
  • Neuroscience for dummies (Frank Amthor)
  • Biomecánica. Bases del movimiento humano (Joseph Hamill, Kathleen Knutzen y Timothy Derrick)
  • Claves de Inteligencia Artificial y Derecho (Pablo García Mexía, Oriol Pujol Vila y Carlos Fernández Hernández)
  • Ángeles o robots (Jordi Pigem)
  • Robot rights (David J. Gunkel)
  • Star Trek y los derechos humanos (Robert Alexy y Alfonso J. García Figueroa)

El ranking


Y llega el momento de elaborar el ranking de mejores lecturas.

Por suerte, me ha costado mucho, como casi siempre por otro lado, elaborar el ranking de este año. Cuesta mucho reducir a tres las mejores lecturas cuando, por lo menos, hay diez o incluso quince libros que considero buenos o muy buenos.

Pero hay que hacerlo y en la selección, aparte de la calidad intrínseca, me dejo llevar algo por mis propios gustos e intereses personales.


(1) 'Cognitive robotics' de Angelo Cangelosi y Minoru Asada


'Cognitive robotics' es un claro caso donde confluye su calidad con mi propio interés. Un libro coral sobre robótica cognitiva. Se trata de un libro fundamentalmente científico y técnico, casi del ámbito de la investigación, con mucha robótica, claro, y mucha inteligencia artificial, pero que se adentra, especialmente al final, en temas complejos como puede ser el de la consciencia robótica, del que ya he dejado amplias trazas en este blog y que le hace rozar temas de neurociencia y psicología.

No se trata, probablemente, de un libro para todos los públicos. No se trata de un libro excesivamente complejo, pero tampoco es sencillo. Y la robótica, y la inteligencia artificial avanzada, a pesar del gran espacio mediático que ocupan, no son el fondo, sobre todo la robótica, materia tan popular cuando ya nos ponemos serios.

En cualquier caso, tanto por la calidad del libro como por el papel central que ha jugado en mis lecturas e investigaciones de este año, le otorgo el puesto más alto de mi particular podium.


(2) 'Artificial Intelligence. An applied approach' de Peter Norvig y Stuart Russell


'Artificial Intelligence. An applied approach' es un clásico entre los clásicos de la inteligencia artificial. Se trata de una obra casi enciclopédica (más de 1000 páginas) que trata ordenadamente, como libro de texto universitario que en el fondo es, prácticamente todo los campos de la inteligencia artificial. 

Pedagógico aunque, a medida que avanza y profundiza, se va haciendo algo menos sencillo y hay temas específicos bastante complejos. Con una excelente bibliografía comentada al final de cada capítulo.

No es un libro apasionante por sí mismo, insisto que es un libro de texto, pero es una absoluta referencia en el campo de la inteligencia artificial, así que creo que bien se merece este segundo puesto del ranking.


(3) 'Token economy' de Shermin Voshmgir


'Token economy' ha sido un gran descubrimiento. Un libro que habla, digamos de blockchain, pero aunque la autora exhibe un evidente conocimiento técnico sobre la materia, se centra más en las visiones de naturaleza más organizativa y sobre todo económica siendo, en el fondo, un libro más sobre web3 que sobre blockchain en sí mismo. Temas como el dinero y las criptomonedas, la identidad o las organizaciones descentralizadas (DAO) se tratan de una forma muy interesante y esclarecedora. 

Un libro imprescindible para entender las verdaderas implicaciones actuales o potenciales de blockchain, más allá de la pura tecnología o del cierto 'hype' que puede rodear, por ejemplo, a las criptomonedas.


Accesits


Y no resisto la tentación de al menos mencionar brevemente otros cuatro libros (y me quedo con las ganas de hacerlo con alguno más) que creo que vale la pena tener en cuenta

Así, por ejemplo, 'The metaverse. And how it will revolutionize everything' de Mattew Ball, ya traducido al castellano, es una obra muy, muy seria que ayuda a entender qué es o, más bien, qué puede ser el metaverso, aunque poniendo mucho foco en lo que tiene que ver con la realidad virtual y mundos inmersivos de tipo de los videojuegos y evitando bastante, como el propio autor reconoce, lo que tiene que ver con blockhain y la web3. Pleno de conocimiento y muy realista, es creo una gran forma de acercarse, fuera de todo 'hype', al metaverso.

En lo relativo a robótica, un libro muy interesante es 'Introduction to AI Robotics' de Robin Murphy, un libro que explica, de manera muy ordenada y razonablemente sencilla, sin dejar de ser un libro técnico, muchos aspectos de control e inteligencia en robots, desde los más sencillos y de naturaleza reactiva, a los más complejos y dotados de capacidades cognitivas.

Muy interesante y útil me ha parecido 'Designing Machine Learning Systems' de Chip Huyen, que explica el Machine Learning pero no en su funcionamiento interno, en su algoritmia, sino en su diseño y despliegue en la empresa. Un enfoque práctico, pleno de conocimiento y experiencia.

Al final del año me he leído 'Robot rights' de David J. Gunkel que, a despecho de su título, no es un libro sobre derecho sino de filosofía y ética. Lo que ocurre, eso sí, es que aplicada a la problemática de la posibilidad de unos eventuales derechos de los robots. Ofrece una panorámica desapasionada, pero muy interesante, de las diferentes perspectivas sobre el tema y las aportaciones de los pensadores más relevantes en la materia.


Pensando en 2023


De cara al año que entra, estoy muy seguro de que continuaré profundizando en robótica e inteligencia artificial, en una visión 360 que incluya la tecnología, la aplicación al mundo de la empresa y también sus implicaciones éticas e incluso su tratamiento legal. 

Dentro de la parte de inteligencia artificial, un tema muy concreto donde, de hecho, ya estoy entrando es en lo que tiene que ver con la inteligencia artificial generativa. En robótica, me interesa muchísimo la robótica cognitiva, la relación robots-personas (incluyendo sus vertientes éticas) y los robots humanoides, así que seguro que incidiré en ello.

También estoy bastante seguro que seguiré entrando en materia con el metaverso o la computación cuántica, aunque con cierta cautela, observando si se concretan y en qué.

Además, quiero hacer una actualización de algunas tecnologías a las que he prestado algo menos de atención en los últimos dos años: Big data, Internet de las Cosas, realidad virtual y puede que alguna más. Y seguiré, por supuesto, con automatización y robots software.

Y seguro, que voy a seguir salpicando las lecturas más técnicas y empresariales con elementos de ética y filosofía y creo que también algo de derecho.

viernes, 30 de diciembre de 2022

Mis #TEDTalks de 2022

Y como llevo haciendo cada año desde 2014 (éste sería, por tanto el noveno año), a punto de cerrarse el año, el 30 de Diciembre, publico la lista de charlas TED que he visionado este año.

En este 2022 he seguido seleccionando charlas un poco 'al tres bolillo', escogiendo las que más me interesan, normalmente por la temática, en algún caso por el 'speaker', de las sugerencias que hace la propia página TED en apartados como 'Trending'.

Y así, he culminado la visualización en esta ocasión de 50 charlas con temáticas bastante variadas sobre tecnología, ciencia, innovación, motivación y autocontrol y, este año, con un cierta acento en neurociencia (charlas sobre todo sobre el cerebro) y, al final de la temporada, sobre problemáticas energéticas.


Las #TEDTalks de 2022 


Y estas son esas 50 charlas que han conformado 'mi menú' de este año:




De cara a 2023


Para el año que viene, me gustaría, en una línea parecida, seguir visualizando charlas sobre neurociencia, sobre ciencia, especialmente física, sobre inteligencia artificial, sobre innovación y sobre habilidades personales y directivas. También me gustaría ver más charlas sobre ética de la tecnología y sobre robótica aunque de estos dos últimos temas, creo que hay poca 'oferta'.

De momento ya tengo seleccionadas las primeras diez charlas.

Y, salvo error u omisión, hablaré de ellas dentro de un año, el 30 de Diciembre de 2023.

Artículos de este blog relacionados

miércoles, 28 de diciembre de 2022

Una voz en el desierto: luchando contra algunos mitos sobre tecnología e innovación

Podrían tratarse de bromas, ya que estamos en el día de las mismas, pero no, no se trata de  bromas. No son bromas porque se producen en un campo que no es objeto del humor y no son bromas porque, por desgracia, me las encuentro una y otra vez, en todo tipo de discursos y publicaciones, incluso muchas supuestamente expertas.

Se trata de discursos erróneos o confusos sobre tecnología, sobre innovación y sobre transformación digital (que no deja de ser, en mi opinión, una forma de innovación de base tecnológica).

Por desgracia, en este campo de la tecnología y la innovación abunda el 'bombo', el 'hype', la exageración, la ampulosidad y también los errores de concepto y los discursos engañosos cuando no directamente falsos. 

¿Por qué? 

Pues no estoy completamente seguro, pero imagino que es una mezcla de factores que incluye el que la tecnología es realmente importante pero que, además, está de moda y la popularidad no es una buena compañera del rigor. Y también por la costumbre, la posibilidad que casi se concierte en necesidad de exposición, de publicar y opinar, que lleva a que esas publicaciones y opiniones se conviertan fácilmente en superficiales, poco apoyadas en verdadero conocimiento y que algunos de sus paladines no en raras ocasiones son meras cajas de resonancia de discursos y afirmaciones ajenos retransmitidos sin crítica, sin análisis, sin conocimiento en definitiva. 

Para este post, que espero no me salga demasiado 'guerrero', traigo a colación una selección de cinco mitos, cinco conceptos erróneos o mal comunicados que me encuentro con muchíiiisima frecuencia en todo tipo de publicaciones y discursos, repetidos y retransmitidos hasta la saciedad, incluso por parte de presuntos expertos , y contra los que, humildemente, intento luchar en mi radio de acción: mis alumnos y los lectores de  mis libros y también de este blog, siendo un poco esa voz aislada, esa voz que clama en el desierto.

Cinco mitos de varios de los cuales ya he hablado o contado de una forma u otra en otros posts de este blog, artículos que referenciaré.


Mito: La transformación digital 'no va' de tecnología


Éste es, quizá, el mito más común de los cinco que voy a mencionar en este post, el más común y, en cierto sentido, el más, perdóneseme la expresión, 'burdo': aquel que niega el papel de la tecnología en la transformación digital, aquel que no sólo afirma el papel de la estrategia y las personas en la transformación digital, cosa en la que estoy plenamente de acuerdo y, de hecho, reflejé en mi primer libro 'La carrera digital', sino que va más allá para afirmar, directamente, y muchas veces con esta expresión literal, que la "transformación digital no va de tecnología".

Una afirmación absurda en las que los que eso afirman creo que se quedan sólo con la palabra transformación sin conceder ninguna importancia al segundo término, digital, que es el factor diferencial, el que diferencia, valga la redundancia, a la transformación digital de otras transformaciones.

A despecho de lo que otros puedan decir, afirmo, sin ambages y sin la más mínima duda, que la transformación digital SI va de tecnología. La tecnología digital es el elemento desencadenante de la transformación y la materia prima para llevarla a cabo. Sin duda. Sin ninguna duda.

De esto ya hablé hace nada menos que cuatro años en el post, cuyo título no deja lugar a dudas: 'No os engañéis: la Transformación Digital SÍ va de tecnología' y, más recientemente, en este otro 'La transformación digital y la pereza de los directivos'.


Mito: El agilismo quiere decir velocidad  


Mucho mitos rodean al mundo del agilismo, creo que demasiado rodeado de simplificaciones y falto de verdadero entendimiento. De muchos de esos malos entendidos me ocupo en clases que tocan el tema en el ámbito de la innovación, de la transformación digital o incluso de programas de robotización de procesos. 

Quizá el mito más extendido, el que con frecuencia nubla el entendimiento de mandos y directivos algo alejados de la realidad de los proyectos, es aquel que identifica ágil ('agile') con velocidad, con rapidez. No es así. Agil implica adaptación, no velocidad, aunque, en la práctica, esa capacidad de adaptación pueda conducir a un menor tiempo en los proyectos, especialmente los que se ejecutan en entornos de incertidumbre. 

Este tema lo recogí ya hace unos dos años en el post de título también bastante explícito: 'No, Agile no significa ir más rápido'.


Mito: La Inteligencia Artificial está ligada a los datos


Saltando ya al campo de la inteligencia artificial, un mito, además bastante promovido incluso por auténticos expertos en machine learning e inteligencia artificial, es aquel que identifica inteligencia artificial con el uso de datos, con grandes cantidades de datos.

Y no, no necesariamente es así. 

Lo es con bastante frecuencia, es cierto,  en la inteligencia artificial actual, dominada por el machine learning, y especialmente el deep learning. Pero, como explico en el artículo 'La equívoca relación de inteligencia artificial y datos: cinco mitos comunes', no todo tratamiento de datos, ni siquiera masivo, es inteligencia artificial, no en todos los algoritmos y modalidades de inteligencia artificial se necesitan datos (al menos, no más que en cualquier otro algoritmo informático) y, en los casos en que sí se utilizan datos, muchos datos, esto es muchas veces más un lastre que una virtud, algo que hacemos así porque no hemos encontrado un modo mejor, pero que tiene serio impacto en cuanto a dificultades de implantación. en cuanto a necesidades computacionales o en cuanto a impacto medioambiental, por ejemplo.

Así que no, tratamiento de datos no es lo mismo que inteligencia artificial.


Mito: identificación de Big Data e Inteligencia Artificial


Otro mito, a caballo entre el campo de la Inteligencia Artificial y el Big Data es, precisamente, el que tiende a identificar ambas disciplinas, un mito en parte derivado de la identificación de inteligencia artificial con procesamiento de datos.

Este mito también lo comentaba en el post 'La equívoca relación de inteligencia artificial y datos: cinco mitos comunes'.

Big Data es una tecnología (más bien un grupo de tecnologías), orientadas al uso masivo de datos, datos de todo tipo incluyendo datos poco estructurados y en tiempo real o cuasi-real. Se basa en temas como el uso de bases de datos NoSQL o algoritmos distribuidos del tipo MapReduce. Es, en esencia, una tecnología o conjunto de tecnologías aplicables a diversas situaciones y casos de uso en que, como decía, se manejan muchos datos, variados y a gran velocidad (lo que nos llevaría a las tres Vs del Big Data).

Y, si, dado que algunas formas, las predominantes, de inteligencia artificial se basan en procesamiento de muchos datos, y dado que uno de los usos de la Inteligencia Artificial es la analítica inteligente, es frecuente el maridaje de Big Data con Inteligencia Artificial. 

Pero son disciplinas diferentes. 

Existen muchos algoritmos y casos de uso de la Inteligencia Artificial que no precisan Big Data y existen aplicaciones del Big Data que no son del campo de la Inteligencia artificial (ej, Complex Event Processing o analítica tradicional, al estilo del Business Intelligence).

No confundamos ambas cosas.


Mito: la Inteligencia Artificial no explica cómo llega a conclusiones


El último mito que voy a comentar es, quizá, el más perdonable o el único perdonable, en realidad. De hecho, pudiera catalogarse no tanto como un mito sino como una forma que creo inadecuada de comunicar una realidad: se trata de aquel que, hablando de Inteligencia Artificial y, en concreto, de explicabilidad de la inteligencia artificial, afirma que existen algoritmos no explicables.

Esto es casi cierto, pero no del todo. 

Como explico en el post 'Los algoritmos de Inteligencia Artificial sí saben explicarse', en realidad, los algoritmos de inteligencia artificial son, al menos en una enorme mayoría, plenamente deterministas y con un comportamiento perfectamente explicable. El problema real es que, manejan un volumen inmenso de datos y de parámetros y de parámetros no asimilables por una inteligencia humana, y, además, su forma de, llamémosle, 'razonar', no tiene nada que ver con la forma en que lo hacemos los humanos o, al menos, la forma en que lo comunicamos conscientemente y vía lenguaje. 

Esto quiere decir que, aunque estrictamente hablando, los algoritmos sean explicables, a efectos prácticos no lo son, porque no nos proporcionan en muchos casos, explicaciones comprensibles por los humanos.

Como digo, en el fondo, éste no es completamente un mito, porque a nivel práctico lo que afirma es cierto, pero, en mi experiencia, comunicarlo sin matices a un público poco preparado, genera falsas sensaciones acerca de la pérdida de control sobre los algoritmos e, incluso, una cierta percepción de que esos algoritmos tienen alguna forma de voluntad propia...algo claramente falso.

El problema aquí es más, creo, la estrategia de comunicación de la problemática, que la falsedad del argumento propiamente dicha.


Conclusión: una voz en el desierto


Y estos son algunos de los mitos habituales que identifico en el mundo de la tecnología y la innovación. Hay más, hay muchos más, y probablemente surgirán muchos otros. El metaverso, por ejemplo, parece campo abonado para ver y escuchar todo tipo de inexactitudes e incluso absurdos.

Pero estos cinco mitos que he apuntado son, probablemente, de los más comunes y difundidos actualmente, al menos en mi percepción, y los que, quizá por ello, me han venido a la cabeza rápidamente al redactar este post.

La tecnología se mueve muy rápidamente, y eso es bueno. Y la tecnología está de moda, y eso en gran parte es bueno, pero se trata ya un arma de doble filo, porque la moda ayuda en parte a la adopción y desarrollo de la tecnología pero también genera, en abundancia, errores y malos entendidos, a veces incluso, quién sabe, mensajes intencionadamente falsos o confusos.

Sé que yo sólo no puedo cambiar esa orden de cosas y esa confusión dominante. Sé que yo sólo únicamente puedo llegar a unos pocos y seguramente a que cale el mensaje a un subconjunto de reducido de esos pocos a los que llegue.

Pero el amor que tengo a la tecnología, el amor al también al conocimiento que me caracteriza, unidos ambos a un prurito de honradez intelectual y de cumplimiento de la misión personal que me marqué hace ya casi cinco años cuando realicé un importante giro a mi carrera profesional, me llevan a denunciar esos mitos en los ámbitos en que puedo y a explicar la realidad esperando, al menos, llegar a un puñado de estudiantes, directivos o lectores de mis obras.

Seré sólo un voz que clama en el desierto pero, al menos, seré una voz.


miércoles, 21 de diciembre de 2022

Derecho de las personas y derecho de los robots: el análisis de Robert Alexy

¿Deberían tener derechos los robots? Más aún, ¿deberían gozar de alguna forma de 'derechos humanos'? La pregunta, así formulada, puede parecer, lo es en cierto sentido, fantasiosa. 

Pero es una pregunta menos ligera de lo que parece, y su respuesta nos puede conducir a interesantes conclusiones de naturaleza no sólo legal, sino también ética y filosófica.

Sobre el derecho de los robots


Aunque creo que todavía de forma no abundante, comienzan a existir publicaciones que se hacen preguntas acerca del eventual derecho de los robots, y digo derecho de los robots considerando a éstos no sólo como objetos de derecho sino como sujetos de derecho, es decir, como entidades que puedan tener sus propios derechos y obligaciones.

Es cierto que, dado el estado del arte actual de la robótica, estas especulaciones son normalmente eso, todavía especulaciones, y caen más en los ámbitos de la filosofía, la ética o la filosofía del derecho, que de la acción jurídica propiamente dicha.

Una de esas obras, cuya lectura he finalizado hace unos días, es el libro en 'Robot rights' de David Gunkel, una obra muy interesante a la que seguro dedicaré más de un post en algún momento y que, a pesar de lo que el título pueda hacer pensar, es claramente una obra de filosofía, de ética o, si se prefiere, de roboética, una obra que repasa las diferentes perspectivas y opiniones que existen al respecto. La mayoría de las perspectivas van, como el autor explica, desde un razonamiento ontológico, es decir del entendimiento de la naturaleza de los robots, a una deducción consecuente sobre su eventual posibilidad de tener derechos.

Como digo, en algún momento volveré a este autor y a esta obra, pero en este artículo, quería comentar otra aportación.


Robert Alexy


Robert Alexy

En concreto, quería resumir y comentar, lo que Robert Alexy argumenta en el capítulo titulado 'Data y los derechos humanos. Mente positrónica y concepto dobletriádico de persona' originalmente dictado como una conferencia pero recogido en la obra 'Star Trek y los derechos humanos' de Alfonso García Figueroa y el propio Robert Alexy

Robert Alexy es un jurista y filósofo del derecho alemán, actualmente ya retirado, y uno de cuyas áreas de trabajo fue el de los derechos humanos.

Esta conferencia, muy original, como el libro que la recoge, trabaja sobre un episodio de Star Trek, en concreto, el titulado 'La medida de un hombre' dentro de 'Star Trek: la nueva generación'.

En ella, como los más fans de la saga sabrán, se juzga a Data, un androide que forma parte de la tripulación de la Enterprise, y el fondo del razonamiento se halla si se trata de una cosa o algo más y si es sujeto de los llamados derechos humanos.

La foto de cabecera del post corresponde a una escena de ese capítulo en que aparece el capitán Picard (a la izquierda) junto con Data (a la derecha) y que es la misma instantánea que utiliza como ilustración el propio libro que he mencionado. 


Derechos de las personas vs derechos humanos


Sólo me quedaré con lo que considero nuclear de la argumentación de Alexy al respecto de ese capítulo.

Un primer salto que da es hablar de derecho de las personas en lugar de derechos humanos. Y eso es así porque, el término derechos humanos ya establece claramente que son derechos aplicables sólo a seres humanos, por lo que excluyen cualquier posibilidad de aplicar esos derechos a otros entes como animales o, claro está, robots.

Sin embargo, al hablar de derechos de las personas, entra en juego la definición de persona y, en función de qué sea una persona, podremos juzgar si un ente, en este caso un androide, un robot, es persona y, por tanto, sujeto de esos derechos.


¿Qué es una persona para Robert Alexy?


Y esta es la parte nuclear de la argumentación. Para Robert Alexy, el ser persona viene definido por tres características:


  • Inteligente, para este término Alexy no aporta mayor definición ni explicación, entiendo que lo considera evidente.

  • Sentimientos un concepto sobre el que tampoco aporta más definiciones aunque sí se extiende sobre el hecho de distinguir sentimientos propios y ajenos y cómo los sentimientos ajenos los percibimos de alguna forma indirectamente, mediante manifestaciones perceptibles.

  • Consciencia concepto de consciencia (que en realidad en la obra llaman 'conciencia'). El autor explica que la palabra tiene un doble uso, uno más sencillo que es el que adoptamos cuando decimos que 'somos conscientes' de algo, y otro más complejo (el que yo llamo realmente 'consciencia') que implica reflexividad o una forma de auto-referencia o auto-observación. Para Alexy, esta reflexividad, a su vez, a su vez, tiene tres partes:

    • Reflexividad cognitiva es decir, hacerse a uno mismo objeto de conocimiento.

    • Reflexividad volitiva que implica la capacidad de regir el propio comportamiento y por lo tanto, tener una forma de voluntad.

    • Reflexividad normativa que implica el 'auto-enjuiciamiento', el análisis de si que se hace o ha hecho es correcto, característica que es a la que yo personalmente denominaría conciencia y que creo que conecta, junto con la parte anterior con la agencia moral.


Un ente, un androide en este caso, que cumpla esos criterios, se consideraría persona, independientemente de su naturaleza biológica, y sería sujeto de derechos más o menos similares a los derechos humanos.

Como me parece un libro de muy interesante lectura, no haré 'spoiler' acerca de lo que deduce Alexy al respecto de Data, el personaje de Star Trek.


Los robots como personas


Aunque no se trata de una doctrina universalmente aceptada ni mucho menos, según percibo, sí que creo que Robert Alexy en un filósofo del derecho respetado, y su argumentación me parece interesante y fundamentada y puede servir de luz y guía para decidir sobre el eventual derecho de los robots.

Si pensamos en los robots actuales, los que nos podemos encontrar, vemos que podrían, hasta cierto punto, sólo hasta cierto punto, cumplir el criterio de inteligencia (aunque ni de lejos con una inteligencia similar a la humana, al menos por el momento). 

No cumplirían en ningún caso el criterio de sentimientos aunque, mucho ojo, desde un punto de vista digamos fenomenológico, de manifestación externa, de percepción y expresión de sentimientos, si exhiben ciertas capacidades que, además, seguro que serán crecientes rápidamente, si la legislación no lo impide.

De la consciencia hemos hablado mucho en los últimos posts. Algunos robots sí que podemos decir que exhiben reflexividad cognitiva, pero no tiene reflexividad volitiva ya que, a pesar su cierta autonomía y, en cierto sentido, capacidad para regir su comportamiento, eso no implica, en absoluto, la existencia de voluntad tal y como la entendemos en un humano, un poco en el sentido de libre albedrío.

Y no disponen de reflexividad normativa, aunque sí podrían enjuiciar si su comportamiento se atiene a alguna norma u objetivo que se les proporcione.

Según esto, no, los robots actuales no cumplen los criterios de persona de Alexy ni parece que esté cerca la fecha en que los cumplan.


Conclusiones: derechos de los robots


Según eso, los robots actuales no serían sujetos de derechos 'humanos', si seguimos el razonamiento de Alexy.

¿Significa eso que no pueden ser, en absoluto, sujetos de derecho?

Bueno, no necesariamente. Hay otros enfoques y otros derechos, 'menos humanos'.

Espero tener ocasión de seguir tratando el tema.


martes, 20 de diciembre de 2022

Una decepcionante versión 7 del PMBOK de PMI

El Project Management Institute es la autoridad de facto en materia de dirección de proyectos y la entidad emisora del prestigioso certificado PMP ('Project Management Professional') que me honro en poseer. Y el conocido popularmente como PMBOK, aunque su titulo real es 'Guide to the Project Management Body Of Knowledge', es decir, una guía al cuerpo de conocimiento en dirección de proyectos, es sin duda, su publicación fundamental. Este volumen es, en el momento de editar esta reseña, la última edición de ese documento, la séptima, en concreto.

Una edición que cambia de manera bastante radical el contenido y orientación de las ediciones anteriores, al menos las que yo he conocido desde que me certifiqué (cosa que hice con base en la edición 4).

Lo cambia en el sentido de hacer un enfoque mucho menos de metodología y más de principios e ideas generales. Lo cambia en el sentido de hacerlo más breve y creo que superficial y lo cambia en el sentido de que, además, del PMBOK propiamente dicho, incluye lo que se ha convertido en un estándar ANSI.

El volumen, pues, es en realidad la unión de dos documentos, cosa que me resultó un poco confuso cuando lo leí.

Se comienza por el estándar en el documento 'THE STANDARD FOR PROJECT MANAGEMENT' que consta de tres capítulos, a saber:
  • '1. INTRODUCTION': Un muy breve capítulo introductorio en que señala el objetivo del estándar, define algunos términos básicos y anuncia la audiencia esperada del documento.

  • '2. A SYSTEM FOR VALUE DELIVERY': Situa a los proyectos dentro de una especie de ecosistema de entrega de valor. Comienza, precisamente, mostrando ese sistema de entrega de valor que incluye los proyectos como tales pero agrupados en programas y porfoliosdando entrada también a las operaciones. Habla brevemente de los sistemas de gobierno y salta a continuación a identificar y explicar ocho funciones asociadas a los proyectos. En la siguiente sección identifica brevemente una serie de elementos de contexto tanto internos (en la propia empresa) como externos, que afectan a los proyectos. Y, finalmente, y de nuevo brevemente, pone los proyectos en relación con el ciclo de producto.

  • '3. PROJECT MANAGEMENT PRINCIPLES': Identifica y desarrolla, en dos o tres páginas cada uno, los principios que guian la dirección de proyectos y que son los siguientes:
    • Sé un administrador diligente, respetuoso y cuidadoso
    • Crea un entorno colaborativo del equipo del proyecto
    • Involúcrate eficazmente con los interesados
    • Reconoce, evalua y responde a las interacciones del sistema
    • Demuestra comportamientos de liderazgo
    • Adapta en función del contexto
    • Incorpora la calidad en los procesos y los entregables
    • Navega en la complejidad
    • Optimiza las respuestas a los riesgos
    • Abraza la adaptabilidad y la resiliencia
    • Permite el cambio para lograr el estado futuro previsto
Tras esto, se aborda ya el PMBOK, en el documento'A GUIDE TO THE PROJECT MANAGEMENT BOOK OF KNOWLEDGE' que consta de cuatro capítulos:
  • '1. INTRODUCTION': Capítulo introductorio breve donde indica la estructura del documento y también la relación de este PMBOK con el estándar que acabamos de ver, fundamentalmente relacionando los principios definidos en el estándar con los dominios de desempeño que se desarrollan en el PMBOK. Y señala finalmente, algunos cambios respecto a la edición anterior.

  • '2. PROJECT PERFORMANCE DOMAINS': 'Un capítulo nuclear donde identifica y desarrolla los ocho dominios del desempeño de proyectos, a saber:
    • Interesados ('stakeholders')
    • Equipo
    • Enfoque de desarrollo y ciclo de vida
    • Planificación
    • Trabajo del proyecto
    • Entrega
    • Medida
    • Incertidumbre

  • '3. TAILORING': ' Un capítulo que explica cómo adaptar elementos de proyecto como el enfoque de desarrollo, el ciclo de vida o los dominios de desempeño a las circunstancias particulares de cada proyecto.

  • '4. MODELS, METHODS AND ARTIFACTS': ' Un capítulo que censa y explica, aunque sin profundidad, un amplio catálogo de técnicas usadas habitualmente en proyectos y que agrupa en tres bloques:
    • Modelos: estrategias de pensamiento. Menciona varios de ellos y en una tabla/matriz final relaciona estos modelos con su uso en los diferentes dominios de desempeño.
    • Métodos: medio para conseguir unos resultados y que identifica agrupándolos en cuatro bloques: métodos para toma de datos y análisis, métodos para estimación, métodos para reuniones y eventos y otros. Como en el caso anterior cierra con una tabla / matriz que relaciona los métodos con su uso en dominios de desempeño.
    • Artefactos: plantillas, documentos, etc que identifica agrupados en nueve bloques: estrategia, registros, planes, organigramas, líneas base, información y datos visuales, informes, acuerdos y contratos y otros. Al final, y como en los dos casos anteriores, se ofrece una tabla/matriz con el uso de esos artefactos en los diferentes dominios de desempeño.
Aparte de las dos obras mencionadas, el volumen incluye 5 anexos. El primero es un simple, aunque extenso, listado de las personas que han contribuido aportando contenido o como revisores. Los tres siguientes hacen foco sobre tres temas concretos como son los espónsors, la PMO ('Project Management Office') y la gestión de productos. El último habla de la investigación realizada para la elaboración del estándar.

Aparte de la existencia de dos documentos, algunos otros elementos diferenciales de esta versión son el foco en los principios que se detallan en el estándar y el cambio de la orientación a procesos y áreas de conocimiento de las ediciones anteriores, a los dominios de desempeño de ésta. Además, y quizá es lo único que me quedo que realmente me haya aportado valor, y aunque ya se había anticipado bastante en las versiones anteriores, es con el discurso de las orientaciones de proyecto y ciclo de vida, que puede ser un buen marco conceptual para encajar waterfall/predictivo, agile y opciones intermedias.

Y al referirme a los enfoques de proyectos he dicho que es con lo único que me quedo porque, para ser sincero, esta edición del PMBOK, así como el propio estándar, me han decepcionado mucho. Valoro enormemente el rol de jefe de proyecto y director de proyecto, roles que ejercí con frecuencia hace unos pocos años, y estoy muy contento y orgullo de ostentar la certifición PMP. Y no puedo evitar percibir que esta edición del PMBOK incluye, no sólo un giro que no considero afortunado, sino, sobre todo, una suerte de 'descafeinado' de la información y de la propia disciplina, convirtiendo tanto al estándar como al PMBOK en documentos un tanto filosóficos o de puras intenciones e ideas generalistas y bastante superficiales. En lo relativo al estándar, no sé cómo un documento así se puede considerar un estándar cuando es tan especulativo, cuando no establece ni normas, ni procedimientos, ni procesos, ni plantillas, ni verificaciones. Nada de nada. No sé que pretende estandarizar realmente.

Unos documentos, en fin, que creo que nada o poco aportan ni a un profesional de la dirección de proyectos ni a nadie que se quiera formar en la materia y que se acerque a este documento como quien se aproxima a una autoridad.

Espero que la octava edición retorne a una senda más parecida a la mantenida hasta la edición 6.

Una verdadera pena.

Ficha técnica:

lunes, 19 de diciembre de 2022

Tests de consciencia robótica

Y con este post finalizo la bastante larga serie de artículos relacionados con la consciencia robótica y basados en el capítulo de Antonio Chella titulado 'Robots and machine consciousness' dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

Y digo que finalizo aunque, dado el interés que tengo en la materia, probablemente vuelva al tema en algún otro momento.

Y, como cierre, quería comentar brevemente algo que me ha resultado algo sorprendente descubrir: la existencia de tests para intentar demostrar o descartar la consciencia en robots.


Panorámica de los tests de consciencia 


Y en efecto, no es sólo que existan testas para intentar detectar la consciencia en máquinas sino que, además, Chella referencia el artículo 'Reviewing tests for machine consciousness' de Aida Elamrani y Roman Yampolskiy donde se censan, nada más y nada menos, que hasta 22 tests de consciencia.

Según nos indica Chella, la mayoría de tests de conciencia son tests de imitación, inspirados por el famoso test de Turing, es decir, una máquina intenta emular un comportamiento humano, en este caso un comportamiento que demuestre consciencia. Para ello, se establece algún tipo de interfaz entre la entidad a juzgar si es consciente o no (y que, en ocasiones puede ser el robot y en otras un ser humano) y por otro lado, unos evaluadores humanos que con base en la interacción deben decidir si aquello con lo que están interactuando es una máquina o una persona.

Otros test son del tipo espejo, en que la máquina debe reconocerse a sí misma, de forma similar a como se ha experimentado con primates.

En otros casos se intentan poner a prueba axiomas como los que vimos de Aleksander y Dunmall. Otro tipo de tests, en fin, intentan medir características específicas como la creatividad o también la capacidad para crear un discurso interno. 

En el caso de la ConScale, propuesta por Raúl Arrabales y equipo, más que una respuesta de si/no se establecen una escala de consciencia para un agente expuesto a un entorno, que integra sensores y actuadores así como memoria y un software de control.

Al respecto de las características, comentar que Elamrani y Yampolskiy identifican en su artículo las siguientes características de la consciencia:

  • Creatividad
  • Dinamismo
  • Fundamentación ('grounding')
  • Qualia o experiencia subjetiva
  • Percepción
  • Existencia propia
  • Integración de información: conciencia y 'sí mismo'.


Y condensan en una tabla, que se anexa abajo, hasta qué punto cada uno de los tests ponen a prueba esas características:


Caracterización de tests de consciencia según Elamrani y Yampolskiy

En sus conclusiones, estos dos autores, resumen los tests identificados en, básicamente, dos tipos de tests:

  • tests de arquitectura Se deduce la existencia o no de consciencia a partir de la correcta implementación de una arquitectura orientada a la consciencia

  • tests de comportamiento La consciencia se deduce de un comportamiento indistinguible de un ser consciente

Conclusiones


De lo visto, se deduce que el problema de la consciencia en máquinas y, en concreto, en robots, no es un asunto sólo de fantasía sino que existe trabajo científico serio al respecto que incluye, no sólo el intento de identificación de las características de la consciencia, sino también la definición e implementación de arquitecturas técnicas capaces de proporcionar esas características, como apuntamos en artículos anteriores, y mecanismos para poner a prueba esa consciencia, como hemos esbozado en este artículo.

Personalmente, y ateniéndome a la última clasificación de los tests que acabo de mencionar, y a pesar de reconocer y elogiar el intento de poner a prueba la consciencia, tengo mis dudas con ambos enfoques. 

En el caso de la puesta a prueba de las arquitecturas porque, dado que en el fondo desconocemos la naturaleza profunda de la consciencia, no creo viable definir una arquitectura que 'garantice' esa consciencia en caso de una correcta implementación. Si no podemos demostrar que la arquitectura genera consciencia, demostrar que está bien construida no aporta ningún tipo de prueba definitiva, creo yo.

Y en cuanto al enfoque del comportamiento, creo que dado lo que conocemos hoy sobre algoritmos avanzados, especialmente en procesamiento de lenguaje natural tipo GPT-3 o inteligencia artificial generativa, creo que sabemos lo suficiente para darnos cuenta que ese tipo de algoritmos son bastante eficaces provocando 'ilusiones de verdadera inteligencia' y por tanto de consciencia y, sin embargo, su enfoque de implementación se encuentra muy lejos de lo que entendemos, percibimos por propia experiencia, o intuimos que es la verdadera inteligencia y o la verdadera consciencia. Un test de comportamiento creo que, fácilmente, nos puede engañar sobre lo que hay detrás, y más con la tendencia natural que tenemos a la antropomorfización, como ya hemos comentado con frecuencia.

Como decía en el primer artículo de esta serie, el objetivo de la consciencia robótica, es elusivo. 

Alabo y considero correctos los esfuerzos que se realizan a nivel científico y no descarto ni mucho menos nuevos avances, pero creo que seguimos estando lejos de conseguirlo, a menos en cuanto a resultados, quién sabe en el plano temporal. 


Artículos de este blog relacionados

miércoles, 14 de diciembre de 2022

Teorías para la consciencia (III): La teoría del modelo interno

Casi me la salto, pero me he dado cuenta de que me quedaba por traer a este blog una tercera teoría sobre la consciencia de las que se comentan en el capítulo de Antonio Chella titulado 'Robots and machine consciousness' dentro del  libro 'Cognitive robotics' editado por Angelo Cangelosi y Minoru Asada.

Se trata de la teoría del modelo interno, que comentaremos más brevemente, y probablemente de forma más sencilla que las dos anteriores que hemos visto, a saber, la Integrated Information Theory y la  Global Workspace Theory.


Teoría del modelo interno


EcceRobot

La teoría del modelo interno lo que viene a decir es que un agente que opere de manera inteligente, necesita dos modelos internos: un modelo interno del mundo, que represente la realidad exterior, y un modelo interno de sí mismo.

Estos modelos internos, permiten una suerte de, digamos, simulación, es decir, que el agente puede, en esos modelos, simular acciones y evaluar sus resultados. Esta simulación, no puede menos que recordarme, por cierto, el axioma 4 - Planificación del modelo de consciencia de Aleksander y Dunmall que visitamos en este blog hace unas semanas.

De acuerdo con esta teoría del modelo interno, la consciencia surge, no de la interacción del agente con el mundo exterior, sino de la interacción entre el modelo interno del propio agente con el modelo interno del mundo exterior.

Y si, también esta teoría se ha llevado a robots, como el caso, por ejemplo, de EcceRobot, La idea de la implementación es que el módulo controlador del robot, genera en paralelo señales que van hacia el mundo exterior y hacia el modelo interno del mundo que el robot tiene. 


Conclusiones


No hay mucho que añadir a lo ya dicho en posts anteriores. Nos encontramos ante una nueva teoría sobre las consciencia, procedente en el fondo de disciplinas cognitivas diferentes de la robótica pero que encuentran aplicación, o implementación en robots reales.

Lo cual no supone, ni de lejos, como ya hemos expresado, que se haya alcanzado la consciencia en las máquinas, ni que se encuentre cerca. Ni siquiera supone que sea posible llegar a esa consciencia robótica (para ser realistas, las teorías vistas, ni siquiera estamos de que sean ciertas a nivel neurológico y en el cerebro humano).

Lo que demuestran es que existen teorías serias y líneas de trabajo.


Artículos de este blog relacionados