miércoles, 24 de abril de 2024

Intentando centrar el pensamiento computacional

Se suele decir, probablemente con razón, que una de las cualidades que deberíamos desarrollar, uno de los elementos que debería estar presente en la educación de nuestros jóvenes, es el pensamiento computacional.

Y creo que es cierto, pero ¿Qué es eso exactamente?


Pensamiento computacional


Bueno, lo cierto es que no parece existir una delimitación clara de qué es realmente eso del pensamiento computacional o al menos yo no la he encontrado.

De una forma vaga, podríamos decir que es un forma de pensamiento similar a la que se utiliza para la definición de lógicas y algoritmos en el mundo de la computación.

El valor, creo, de ese pensamiento computacional es doble.

En primera instancia, nos prepara, precisamente, para hacer ese diseño de programas informáticos, ya sea mediante codificación directa o mediante herramientas de más alto nivel como acoge la filosofía 'Low-Code' o 'No-code'.

A pesar de esa innegable utilidad, en realidad es casi un aspecto secundario. Lo que, realmente, creo que es mucho más importante que eso, y que justifica la propuesta de incluir de forma generalizada en la educación, es que moldea la mente y una manera de pensar que nos ayuda a enfrentarnos de manera muy efectiva a problemas de cualquier tipo, no necesariamente en computación, no necesariamente siquiera del mundo técnico y de la ingeniería, sino también problemáticas propias de las ciencias sociales o las humanidades y también del día a día.

Pero dicho esto, y a pesar de que estoy convencido de ello, lo cierto es que resulta paradójicamente complejo delimitar en qué consiste exactamente eso del pensamiento computacional (aunque probablemente, quien haya hecho 'con sus propias manos' desarrollo software, lo tenga intuitivamente bastante claro).

Hace ya un tiempo, traje a este blog en el post titulado 'Sobre el pensamiento computacional', la propuesta de Conrad Wolfram con una propuesta.


La propuesta de Daniela Rus


Leyendo el libro 'The Heart and the Chip: Our Bright Future with Robots' de Daniela Rus, directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, me encuentro con una nueva propuesta, la verdad que bastante diferente, acerca de lo que caracteriza el pensamiento computacional.

En concreto, Rus destaca cuatro elementos, a saber:


  • Descomposición: descomposición de los problemas en subproblemas, piezas resolubles.

  • Modularización: división de un sistema en módulos, o componentes, cada uno de los cuales realiza una función definida y que son capaces, tanto de operar independientemente como formando parte de un sistema mayor.

  • Abstracción: eliminación de detalles y generalización de los atributos relacionados con una tarea.

  • Composición: Proceso de recombinar dos o más problemas.


La propuesta de Daniela Rus incide mucho en la descomposición en elementos, tanto en un nivel más lógico como subproblemas, como en un nivel más operativo, incluso técnico, en módulos o componentes. Creo intuir en la propuesta de Rus la experiencia en el mundo hardware y de los sistemas hardware/software, muy comprensible dada sus especialización en robótica.


Algunos elementos más de mi cosecha


Aunque valiosa, y más viniendo de quien viene, creo que la propuesta de Rus se queda bastante corta para explicar el pensamiento computacional.

Aunque confieso y aviso que no lo he pensado mucho, sino que es un 'bote pronto', echo de menos cosas que, al menos en mi experiencia, son muy importantes.

Por un lado la aplicación continua de una lógica rigurosa y muy exacta, sin la más mínima ambigüedad. Siempre suelo decir que 'los ordenadores son tontos'. En programación, especialmente en la programación más tradicional, hay que ser muy rigurosos, muy exactos en las instrucciones que se dan. Si no se hace así, el programa falla y a veces de la manera más inesperada. Esa lógica rigurosa y sin ambigüedad supone un notable esfuerzo al principio pero también es una forma fantástica de moldear el pensamiento. Y es algo que, y que me perdonen los afectados, echo muy en falta en la manera de razonar de incluso grandísimos intelectuales en campos propios de las humanidades y ciencias sociales.

Me resulta difícil darle un nombre, pero otra característica típica del pensamiento computacional es lo que voy a denominar 'encaje en bloques constructivos limitados'. ¿A qué me refiero? Bueno, pues que los entornos de programación el número de instrucciones (en lenguajes de programación tradicionales) o, en general, el número de herramientas o bloques constructivos disponibles para resolver el problema están acotados, son finitos y relativamente escasos. Y con esas instrucciones o con esos bloques, tienes que ser capaz de realizar el sistema o el software con la funcionalidad deseada o requerida. Se trata de nuevo de un ejercicio en ocasiones difícil pero muy creativo y desafiante, y que moldea extraordinariamente bien la mente en ese luchar por encontrar cómo usar las herramientas disponibles para resolver un problema, esa resolución de problemas con herramientas o bloques constructivos acotados.

Y, aunque eso sí lo indica Daniela Rus, profundizaría más en la abstracción, la traslación de los elementos de la vida real, tanto físicos como intangibles, a modelos conceptuales tanto en el campo de los datos y sus relaciones como las lógicas de proceso o transformación de datos. En mi experiencia, tanto docente, como de mera ayuda a profesionales más jóvenes, siempre he visto que esa abstracción es algo que cuesta muchísimo, especialmente cuando no se procede de disciplinas científicas e, incluso cuando, simplemente, no se ha trabajado y practicado con software. Pero, de nuevo, conseguir esa capacidad de abstracción es intelectualmente potentísimo.

Es posible que si lo pienso más se me ocurran más características, pero de momento lo dejo aquí.


Conclusiones


El pensamiento computacional, aunque hay bastante coincidencia en su interés, y necesidad de traslación a todos los ámbitos educativos como una capacidad casi nuclear es, sin embargo, algo vagamente definido, al menos hasta donde me ha sido dado ver.

En este post hemos visto la propuesta de Daniela Rus que he complementado con unas aportaciones propias fruto de mi experiencia y reflexión, aunque ésta última algo precipitada.


lunes, 22 de abril de 2024

Equipos multidisciplinares para una robótica responsable y segura

Estamos cada vez más acostumbrados a escuchar las bondades de los equipos mutidisciplinares, en diferentes campos, y muy de interés para mi, cuando se trata de aportar visiones éticas a elementos de tecnología como son la inteligencia artificial y la robótica.

Los equipos multidisciplinares


Los equipos multidisciplinares, y más si son complementados con diversidad no sólo de conocimiento, sino también de género, edad, cultura, etc, suelen recomendarse como motores de innovación. ¿Por qué? Pues porque aportan diferentes perspectivas para una misma problemática y, por tanto, también diferentes formas posibles de solución.

Innovación aparte, a los equipos multidisciplinares se les adjudica, lo cual tiene sentido, no sólo capacidad innovadora sino también integradora, de nuevo con base a el conocimiento polifacético que aportan.

¿Qué tipo de componentes deberían integrar un equipo multidisciplinar?

Seguramente depende de la temática concreta que queramos abordar, pero vamos con un caso concreto.


Un equipo multidisciplinar para robótica segura


En su libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, nos habla de los riesgos y dificultades para conseguir una operación segura de los robots. Riesgos que derivan tanto de errores en el propio diseño o entrenamiento de los robots como de ciberataques malintencionados por parte de terceros.

Y nos cuenta que en el CSAIL que ella dirige, cuando inician un proyecto de desarrollo de tecnología robótica dedican tiempo en las fases iniciales a estudiar los diferentes riesgos e identificar posibles malos usos así como a entender las implicaciones éticas, regulatorias, etc. Nos cuenta, en concreto, cómo al iniciar un proyecto sobre vehículo autónomo tuvieron unas muy fructíferas sesiones de brainstorming en ese sentido, y nos propone un equipo multidisciplinar para proyectos similares.

Estos serían los perfiles de ese equipo  


  • Tecnólogos: Que entienden los fundamentos científicos y técnicos, la realidad actual y las posibilidades futuras.

  • Expertos en seguridad: Conocedores de las mejores prácticas en ciberseguridad y cómo trasladarlas a la robótica

  • Hackers éticos: Especializados en localizar vulnerabilidades en todo tipo de sistemas, en este caso de naturaleza robótica.

  • Legisladores: Que aportan la perspectiva de las administraciones generales y locales.

  • Criminólogos: con conocimientos y capacidad para imaginar cómo un actor malicioso pudiera usar la tecnología con fines perversos.

  • Escritores de ciencia ficción: así como cineastas, artistas y, en general, personas que aportan imaginación para proponer escenarios, futuros diferentes y posibles impactos de la tecnología.

  • Eticistas: Que pueden guiar, con perspectiva ética, las acciones y tomas de decisión tanto de las propias máquinas como de quienes las construyen.

  • Economistas: Para imaginar cómo la tecnología puede beneficiar al máximo número de personas y no sólo a los más ricos.

  • Inversores: Que aportan la visión sobre el proyecto puede alcanzar un nivel suficiente de financiación


Un panorama amplio, como se puede ver, de especialistas. 

Un equipo de trabajo, se me ocurre pensar, que probablemente no tenga sentido mantener de manera permanente, pero que sí puede ser muy fructífero en las fases iniciales de ideación y planteamiento y, quizá, en alguna revisión intermedia a medida que avanza el proyecto.


Otros perfiles


Rus apunta a que se pueden incluir otros perfiles como abogados, expertos de aseguradoras, etc, pero ya no entra en más detalles y tampoco lo haré yo aquí.


Conclusiones


Los equipos mulidisciplinares, aunque seguramente sean más complejos de conformar y gestionar, aunque puede que no sean necesarios de forma permanente ni en todas las situaciones, pueden aportar un enriquecedora visión multiperspectiva que ayude a anticipar y evitar riesgos, a conseguir una tecnología más responsable y, ya de paso, también más innovadora.


lunes, 15 de abril de 2024

Una lista de tareas para el futuro de la robótica

La robótica, seguramente como una buena parte de la tecnología, avanza a gran velocidad.


Avances en robótica e inteligencia artificial


Es cierto que a veces confundimos los avances de la robótica como tal, con los de la inteligencia artificial en la que con frecuencia se apoya. 

La robótica es mucho más amplia e incluye elementos como materiales, sensores, algoritmos de control no necesariamente basados en la inteligencia artificial, colaboración, algoritmos de coordinación como los que se necesitan en 'swarm robotics', etc. 

Pero no cabe duda de que la robótica se beneficia, y cada vez más, de los algoritmos que aporta la inteligencia artificial para todo lo que tiene que ver con percepción, con planificaciones complejas, con capacidades cognitivas y así un largo etcétera.

En cualquier caso, en lo relativo a la inteligencia artificial, y en la parte más puramente robótica, no cabe duda de que avanzamos y avanzamos mucho.


La lista de tareas


Pero, a pesar de esos grandes avances, está claro que hay muchas más posibilidades, muchas más problemáticas por revolver, muchos logros por conseguir.

En el libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, propone una lista de nueve temáticas que la robótica debería afrontar, lo que ella denomina la 'to-do list'. 

Estos son los puntos de la lista:


  • Manos más sensible e inteligentes: Aunque el posicionamiento de la mano del robot hasta las cercanías de un objeto a manipular se consigue perfectamente, en el acercamiento final pueden producirse todavía desalineamientos. La autora sugiere el desarrollo de manos que sepan tratar con un cierto grado de incertidumbre, manos que sepan diferenciar entre los materiales de los objetos que agarran y manos capaces de ajustar bien (aunuqe ya hay avances y realizaciones en ese respecto) la fuerza que aplican sobre el objeto.

  • Robots más suaves y seguros: Los robots tradicionales son duros, pesados e incluso peligrosos para los humanos en caso de accidente, lo que hace que con frecuencia en entornos industriales permanezcan claramente separados de los humanos. Aunque ya existen los denominados cobots capaces de colaborar con humanos de forma segura, Rus sugiere que deberíamos avanzar en el desarrollo de robots blando, más seguros y más inteligentes desde un punto de vista físico para evitar eventuales daños. Esto incluiría el avance en el desarrollo de la piel artificial que informe de contactos incluso cuando no hay visión directa.

  • Unos robots menos 'robóticos': En este caso se refiere al propio movimiento de los robots que, en general, es rígido, a veces incluso diríamos que torpe. Un movimiento más natural permitiría una mejor ayuda a los humanos, por ejemplo, a ancianos. También apunta la autora a que un comportamiento más suave, menos brusco, ayudaría en el caso de los vehículos autónomos a una mejor convivencia con conductores o peatones humanos.

  • Métodos mejores para construir robots: La construcción actual de robots es compleja y se precisa personal especializado. La autora apunta a la necesidad de disponer de mecanismos de construcción de robots más simples. Entre otras cosas apuesta por el diseño y construcción simultáneos de los elementos físicos y los de control e inteligencia y el apoyo en herramientas de simulación.

  • Mejores músculos artificiales: Los músculos artificiales son una forma de actuadores que hasta cierto punto emulan el funcionamiento de los músculos de un ser vivo. La autora aboga por el desarrollo de mejores músculos artificiales, en general pequeños y blandos, y capaces de ejercer presión de una forma más continua y suave.

  • Baterías más potentes: Baterías más pequeñas, de vida más larga y con mayores densidades de energía. Baterías también menos pesadas y, eventualmente, incluso blandas.

  • Mejores sensores: A pesar de los formidables avances en percepción, por ejemplo en visión artificial, la autora entiende que estamos aún muy lejos de conseguir algo que se parezca, por ejemplo, a la vista humana. Tambien insiste en su interés en sensores de contacto parecidos a la piel de los seres vivos.

  • Cerebros más rápidos: donde se refiere al hardware y, en concreto los procesadores como los GPU. Entiende que se necesita avanzar en chips más pequeños, de más bajo consumo pero de alta potencia de cálculo y adecuados a las operaciones necesarias, por ejemplo, en machine learning.

  • Poder hablar de forma natural a los robots: Reconoce el formidable avance que suponen modelos como los que respaldan ChatGPT pero entiende que aún hay trabajo por hacer para conseguir una interacción natural y que, en el caso de los robots, tendría mucho que ver con la traducción de palabras en acciones.


Una buena e interesante lista, sin duda.


Conclusiones


Es posible que la lista que propone Daniela Rus este influenciada en parte por el trabajo que realmente se hace en el CSAIL, que ella dirige, pero creo que marca líneas de trabajo muy interesantes y bien fundamentadas y desde luego es una voz a la que vale la pena atender.

Habrá que estar atentos para ver si realmente se avanza en estas líneas de trabajo. 

Ojalá que sí.


viernes, 12 de abril de 2024

Gestión de la ciberseguridad paso a paso con CAballero, BAus y CIlleros.

'Ciberseguridad paso a paso' es, evidentemente, un libro sobre ciberseguridad, pero más que seguir el esquema habitual de describir los tipos de ataques y las soluciones técnicas o procedimentales, se centra en la gestión de la ciberseguridad pensando sobre todo en empresas pequeñas. Por ello los autores, adoptan el enfoque de los 'frameworks de ciberseguridad' pero, en lugar de elegir uno existente, como pudiera ser el del NIST, proponen su propio framework al que denominan CABACI que, 'oficialmente' responde al acrónimo "Cybersecurity Analysis, Building, And Adaptive controls for Improvement" y que, 'casualmente' se corresponde con los apellidos de los autores: CAballero, BAus y CIlleros.

El framework es de naturaleza jerárquica, existiendo una primera división en tres grandes dominios, sobre los que se establecen controles y defensas asociadas, agrupando, además, controles y defensas en niveles básico y avanzado.

Dado que una gran parte del libro se centra en desarrollar y explicar este framework, y a pesar de que sea un poco largo, me parece relevante resumir su estructura, que es como sigue:
  • DOMINIO: ORGANIZACIÓN Y RIESGOS
    • Nivel básico
      • Control 1. Estrategia de negocio y organización.
        • Defensa 1.1. Prioridades en la organización.
        • Defensa 1.2. Organización de ciberseguridad.
        • Defensa 1.3. Normativa de ciberseguridad.
      • Control 2. Diseño tecnológico y gestión de activos.
        • Defensa 2.1. Diseño tecnológico y de ciberseguridad.
        • Defensa 2.2. Gestión de activos tecnológicos e inventario.
      • Control 3. Gestiona tus ciberriesgos.
        • Defensa 3.1. Identifica tus amenazas y riesgos.
        • Defensa 3.2. Gestiona y prioriza tus riesgos.
        • Defensa 3.3. Ciberseguro.
      • Control 4. Seguridad en proveedores.
        • Defensa 4.1. Identifica a tus proveedores tecnológicos.
        • Defensa 4.2. Evaluación continua de la ciberseguridad de tus proveedores.
      • Control C2. Cultura cibersegura.
        • Defensa C2.1. Cultura cibersegura para empleados.
        • Defensa C2.2. Cultura cibersegura para stakeholders.

  • DOMINIO: PROTECCIÓN
    • Nivel básico
      • Control 5. Protege tus redes wifi.
        • Defensa 5.1. Segmentación de la red corporativa.
        • Defensa 5.2. Configuraciones seguras en redes inalámbricas.
        • Defensa 5.3. Redes de invitados y políticas de uso.
      • Control 6. Protege tus dispositivos y sistemas.
        • Defensa 6.1. Política de uso responsable de dispositivos o sistemas.
        • Defensa 6.2. Control de inventariado y gestión de dispositivos.
        • Defensa 6.3. Control de antimalware.
        • Defensa 6.4. Implementación de firewall local.
        • Defensa 6.5. Análisis de vulnerabilidades.
        • Defensa 6.6. Parcheo de vulnerabilidades.
        • Defensa 6.7. Cifrado y firma de correos electrónicos.
      • Control 7. Protege tu correo electrónico.
        • Defensa 7.1. Antispam y antiphishing.
        • Defensa 7.2. Ejercicios de phishing.
        • Defensa 7.3. Protección frente al malware.
        • Defensa 7.4. Medidas antispoofing.
        • Defensa 7.5. Cifrado y firma de correos electrónicos.
      • Control 8. Protege tus datos.
        • Defensa 8.1. Protección de la información almacenada.
        • Defensa 8.2. Prevención ante la pérdida o fuga de información.
        • Defensa 8.3. Gestión de claves de cifrado.
        • Defensa 8.4. Segregación de información sensible.
        • Defensa 8.5. Anonimización y pseudonimización de datos.
        • Defensa 8.6. Cumplimiento de las regulaciones de privacidad.
      • Control 9. Protege tu página web.
        • Defensa 9.1. Uso de firewalls de aplicaciones web (WAF).
        • Defensa 9.2. Protección DDoS de las aplicaciones.
        • Defensa 9.3. Uso de protocolos seguros en aplicaciones web.
        • Defensa 9.4. Protección frente a bots.
        • Defensa 9.5. Seguridad en APIs.
      • Control 10. Protege las credenciales de acceso.
        • Defensa 10.1. Gestión del ciclo de vida de los usuarios.
        • Defensa 10.2. Gestión de contraseñas robustas y rotación.
        • Defensa 10.3. Uso de autenticación multifactor (MFA).
        • Defensa 10.4. Gestión de permisos y privilegios.
      • Control 11. Protege tus redes sociales.
        • Defensa 11.1. Concienciación en protección de redes sociales.
        • Defensa 11.2. Uso de credenciales robustas y autenticación de dos factores en redes sociales.
        • Defensa 11.3. Configuraciones de seguridad y privacidad.
        • Defensa 11.4. Seguimiento selectivo en redes sociales.
        • Defensa 11.5. Prevención de phishing y fraude en redes sociales.
        • Defensa 11.6. Gestión de la reputación en línea en redes sociales.

    • Nivel avanzado
      • Control 15. Protección avanzada de redes.
        • Defensa 15.1. Arquitectura segura.
        • Defensa 15.2. Segmentación de redes.
        • Defensa 15.3. Uso de firewalls de red.
        • Defensa 15.4. Protección frente a intrusiones.
        • Defensa 15.5. Protección de las conexiones remotas.
        • Defensa 15.6. Uso de tecnologías avanzadas de protección de la red.
      • Control 16. Cloud cibersegura.
        • Defensa 16.1. Política de ciberseguridad cloud.
        • Defensa 16.2. Framework de controles cloud.
        • Defensa 16.3. Protección de los datos y repositorios cloud.
        • Defensa 16.4. Protección de entornos SaaS.
        • Defensa 16.5. Monitorización efectiva.
      • Control 17. Protección avanzada de dispositivos y sistemas.
        • Defensa 17.1. Implementación de IDS/IPS local.
        • Defensa 17.2. Guías de bastionado.
        • Defensa 17.3. Gestión de privilegios.
        • Defensa 17.4. Uso de sandbox.
      • Control 18. Desarrolla de manera segura.
        • Defensa 18.1. Política de desarrollo seguro de software (S-SDLC) e implementación en terceros.
        • Defensa 18.2. Guías de desarrollo seguro.
        • Defensa 18.3. Auditoría de código y pruebas de intrusión.
        • Defensa 18.4. Gestión segura de las sesiones de usuario.
        • Defensa 18.5. Verificación de dependencias y componentes de terceros.
        • Defensa 18.6. Política de seguridad de contenido (CSP).
      • Control 19. Control de accesos avanzado.
        • Defensa 19.1. Uso de sistemas de gestión de identidad y accesos (Identity and Access Management Systems, IAM).
        • Defensa 19.2. Segregación de funciones.
        • Defensa 19.3. Gestión de cuentas privilegiadas.
        • Defensa 19.4. Uso de Single Sign-On (SSO).
        • Defensa 19.5. Uso de la federación de identidades.
        • Defensa 19.6. Uso de tecnologías CIAM (Customer Identity and Access Management).
      • Control C2. Cultura cibersegura.
        • Defensa C2.3. Cultura cibersegura sobre medidas de protección.

  • DOMINIO: DETECCIÓN, RESPUESTA Y RESILIENCIA
    • Nivel básico
      • Control 12. Responde a los ciberincidentes.
        • Defensa 12.1. Plan de respuesta a incidentes actualizado.
        • Defensa 12.2. Roles y responsabilidades en la respuesta.
        • Defensa 12.3. Detección y evaluación del incidente.
        • Defensa 12.4. Gestión y resolución del incidente.
        • Defensa 12.5. Notificación del incidente.
      • Control 13. Copias de seguridad.
        • Defensa 13.1. Copias de seguridad.
      • Control 14. Feeds de información y brechas de seguridad.
      • Control 14.1. Feeds de información y brechas de seguridad.

    • Nivel avanzado
      • Control 20. Monitorización continua de ciberseguridad.
        • Defensa 20.1. Define los activos tecnológicos a monitorizar.
        • Defensa 20.2. Registra tus logs.
        • Defensa 20.3. Establece la monitorización de tu red.
        • Defensa 20.4. Monitorización continua de ciberseguridad.
        • Defensa 20.5. Gestión de eventos de ciberseguridad (SIEM).
        • Defensa 20.6. Security Operations Center.
      • Control 21. Respuesta avanzada.
        • Defensa 21.1. Capacitación de la respuesta.
        • Defensa 21.2. Tecnología en la respuesta.
        • Defensa 21.3. Ejecución de la respuesta a incidentes.
      • Control 22. Gestión continua de vulnerabilidades.
        • Defensa 22.1. Ciclo de vida de la gestión de vulnerabilidades.
      • Control 23. Resiliencia.
      • Control 23.1. Recuperación de incidentes.
      • Control C2. Cultura cibersegura.
        • Defensa C2.4. Ciberejercicios o simulacros de ataque.

Comienza el libro con un primer capítulo '1. Ciberseguridad y cómo construir tu estrategia' de naturaleza introductoria y en el que, tras una breve incursion sobre las tecnologías digitales, se plantea el problema del cibercrimen, explica qué es un hacker, aporta conceptos básicos de ciberseguridad y luego ya se centra en el planteamiento de una estrategia de ciberseguridad. Para la definición y gestión de la estrategia de ciberseguridad, los autores proponen un esquema con cuatro pasos, a saber:
  • Entiende tu entorno de amenazas
  • Evaluáte a ti mismo ¿Dónde te encuentras?
  • Define tu plan de ciberseguridad ¿Dónde quieres estar?
  • Establece tu plan y evoluciónalo mirando al futuro
La unión de estos cuatro pasos con el framework CABACI, proporcionan el marco y la estructura con base en el cual se desarrolla casi todo el contenido del libro.

Así, en los siguientes 7 capítulos se va describiendo el plan de acción siguiendo los cuatro pasos propuestos.

En '2. Paso 1. Entiende tu entorno de amenazas' se hace un resumen de las principales amenazas (actores) y sus motivaciones además de describirse los principales tipos de ataques. En '3. Paso 2. Dónde te encuentras. Evaluate a ti mismo con CABACI.' se explica la idea de los frameworks de ciberseguridad e introduce el framework CABACI.

Los siguientes tres capítulos '4. Paso 2.1. Organización u riesgos', '5. Paso 2.2. Protección' y '6. Paso 2.3 Detección, respuesta y resiliencia' constituyen un largo y estructurado recorrido por los controles y defensas que propone el framework CABACI correspondiendo cada capítulo a un dominio de los tres que lo componen.

'7. Paso 3. Define tu plan de ciberseguridad' habla de la definición del plan partiendo de una situación actual (AS-IS) y marcando la situación futura (TO-BE) y teniendo siempre en cuenta las particularidades de la organización y su 'apetito de riesgo'. '8. Paso 4. Establece tu plan y evoluciónalo' cierra el recorrido por los pasos y nos habla de la documentación y gobierno de la estrategia de ciberseguridad.

El resto de capítulos son un poco complementarios o de aplicación en ámbitos específicos. Así, '9. Ciberseguridad para emprendedores' hace una particularización y simplificación del framework para el caso de emprendedores y en '10. Estrategia de ciberseguridad en cloud' se describen con bastante detalle los fundamentos de cloud computing y su tratamiento de la seguridad, con particularizaciones en AWS, Azure y Google Cloud Platform.

Finaliza el libro con '11. Reglas de oro y guían de controles CABACI' en que los autores nos regalan las seis reglas más importantes a tener en cuenta y luego resumen todo el framework CABACI.

'Ciberseguridad paso a paso' es una visión abarcadora de la ciberseguridad más desde el punto de vista de gestión que tecnológico. Se trata de un libro muy ordenado y estructurado, con pretensión de estar al alcance de cualquiera, aunque me ha parecido que en ocasiones se deslizan términos y conceptos técnicos quizá no tan sencillos y que en cierto sentido además se dan por conocidos y eso, según el nivel del lector, pudiera suponer una barrera.

Para una lectura lineal puede resultar en algunos momentos algo árido, especialmente en los capítulos centrales que recorren con detalle el framework. Sin embargo, por la misma razón, por ese recorrido abarcador, estructurado, ordenado y sistemático, creo que puede ser un gran orientador y un valioso manual de referencia.

Buen recurso.

María Ángeles Caballero Velasco

(Fuente: Ficha de autora en Anaya Multimedia)

María Ángeles Caballero Velasco
María Ángeles Caballero Velasco cuenta con más de 10 años de experiencia en el sector de la Ciberseguridad. Actualmente, lidera la transformación digital del Banco Santander como Head de Cyber en CISO Corporación. Es ingeniera en Informática Técnica de Gestión y licenciada en Administración y Dirección de Empresas por la Universidad Carlos III de Madrid. También ha cursado el máster universitario en Seguridad de las TIC por la UEM y máster en Design Thinking por el MIT.

Posee múltiples certificaciones como CISSP, SSCP, CEH o PMP y tiene numerosas publicaciones en libros, revistas y foros, habiendo publicado ocho libros de ciberseguridad hasta la fecha.

Ha participado en múltiples seminarios, conferencias y cursos, dado que le entusiasma la concienciación y la formación.

Finalmente, su pasión por el comportamiento humano le ha llevado a estar cursando actualmente el Grado de Psicología por la UNIR y a certificarse como coach profesional con la escuela americana IPEC.

Puedes conocer más de la autora visitando su perfil en LinkedIn o siguiéndola en Twitter donde se identifica como @MAngelesCab.

Laura Baus Lerma

(Fuente: Ficha de autora en Tirant Lo Blanch)

Laura Baus Lerma
Laura Baus cuenta con una extensa experiencia en el campo de la ciberseguridad, ha trabajado para algunas de las grandes empresas de telecomunicaciones y banca.

Actualmente lidera el equipo de Ciberdefensa en Vodafone como Cyber Defence Manager.

La mayoría de su carrera la ha dedicado a la estrategia de ciberseguridad como estratega y responsable de ciberseguridad.

Dispone de un máster en Ingeniería de Seguridad de la Información y las Comunicaciones, además de ser licenciada en Negocios Internacionales y Dirección Internacional de Empresas por universidades nacionales e internacionales.

Su perfil mixto es resultado de su creencia en que las empresas no pueden tener éxito sin la digitalización y, al mismo tiempo, la digitalización no puede sobrevivir sin la seguridad. La ciberseguridad debe convertirse en un habilitador del negocio y de la vida digital.

Con un fuerte compromiso por la divulgación del conocimiento, Laura participa proactivamente y colabora en conferencias, entrevistas, charlas y enseñanza.

Puedes conocer más de la autora visitando su perfil en LinkedIn.

Diego Cilleros Serrano

(Fuente: Ficha de autor en Anaya Multimedia)

Diego Cilleros Serrano
Diego Cilleros Serrano es ingeniero superior de Telecomunicaciones por la Universidad Carlos III de Madrid y estudiante de grado de Criminología por la Universidad Internacional de La Rioja.

Su experiencia profesional ha estado siempre ligada al mundo de las redes de datos y de la ciberseguridad.

Trabaja actualmente como gerente senior de ciberseguridad en el área Cyber Risk Services de Deloitte España y es responsable de un equipo cercano a las cien personas dedicado a las arquitecturas de seguridad y a la seguridad cloud.

Posee diferentes certificaciones de ciberseguridad que complementan su experiencia, como Offensive Security Certified Professional (OSCP), Certified SCADA Security Architect (CSSA), CISSP, CCSP, CSX y CISA, y algunas relacionadas con AWS y Azure, entre otras. Ha participado en diferentes seminarios y cursos, y es coautor de diferentes publicaciones sobre ciberseguridad.

Puedes conocer más del autor visitando su perfil en LinkedIn.

Ficha técnica:

miércoles, 10 de abril de 2024

El 'mind reading' y su importancia en roboética

En un reciente post, al explicar el giro relacional en roboética propuesto por David Gunkel. en materia de roboética, mencionaba, brevemente, el término 'mind reading' y sugería que lo trataría en un siguiente post. Bueno, ha llegado el momento de hacerlo.

Si menciono el término 'mind reading', (literalmente 'lectura de la mente') a aquellas personas que no conozcan el concepto, les puede sugerir algo misterioso, algo así como en una especie de telepatía o, ya que lo menciono en relación con la roboética, algo temible, como si las máquinas fuesen capaces de leer nuestra mente, nuestros más íntimos pensamientos y sentimientos. Pero no, no se trata de eso exactamente, aunque tenga alguna conexión y aunque ¡a saber dónde podemos llegar!.


El mind reading en humanos


En realidad, la idea del mind reading surge en el contexto de la psicología y hace referencia, no a una estricta lectura de la mente, sino a la capacidad que tenemos los seres humanos (supongo que también al menos hasta cierto punto otros seres vivos) de interpretar lo que, dicho familiarmente, 'se le está pasando por la cabeza' a nuestro interlocutor. Bueno, por la cabeza y por el corazón usado el corazon como metáfora de los sentimientos y emociones.

El mind reading es la capacidad para intuir los pensamientos y emociones de otros, con base en lo que expresa mediante lenguaje verbal, las expresiones faciales y, en general, todo tipo de lenguaje no verbal incluyendo, claro, elementos involuntarios como el 'ponernos colorados'.

Aunque, como todo mecanismo natural no es perfecto, nuestras capacidades humanas de 'mind reading' son eficaces y suficientes para entender a los demás y así engrasar las relaciones interpersonales y sociales.


Mind reading en relación robots personas


Pero ¿existe 'mind reading' en las relaciones robots-personas o, en general en la relación de las máquinas y las personas?

Bueno, creo que podemos decir que existen al menos formas más o menos rudimentarias de 'mind reading'.

Si lo pensamos en el sentido de que un robot haga 'mind reading' a una persona, es decir, entienda sus intenciones y emociones, podemos decir que, aunque de una manera imperfecta, existen mecanismos para ello.

De todos es conocido el formidable avance de los últimos años en materia de procesamiento de voz y de lenguaje natural, de forma que, aunque con alguna reserva, podemos decir que los robots tienen capacidad para 'entender' el lenguaje verbal. Es necesario precisar aquí que lo de 'entender' va con comillas, con muchas comillas en realidad, porque los algoritmos actuales de entendimiento de lenguaje natural, en general no comprenden lo que el humano dice, no asignan un verdadero contenido semántico a las palabras. Se trata de un tema con muchos matices y que, por ejemplo, nos llevaría al problema del 'symbol grounding', pero voy a evitar en este post complicarme con esos temas y asumir que, a efectos prácticos, y aunque de manera imperfecta, los robots pueden entender el lenguaje verbal.

Ya hemos tratado también con frecuencia cómo los robots, aplicando, por ejemplo, las técnicas de la computación afectiva ('afective computing') pueden también deducir, aunque de manera aún limitada,  emociones. 

Y combinando estímulos verbales y no verbales, los robots puede, hasta cierto punto, estimar las intenciones de los humanos.

Es decir, los robots (pienso, por supuesto, en robots cognitivos avanzados) tienen unas razonables capacidades para hacer 'mind reading' a los humanos.

¿Y en el otro sentido? 

¿Podemos los humanos entender las intenciones, emociones y estados internos de los robots?

Bueno, hay mucho que decir sobre en qué consisten esos estados internos, esas presuntas emociones e intenciones de los robots.

Pero antes de entrar en ello, decir que en el propio diseño de los robots sociales o incluso los robots software de naturaleza conversacional, se busca que tanto el lenguaje verbal, expresado mediante voz, como los gestos o expresiones faciales del robot, transmitan, precisamente, esas presuntas emociones o intenciones del robot.


¿Existe en los robots una  mente que leer?


Quizá haya que explicar de qué estados internos, de qué emociones e intenciones estamos hablando si nos referimos a un robot o, dicho de otra forma ¿Qué 'lee' un humano de la mente de un robot?

Hay que ser claro: los robots, al menos los robots actuales, no tienen emociones. Punto. En ese sentido, no habría nada que leer... Bueno, relativamente. Es seguida vamos a ello.

¿E intenciones? Bueno, si por intenciones entendemos una forma de libre albedrío, podría ser tan radical como en el caso de las emociones y decir que no tienen libre albedrío. Y punto, de nuevo. 

Sin embargo, sí que tienen claramente intenciones en el sentido de acciones que planifican realizar a continuación como consecuencia de sus objetivos y del estado del entorno en que se mueven (formando las personas parte de ese entorno). Y dado que son acciones 'lógicas', y siguiendo además una lógica similar a la humana, y que además los propios robots 'señalizan' de alguna forma esa intención, sí podríamos considerar que los humanos podemos 'leer', al menos hasta cierto punto, las intenciones de los robots.

Pero, y volviendo a las emociones, los robots sociales, aunque no sientan emociones, sí que simulan en su comportamiento externo, esas emociones. Sí tienen, o pueden tener, estados computacionales internos que les sitúan en una especie de estado emocional y que condiciona su comportamiento y cómo se expresan en su relación con los humanos a nivel de lenguaje verbal, gestual y, en general, las capacidades de lenguaje no verbal que el robot pueda exhibir.

Y los humanos podemos 'leer' esos estados emocionales porque, además, los robots sociales están expresamente diseñados para facilitar esa lectura de sus estados por parte de los humanos.


Mind reading y roboética


Y esto conecta con la roboética porque nos encontramos ante unos entes, los robots sociales o cognitivos avanzados, que no sólo son capaces de, hasta cierto punto, 'leer nuestra mente' (en el sentido psicológico del 'mind reading'), sino que, además, simulan un estado interno que incluye emociones y, por supuesto intenciones y que los humanos podemos, a su vez,  'leer' e interpretar.

Y esto conecta con muchos elementos éticos. 

Si, como defiende Gunkel, lo que puede definir el estatus moral de un robot es, no su propia naturaleza (enfoque de las propiedades), sino las relaciones que mantenemos con ellos, en cierto sentido pierde importancia el que el robot no tenga verdaderas emociones o libre albedrío en la medida que en su relación con los humanos sea capaz de leer suficientemente bien nuestra mente y simular, suficientemente bien su propia mente y simularla de una forma que los humanos podamos leer.

Y todo esto afecta, pues, a su estatus moral o a problemáticas éticas que incluyen la eventual amistad de personas con robots, e incluso las relaciones sentimentales con robots.


Conclusiones


Hemos visto que el 'mind reading' es una capacidad de naturaleza esencialmente psicológica que tenemos los seres humanos y que facilita y moldea nuestras relaciones. 

Y hemos visto que, aunque con limitaciones e imperfecciones (que seguramente se irán borrando en el futuro a medida que la tecnología avance), los robots cognitivos y sociales avanzados pueden, a su vez simular estados anímicos internos, intenciones y emociones y hacerlo de manera que los humanos podamos 'leer' esos estados, esas intenciones y emociones.

Dejando aparte el enorme interés científico y técnico de este hecho, también es muy relevante las herramientas que añade y también las problemáticas que abre desde un punto de vista ético


lunes, 8 de abril de 2024

Consejos para llevar el Design Thinking a la empresa

Una de las disciplinas que domina el panorama de la innovación desde hace años, pero a la vez, quizá, una de las disciplinas más intangibles desde un punto de vista metodológico, sea el Design Thinking.


Sobre la percepción de intangibilidad del Design Thinking


Digo que se trata de una disciplina algo intangible porque, al menos en mis lecturas hasta la fecha sobre la materia, me he encontrado más una filosofía de trabajo, un enfoque para la innovación o para la definición de productos y servicios, que una serie de pasos estructurados, o unas técnicas concretas o al menos unas buenas prácticas bien definidas, una sistematización de alguna manera.

No digo que no existan, sino que hasta la fecha yo no me las he encontrado. Por eso prefiero hablar de percepción de intangibilidad que de una verdadera intangibilidad. En cualquier caso, me encuentro en búsqueda activa de esa tangibilización.

Y en esa línea, de hecho, me encuentro finalizando la lectura del libro 'Change by Design: How Design Thinking Transforms Organizations and Inspires Innovation' de Tim Brown, presidente ejecutivo de IDEO y uno de los creadores de esta disciplina, en la expectativa de encontrar, precisamente, de ese enfoque algo más metodológico, más concreto, más accionable.

Para ser sincero no lo he encontrado: se trata de un libro que busca más, creo, transmitir de nuevo una filosofía de trabajo, casi de vida, y una inspiración, que un verdadero 'know how'.


Consejos para la adopción de Design Thinking en la empresa


Sin embargo, en uno de los capítulos finales, Tim Brown proporciona a una especie de consejos o principios para conseguir con éxito el uso del Design Thinking en la empresa.

Aunque no satisface ni de lejos mi búsqueda de tangibilidad, me han parecido interesantes en el sentido de resumir parte de la filosofía que mencionaba, y dar alguna idea, aunque sea de bastante alto nivel, sobre cómo llevar a cabo en la empresa la implantación de esta forma de trabajar. Son los siguientes:


  • Empieza por el principio: Ese principio, para Tim Brown es la capacidad de crear nuevas opciones, la divergencia tan mencionada en tratados de creatividad e innovación. Brown pide que se incluya a diseñadores, o mejor, pensadores de diseño ('design thinkers') en comités corporativos y que participen en las decisiones de marketing estratégico y en las decisiones iniciales de I+D.

  • Adopta un enfoque centrado en las personas: Se trata de equilibrar las perspectivas de usuarios, negocio y tecnología, pero siempre con foco en las personas, su comportamiento, su contexto y cómo éste afecta a su reacción ante productos y servicios y tomando en cuenta no sólo los aspectos funcionales sino también los emocionales de esos productos y servicios.

  • Falla pronto, falla a menudo: Se trata de favorecer la experimentación, el prototipado y la prueba y error como forma temprana de aprendizaje con poca inversión.

  • Busca ayuda profesional: Se trata de buscar ayuda fuera de la propia organización, por ejemplo, co-creando con los propios clientes o socios, o en otras ocasiones subcontratando expertos externos.

  • Comparte la inspiración: Se busca estimular a la red interna de contactos, de crear inspiración y favorecer la aparición de nuevas ideas.

  • Mezcla proyectos grandes y pequeños: Buscando un porfolio de innovación que reúna proyectos grandes y pequeños, innovación incremental y disruptiva.

  • Ajusta el presupuesto al ritmo de la innovación: Se trata de ir adaptando las fuentes de financiación y el propio presupuesto al ritmo de la innovación, buscando que los algo rígidos ciclos presupuestarios tradicionales, no sean la fuente de paralización de buenas iniciativas.

  • Busca el talento de todas las formas posibles: Se propone buscar el talento y los pensadores de diseño en la propia organización y, una vez hecho esto, recurrir si es necesario al talento externo mediante contratación, por ejemplo, de graduados universitarios.

  • Diseña para el ciclo: La duración de un proyecto de innovación, su ciclo completo, puede ser largo. Si las personas entran y salen del proyecto durante el ciclo del mismo, se desaprovechan conocimientos y se produce frustración, por eso se propone que, al menos el equipo nuclear, se mantenga durante todo el ciclo de proyecto


Conclusiones


La filosofía del Desing Thinking es inspiradora, y su propuesta interesante y creo que útil.

A falta, eso sí, de mayor tangibilización, me quedaré, de momento, con algunos de estos consejos para las empresas.


viernes, 5 de abril de 2024

El giro relacional de David Gunkel en roboética (II): la propuesta relacional

En el post anterior, titulado 'El giro relacional de David Gunkel en roboética (I). El enfoque de propiedades' hablamos del problema del estatus moral de los robots.

Recordando el enfoque de propiedades


Y, basándonos en el capítulo 'The relational turn. Thinking robots otherwise' firmado por David Gunkel e incluido en el libro  titulado 'Social robotics and the good life' editado por Janina Lo y Wulf Loh, repasamos en qué consistía el enfoque de propiedades como forma de derivar el estatus moral de un ente, en este caso los robots.

De forma muy simplificada, decir que el enfoque de propiedades intenta deducir el estatus moral de una entidad (en este caso un robot) a partir de características como la 'sintiencia' o la 'consciencia' que le otorgan, caso de existir, ese estatus moral.

El problema de ese enfoque es, en esencia, que se basa en estados internos de la entidad que no nos es dado conocer. Esto conecta con el denominado problema del 'mind reading' (la capacidad para atribuir estados mentales como sentimientos, objetivos, intenciones o deseos a una entidad externa, sea un ser humano o, en este caso, un robot).

Aparco para otro momento la eventual discusión sobre si, incluso, en el caso de un robot existen o pudieran existir esos estados internos del tipo de sentimientos o intenciones, algo que, aunque muy interesante, creo que, en cierto modo, el giro relacional hace mucho menos relevante.


La esencia del giro relacional

Dicho de forma muy sencilla, el giro relacional prescinde de las características de la entidad como fuente del estatus moral y soslaya la problemática del 'mind reading', para fijarse en aspectos externos y sociales.

En palabras de David Gunkel, se trata de:


an alternative model [] which shifts the emphasis from internal properties of the individual entity to extrinsic social circumstances and relationships. 


Es decir, nos fijamos en las relaciones que mantenemos con la entidad (en este caso, las relaciones de los humanos con los robots) y aspectos sociales asociados.


Las tres características del giro relacional

Gunkel identifica tres características importantes de ese giro relacional que serían:


  • Relacional: El estatus moral se decide no a partir de propiedades internas subjetivas sino de relaciones sociales extrínsecas objetivamente observables o, si se prefiere, el estatus moral depende de la relación que, en este caso los robots, establecen con nosotros.

  • Fenomenológico: Se trata de un enfoque radicalmente empírico

  • Diverso: El abandonar el enfoque de propiedades, muy propio del pensamiento occidental, conecta mejor con otros planteamientos morales en diferentes culturas y momentos históricos.

Como opinión meramente personal, diría que, aunque el enfoque de propiedades parece que conecta mejor con nuestra forma de pensar y razonar (quizá precisamente por ser occidentales) el giro relacional que, en el fondo, con otros nombres pero parecidos planteamientos se puede encontrar en otras obras y autores sobre roboética o ética de máquinas y algoritmos, parece una solución práctica, realista y posibilista que rompe un cierto bloqueo analítico a que lleva el enfoque de propiedades.


Críticas y retos

Pero este enfoque relacional, no está exento de problemáticas y críticas. Siguiendo de nuevo la obra de Gunkel, nos encontramos con:


  • Relativismo: Al tratarse de un enfoque no deductivo, sino empírico y no dependiente de unas características claras, el enfoque relacional corre el riesgo de conducir al relativismo moral, un relativismo en que se asigna o no ese estatus moral no de forma universal sino dependiente de circunstancias.

  • Deshumanización: según algunos pensadores, el enfoque relacional podría conducir a perder de vista características valiosas de las relaciones humanas e, incluso, 'cosificar' a las personas.

  • Contradicción: Hay autores que piensan que, pese a lo que pueda parecer, el enfoque relacional es plenamente antropocéntrico y, en el fondo, también dependiente de las propiedades

En la obra citada, Gunkel analiza y contraargumenta algunas de las objeciones, pero no voy a entrar aquí en ese detalle.
 

Conclusiones

Gunkel nos recuerda que el enfoque de propiedades no es realmente erróneo pero sí que presenta limitaciones que pueden ser superadas en su mayoría por el este giro relacional.

Está claro que la problemática de asignación de estatus moral a los robots es compleja y no hay unidad de criterios, como ocurre, por otro lado, en tantas y tantas problemáticas filosóficas en general y de la roboética en particular. Paradójicamente, en parte esto es lo que convierte a esta disciplina en intelectualmente tan apasionante.

Seguiremos pues hablando con cierta frecuencia de roboética...

lunes, 1 de abril de 2024

El giro relacional de David Gunkel en roboética (I). El enfoque de propiedades

Uno de los debates filosóficos más apasionantes, y a la vez complejos, no de entender sino de decidir, dentro del campo de la roboética, es la asignación o no de un estatus moral a los robots. 
 

El planteamiento del problema


Cuando hablamos de estatus moral lo podemos ver desde una doble perspectiva: la agencia moral, es decir, si los robots pueden llegar a ser responsables desde un punto de vista moral de sus acciones, y la paciencia moral, es decir, si los robots son acreedores de alguna forma de respeto o consideración moral por nuestra parte e, incluso, si pueden tener derechos.

Estrictamente hablando, el planteamiento no es diferente de otras entidades. Lo que ocurre es que, en el caso de que la entidad sea un ser humano, le asignamos ese estatus moral de una forma casi axiomática, como algo que damos por supuesto. Y en el caso de los animales, aunque cabe más el debate, en la actualidad se le tiende a asignar ese estatus moral e incluso, progresivamente, crece la legislación que los protege.

Sin embargo, en el caso de los robots la cosa no está clara en absoluto sino que, cierto que en ámbitos especializados, existe un activo debate al respecto. Pero ese debate que, como digo, actualmente se concentra en círculos muy de nicho del campo de la robótica y, sobre todo, de la ética , pudiera extenderse y pudiera ser más necesaria su resolución en la medida en que los robots puedan avanzar tanto en sus capacidades cognitivas como, quizá, en su aspecto humanoide y también en la medida en que, eventualmente, pueda generalizarse su uso.


El giro relacional de David Gunkel


Uno de los más importantes pensadores en este campo es David Gunkel, profesor de la Northern Illinois University y autor de varios libros, entre los que destacan 'Robot rights' y 'Person, thing, robot'.

Este autor propone lo que denomina un giro relacional ('relational turn') como forma de superar una cierta dicotomía entre personas y cosas. 

De forma resumida, su planteamiento se puede encontrar en el capítulo 'The relational turn. Thinking robots otherwise' incluido en el libro coral titulado 'Social robotics and the good life' y editado por por Janina Lo y Wulf Loh.

Arguye Gunkel que, tradicionalmente, aquellas entidades que eran consideradas personas tenían estatus moral y derechos mientras que las que eran consideradas cosas no disponían de ese estatus moral. Argumenta además que ya en el pasado han existido algunas situaciones intermedias como la de los esclavos en la antigua Roma o actualmente los animales. Y piensa que los robots podrían ser otra de esas entidades intermedias, a medio camino, de alguna manera, entre personas y cosas.

Antes de entrar en su propio planteamiento, Gunkel resumen el denominado enfoque de propiedades ('properties approach') que es lo que quisiera resumir en este post, para revisar, en otro artículo próximo, la propuesta de Gunkel, su giro relacional.


El enfoque de propiedades


En el enfoque de propiedades, el que una entidad deba disponer o no de estatus moral depende de que exhiba o no una o varias propiedades que, de alguna forma, le califiquen para ese estatus. Podría expresarse como: si tiene las propiedades A, B y C, debe gozar de estatus moral y si no las tiene, no. Ese enfoque de propiedades se puede esquematizar, y así lo hace Gunkel, como una suerte de silogismo de la siguiente forma


  • Tener la propiedad P es suficiente para tener a el estatus moral M
  • La entidad E tiene la propiedad P
  • La entidad E tiene el estatus moral M


Vuelvo a insistir en que este planteamiento es válido para el análisis del estatus moral de cualquier entidad, incluido el ser humano. Lo que ocurre que encuentra especial interés, y también dificultad, cuando lo trasladamos a robots.

Algunas de las propiedades que pudieran actuar como calificadoras para el estatus moral, y así aparecen en las obras sobre roboética, podrían ser la denominada 'sintiencia' (capacidad para sufrir) o la consciencia (fácil de entender pero muy difícil de definir).


Los problemas del enfoque de propiedades


Sin embargo, y aunque el enfoque de las propiedades parece lógico y fácil de entender (e incluso de compartir) para Gunkel adolece de importantes limitaciones que él condensa en tres y que, de forma muy resumida, son las siguientes:


  • Determinación: Cómo establecer concretamente qué propiedad o conjunto de propiedades son necesarias y suficientes para que 'algo' tenga estatus moral. En efecto, no existe consenso al respecto.

  • Definición: Supuesto que identificamos esa propiedad o propiedades, la dificultad para definirlas de una forma exacta. Ya lo mencionamos a propósito de la consciencia, pero incluso la propia 'sintiencia' u otras propiedades similares no son sencillas de delimitar de manera rigurosa.

  • Detección: Cómo acceder o percibir esa propiedad teniendo en cuenta que las que se proponen como posibles propiedades (como la 'sintiencia' y 'consciencia' ya mencionadas) se suelen corresponder con estados mentales internos de la entidad y, por tanto, no directamente accesibles desde el exterior.


Estas carencias limitan la capacidad real del enfoque de propiedades como orientación para asignar o no estatus moral a una entidad, en este caso, un robot.


Conclusiones


En un próximo post, veremos en qué consiste el giro relacional propuesto por Gunkel pero, de momento, hemos revisado 'de qué va' el problema de la asignación de estatus moral a una entidad, especialmente un robot, en qué consiste el planteamiento del enfoque de propiedades y algunas de sus limitaciones.

En el siguiente post, la propuesta de Gunkel.