Buscar la verdad en la tecnología

No, no voy a pretender una especie de divinización de la tecnología que la convierta en fuente única de la verdad. 

No se trata de eso.

Tampoco voy a despreciar otros puntos de vista interesantes y necesarios para alcanzar esa 'verdad', fuentes como la filosofía, la ética, la antropología, la sociología, la psicología, el derecho,  y, en general, aquellas disciplinas que, no sé si con total fortuna, nos hemos acostumbrado a denominar 'humanidades'.

¿A qué me estoy refiriendo, entonces?

La tecnología como pregunta

El avance vertiginoso de la tecnología nos ofrece cosas sorprendentes, como vemos por ejemplo últimamente con la inteligencia artificial generativa, transforma negocios y sectores y transforma nuestras propias costumbres y formas de relacionarnos, transforma, en fin, la propia sociedad.

Es fuente por tanto indudable de avance y progreso, pero también nos crea interrogantes e incluso justas preocupaciones.

Nos preocupamos por el efecto psicológico y relacional que el uso excesivo, por ejemplo, de redes sociales y móviles pueda producir. Nos preocupamos por el uso de los datos que se generan y que se refieren no sólo a información comercial o transaccional, sino también a información personal de cada uno de nosotros. Nos preocupamos por los sesgos que el uso algorítmico puede generar o en confiar demasiado en la toma automatizada de decisiones por máquinas y algoritmos que no siempre entendemos bien cómo 'razonan'.

La búsqueda de respuestas

Y ante esos interrogantes, buscamos puntos de referencia, buscamos guías y buscamos respuestas, una búsqueda que, todo hay que decirlo, no siempre se encuentra exenta de puro temor no siempre racional, y de cierta resistencia al cambio.

Y para encontrar respuestas, se torna la mirada cada vez más a las disciplinas agrupadas bajo el paraguas del término de 'humanidades'. 

Buscamos respuestas y referencias en la psicología, en la antropología y en la sociología.

Y buscamos respuestas, sobre todo, en la filosofía y, particularmente en la ética. 

Y, además, buscamos traducir esas respuestas en normativas aseguradoras y parcialmente tranquilizadoras para lo cual acudimos, lógicamente, al derecho.

Y es lógico actuar así, y es correcto, y está muy bien (salvo lo del temor injustificado y la resistencia al cambio, claro).

Pero no es suficiente.

La tecnología como respuesta

Nos olvidamos con frecuencia, especialmente desde algunas miradas estrechas o monodimensionales, de la que puede ser, en muchos casos, la principal fuente de la verdad: la propia tecnología.

De nuevo, ¿a qué me estoy refiriendo?

Pues estoy, en el fondo, haciendo la enésima apuesta por el rigor y conocimiento,  por el verdadero entendimiento, en este caso de la propia tecnología que nos cuestiona, nos preocupa o, incluso, nos asusta.

Una apuesta que implica estudiar esa tecnología, entender por qué se producen esos efectos que nos preocupan e, incluso, qué puede hacer la propia tecnología para evitar algunos de sus efectos indeseables.

Por poner algún ejemplo, nos preocupamos, de manera bastante justificada por cierto, de los sesgos que se producen en los algoritmos de machine learning, pero cuando el análisis es simplista y ausente de conocimiento, puede dar la impresión de la existencia de voluntades oscuras en los algoritmos o en los desarrolladores que los crean y apostar por pura normativa y control, o por la corrección por personas de los resultados del algoritmo, tema este último que, en mi opinión, corre el riesgo de introducir sesgos aún peores e incluso arbitrariedad. Un adecuado entendimiento de los mecanismos por los que se producen los sesgos, nos hará entender que salvo quizá contadísimas excepciones, no existen voluntades oscuras ocultas sino una herencia de datos inadecuada o una mala praxis en el muestreo de datos o en el entrenamiento, y que, en general, a las empresas creadoras o usuarias de esos algoritmos no les interesa para nada que existan esos sesgos, que son las primeras interesadas en evitarlos y, sobre todo, sobre todo, que existen muchas soluciones que proceden de la propia metodología y de la propia tecnología para evitar esos sesgos.

Cuando nos preocupamos justamente de nuestra privacidad y del uso de nuestros datos, conviene recordar que, aparte de las absolutamente necesarias protecciones legales y normativas, existen mecanismos técnicos como las técnicas de anonimización, que ayudan a utilizar datos, tan útiles y necesarios, protegiendo así la privacidad de las personas, siempre que las instituciones que hacen uso de esos datos tengan la voluntad de realmente no hacer un mal uso de ellos.

Cuando al buscar, justificadamente, la explicabilidad de los algoritmos de inteligencia artificial usados para decisiones complejas y sensibles, al preocuparnos, con razón, por no entender del todo (o en absoluto) cómo un algoritmo ha llegado a sus conclusiones, un entendimiento superficial del problema puede conducirnos a pensar en cosas fantasiosas como una suerte de libre albedrío de los algoritmos (que no existe, claro) o a un temor excesivo que nos lleve a exigir explicabilidad en todo momento y algoritmo, cosa innecesaria y muy negativa para la innovación y desarrollo tecnológico y económico. Un entendimiento del funcionamiento de los algoritmos, nos eliminará cualquier tipo de veleidad sobre libre albedrío y ayudará también, creo, a centrar cuándo exigir la explicabilidad y cuándo no. Es más, es posible que la propia investigación en algoritmia conduzca a algoritmos dotados de explicabilidad o que sepan dar explicaciones entendible y plausibles del 'razonamiento' de otros algoritmos. Aunque sin resultados todavía demasiado notables, al menos en mi percepción, existe mucho trabajo serio en ese campo y en tratar de dar una respuesta tecnológica al problema de la explicabilidad.

Cuando nos sorprendemos, y con razón, con las capacidades de los sistemas de procesamiento de lenguaje natural como GPT3 o LaMDA o la gran novedad de las últimas semanas como ChatGPT, cuando las espectaculares capacidades de estos sistemas nos hacen creer en un pensamiento de las máquinas e, incluso, hablar en algún momento de excentricidad, de consciencia, un entendimiento del funcionamiento básico de este tipo de algoritmos, nos haría comprender hasta qué punto su naturaleza es de tipo, digamos, probabilista, hasta qué punto están vacíos de todo tipo de verdadero entendimiento y aún más de consciencia. 

Cuando nos asustamos por aspectos más futuristas como la inteligencia artificial general, la singularidad y una eventual rebelión de las máquinas, un conocimiento del estado actual de la algoritmia, te hace comprender hasta qué punto esa situación, caso de ser posible, está lejos, muy lejos, al menos desde el punto de vista técnico (no me pronuncio en lo temporal), de la situación actual.

Y así un largo etcétera. 

Entender la tecnología de verdad, tratar de las problemáticas asociadas a la misma basándonos en conocimiento, no en especulaciones o en retransmisión acrítica de mensajes escuchados a terceros, hará que desterremos muchos falsos problemas nacidos de la fantasía o incluso la manipulación y también, y quizá esto sea aún mejor, que una parte, no toda pero una parte de las soluciones a las problemáticas quela tecnología haya podido crear, las podemos encontrar en la propia tecnología.

Conclusión: buscar la verdad en la tecnología

No deberíamos temer a la tecnología sino conocerla.

Conocerla nos evitará fantasías y temores infundados, nos ayudará a encontrar las mejores estrategias para la resolución de los problemas que pueda traer consigo e, incluso, en ocasiones, la misma tecnología nos aportará esas soluciones que necesitamos.

Por tanto, a la hora de buscar la verdad,  y sin despreciar la aportación de las disciplinas humanísticas, no nos olvidemos de buscar la verdad en la propia tecnología.