Cuatro problemas éticos ligados al Procesamiento del Lenguaje Natural (NLP)

La ética es un tema que cada vez recibe más atención en relación con la Inteligencia Artificial, a veces con claridad de ideas, y a veces no tanto. Pero parece más un tema de webinars, eventos, debates o libros de divulgación, más que de obras de contenido tecnológico.

Y sin embargo, me he topado recientemente con ese tipo de consideraciones éticas en un libro por lo demás muy técnico y además centrado no en la Inteligencia Artificial como tal, sino específicamente en el Procesamiento de Lenguage Natural (NLP, 'Natural Language Processing') como es el 'Introduction to Natural Language Processing' de Jacob Eisenstein.

En el primer capítulo, donde el autor aporta unas ideas de carácter general, dedica una 'esquinita' a mencionar cuatro problemáticas éticas del procesamiento del lenguaje natural. Son estas:

• Accesibilidad: Es decir, si el tratamiento del lenguaje se hace de forma general o para colectivos específicos. Por ejemplo, ¿Qué idiomas se tratan mediante lenguaje natural? ¿Puede abrir esto alguna forma de brecha digital entre países o culturas?


• Sesgos: Es uno de los problemas mencionados habitualmente en las consideraciones éticas sobre la Inteligencia Artificial. En este caso, y como hablamos específicamente de procesamiento de lenguaje natural, lo que el autor insinúa es que es posible que se trasladen al tratamiento automatizado del lenguaje sesgos existentes en nuestra forma de hablar, pensando, me imagino en, por ejemplo, 'dejes' no inclusivos de algún tipo.


• Fuerza de trabajo: Debo reconocer que no estoy seguro de entender del todo lo que plantea el autor en este caso concreto. En esencia, se pregunta dos cosas que no veo del todo conectadas. Por un lado, el origen de los conjuntos de datos y anotaciones sobre las que se trabaja para entrenar al algoritmo. Por otro, si el beneficio que se obtenga del procesamiento de lenguaje natural se comparte con todos aquellos que han aportado algo (no se si se refiere a trabajadores como tal, o a personas que han aportado sus conversaciones o textos l que conectaría con la primera cuestión).


• Privacidad y libertad de Internet: ¿Afecta el procesamiento de lenguaje natural a gran escala al derecho a comunicaciones privadas y gratuitas? ¿Qué papel puede jugar esta tecnología en regímenes totalitarios o intervencionistas?

No veo del todo nítidas todas las problemáticas que el autor intenta plantear pero me ha llamado la atención este foco ético en NLP que además me parece saludable. Seguiré atento al desarrollo que Eisenstein pueda hacer más adelante en el libro o que pueda encontrar en otra fuente.