Unas ideas muy preliminares sobre modelos generativos

Quizá una de las áreas más asombrosas de la inteligencia artificial actual sea el de las redes generativas, modelos matemáticos que permiten que, de una forma que parece casi mágica, un algoritmo pueda crear, por ejemplo, fotografías realistas, o vídeos, o textos, o música. a partir de 'la nada' en lo que parece como si hubiésemos alcanzado una suerte de creatividad en las máquinas.

Pero no es verdadera creatividad, son algoritmos.

Interesado en profundizar en el funcionamiento de este tipo de redes, he terminado recientemente la lectura del libro 'Generative Deep Learning: Teaching Machines to Paint, Write, Compose and Play' de David Foster, un magnífico libro, por cierto.

Al principio de esta obra, el autor nos define y explica las ideas básicas de los llamados modelos generativos y nos propone la siguiente definición.

A generative model describes how a dataset is generated in terms of a probabilistic model. By sampling from this model, we are able to generate new data.

La verdad es que así, 'soltada a bocajarro', no es una definición que se entienda demasiado bien, pero en las siguientes líneas y páginas sí que lo deja claro y utiliza para ello, inicialmente, el siguiente ejemplo:

supongamos que queremos un modelo capaz de generar fotografías de caballos de forma realista y disponemos, para entrenar ese modelo, de un conjunto de fotografías de caballos reales. Bueno, pues lo que hacemos es suponer que existe una distribución de probabilidad que explica por qué las imágenes del entrenamiento tienen unas altas probabilidades de ser caballos.  

A partir de esa hipótesis, los modelos generativos lo que hacen es, con base en los datos de entrenamiento, y ajustando parámetros durante un aprendizaje generalmente supervisado, deducir esa función de probabilidad. Y la función de probabilidad, una vez entrenada será, en el fondo, es el modelo generativo. Y lo es porque, una vez deducida, basta con muestrear esa distribución de probabilidad, elegir un valor cualquiera, para tener, en este caso, una fotografía realista de un caballo que, en realidad, no existe,

Parece magia, pero son algoritmos.

En futuros artículos contaré algo más de esta creatividad y esta magia que, en realidad, no son tales.