Alucinación

Se acaba de informar que Google DeepMind ha liberado una herramienta, FunSearch, capaz de generar respuestas nuevas a problemas no resueltos hasta el presente. Es un paso cualitativo. Se ha publicitado que el problema del «conjunto de límites», sin resolver durante mucho tiempo, FunSearch lo ha logrado. El problema se planteó hace décadas y en los años 70 se logró solucionar con un numero de variables reducido, pero nunca se ha logrado resolver con una complejidad importante. El problema consiste en encontrar el conjunto más grande de puntos en una cuadrícula de alta dimensión, donde no hay tres puntos en una línea. Como problema de combinatoria, su dificultad aumenta a medida que lo hace la complejidad de los conjuntos de números empleados. FunSearch ha encontrado una solución para un conjunto de 512 puntos. ¿Pero cómo lo ha logrado?

La solución se ha encontrado en el marco de los modelos de lenguaje como ChatGPT, que emplean una red neuronal con gran cantidad de parámetros, que se determinan entrenando la red con grandes cantidades de texto en forma de aprendizaje autosupervisado o semisupervisado. No se trata de buscar respuesta sino patrones. Aquí radican los fallos como los de ChatGPT, porque realmente no comprueba si la respuesta es correcta o no. Esta forma de operar dificulta el aplicarlo a resolver un problema matemático. De aquí salen las alucinaciones. FunSearch lo ha resuelto haciendo concurrir dos programas. Uno de ellos es el denominado Codey, que es un modelo de codificación que permite acceder a un auxiliar de programación que se encarga de completar y generar el código en lenguaje natural. Es una gran ayuda en programación y ciencia de datos, que permite que los desarrolladores no se centren en tareas repetitivas. El segundo es un algoritmo que comprueba y valora lo que hace Codey, como si fuera un vigilante que previene de meter la pata. De esta forma, los científicos escriben una línea de código que indica cómo resolver el problema matemático, pero deja libertad para incorporar los comandos que aportan la solución. Codey es quien se encarga de proponer las líneas de código, que se someten al algoritmo de comprobación que las revisa. Muchas conducirán a soluciones falsas, que hay que descartar, pero algunas pueden dar la respuesta. Así se ha resuelto el problema del «conjunto de límites», que ha permanecido sin solución, durante décadas.

Ampliar

Los ingenieros crearon para el problema del «conjunto de límites», un código en el lenguaje de programación Python y suprimieron las líneas que contenían la solución. Codey agregaba las líneas que resolvían el problema y el algoritmo posterior verificaba y calificaba las soluciones comprobando que fueran ciertas. FunSearch estuvo generando soluciones durante varios días, afinando cada vez más. No solo encontró respuestas al problema del conjunto de límites, sino que se enfrentó con otro problema, denominado el de «embalaje de contenedores», consistente en empaquetar artículos usando el menor número posible de contenedores, problema muy usual en el comercio electrónico.

La novedad rutilante es que esta herramienta, FunSearch, a diferencia de otros modelos, no solamente resuelve problemas existentes, sino que gracias a su capacidad de generar código de programación puede resolver todo tipo de problemas, en lugar de solamente alcanzar soluciones específicas.

Seguimos lejos de la inteligencia artificial general, capaz de ser consciente de lo que hace y como lo hace, equiparable al ser humano, pero los pasos que se están dando son significativos. Poco a poco. El año 2023 ha sido muy fértil y es de prever que el que ahora comienza, 2024 lo mejore. Pretendemos ser testigos directos de los avances. Seguir el rastro, es la mejor forma de ser conscientes de dónde estamos, hacia donde vamos y por donde lo hacemos. Esto avanza. Ahora sin alucinación. Feliz y venturoso 2024.