La inteligencia artificial (IA) est\u00e1 estancada desde hace m\u00e1s de 50 a\u00f1os en uno de los problemas m\u00e1s fundamentales: c\u00f3mo dotar a las m\u00e1quinas de conocimientos de sentido com\u00fan, es decir, aquellos conocimientos no especializados que los humanos compartimos y que adquirimos por medio de nuestras vivencias y experiencias. Estos conocimientos los adquirimos a trav\u00e9s de los sentidos, de una manera espont\u00e1nea, dispersa, acr\u00edtica y convencional: es\u00a0el modo en que aprendemos los humanos.<\/p>\n\n\n\n
La falta de estos conocimientos de sentido com\u00fan impide que la IA tenga una comprensi\u00f3n profunda del lenguaje. Y el camino para lograrlo es dotarla de un cuerpo multisensorial. Esto es crucial si queremos lograr una IA general.<\/p>\n\n\n\n
Una pregunta clave es si los grandes modelos de lenguaje de la IA generativa comprenden y razonan de manera general o, simplemente, recuperan y parafrasean los patrones de texto contenidos en los corpus usados para su entrenamiento. Rao Kambhampati<\/a>, expresidente de AAAI<\/a>, lo llama \u201crecuperaci\u00f3n aproximada de patrones de texto contenidos en los datos de entrenamiento del modelo\u201d.<\/p>\n\n\n\n Para comprobarlo, se sit\u00faa a la inteligencia artificial ante acontecimientos hipot\u00e9ticos que muy probablemente no hayan formado parte de los corpus de entrenamiento. Son lo que llamamos tareas contrafactuales<\/a>. Concretamente se eval\u00faan los modelos usando pares de tareas, una contrafactual y la otra no. Ambas requieren los mismos tipos de abstracci\u00f3n y razonamiento para resolverse.<\/p>\n\n\n\n Por ejemplo, se prob\u00f3 GPT-4 en una tarea que consist\u00eda en juzgar si conjuntos de movimientos de aperturas de ajedrez son o no legales <\/a>.<\/p>\n\n\n\n En la versi\u00f3n contrafactual de la tarea se intercambiaron las posiciones iniciales de los caballos y los alfiles mientras que en la versi\u00f3n no-contrafactual se part\u00eda de las posiciones establecidas en el ajedrez. En las aperturas de la versi\u00f3n contrafactual, los caballos se mov\u00edan como si fuesen alfiles, lo cual es obviamente ilegal; mientras que en la versi\u00f3n no contrafactual todos los movimientos eran legales.<\/p>\n\n\n\n En la situaci\u00f3n no contrafactual, GPT-4 dio un 90 % de respuestas correctas, pero en la contrafactual el rendimiento de GPT-4 cay\u00f3 al 54 %. Este desplome se debe a que en sus datos de entrenamiento no hab\u00eda ejemplos de aperturas con piezas cambiadas.<\/p>\n\n\n\n Los autores de este estudio concluyeron que cuando los patrones que sirven para generar las respuestas no est\u00e1n presentes en los datos de entrenamiento, estos modelos fallan dram\u00e1ticamente. Es decir, que regurgitan respuestas en funci\u00f3n de \u201caproximaciones\u201d en lugar de razonar.<\/p>\n\n\n\n L\u00edderes en IA como Demis Hassabis de DeepMind<\/a> y Yann Lecun de Meta<\/a> han reconocido que los grandes modelos de lenguaje por s\u00ed solos no son el camino hacia la IA general.<\/p>\n\n\n\n La v\u00eda a seguir implica la adquisici\u00f3n de un modelo del mundo. Y para ello, la IA necesita un cuerpo que le permita interactuar con el mundo.<\/p>\n\n\n\n La \u201creceta\u201d para dotar a la IA de conocimientos de sentido com\u00fan, y quiz\u00e1s en \u00faltima instancia de inteligencia general, implica desarrollar sistemas que puedan representar los elementos m\u00e1s b\u00e1sicos del conocimiento humano: tiempo, espacio, causalidad y conocimiento b\u00e1sico de objetos f\u00edsicos y sus interacciones.<\/p>\n\n\n\n Despu\u00e9s hay que integrar estos elementos en una arquitectura que pueda resolver problemas en situaciones impredecibles, inciertas y cambiantes: deducci\u00f3n, inducci\u00f3n, abducci\u00f3n, analog\u00eda y sentido com\u00fan.<\/p>\n\n\n\n Tambi\u00e9n debemos integrar el razonamiento con la percepci\u00f3n, la acci\u00f3n y el lenguaje, as\u00ed como desarrollar un sistema de aprendizaje que use este conocimiento para relacionar el nuevo aprendizaje con el aprendizaje previo.<\/p>\n\n\n\n Dotar a la IA de un cuerpo multisensorial es crucial para lograr este nivel de comprensi\u00f3n.<\/p>\n\n\n\n Algunos gigantes tecnol\u00f3gicos ya han comenzado proyectos que apuntan hacia esta IA corp\u00f3rea. Por ejemplo, DeepMind anunci\u00f3 en 2022 que estaban desarrollando un sistema llamado GATO<\/a>, que incluye datos de entrenamiento provenientes de sensores que le permiten operar en un entorno f\u00edsico simple.<\/p>\n\n\n\n De manera similar, otro proyecto de DeepMind, PLATO<\/a>, aprende algunos conceptos del mundo f\u00edsico directamente de datos visuales, inspirado en la psicolog\u00eda del desarrollo de Jean Piaget<\/a>, concretamente en el desarrollo de la cognici\u00f3n visual en ni\u00f1os.<\/p>\n\n\n\n Desde hace ya 9 a\u00f1os, inspirado tambi\u00e9n por la psicolog\u00eda del desarrollo de Piaget, he estado investigando en el Instituto de Investigaci\u00f3n en Inteligencia Artificial (IIIA) del CSIC<\/a> el aprendizaje de relaciones causa-efecto con un robot humanoide, paso imprescindible para aprender un modelo del mundo.<\/p>\n\n\n\n Uno de los resultados destacados del estudio, publicado en IEEE Transactions on Autonomous Mental Development<\/em><\/a>, fue que el robot aprendi\u00f3 a relacionar las posiciones de sus dedos sobre las teclas de un teclado virtual (es decir, la causa) y las notas musicales (es decir, el efecto) que generan cada una de las teclas.<\/p>\n\n\n\n Aprender un modelo del mundo basado en la interacci\u00f3n a trav\u00e9s de los sentidos a\u00fan est\u00e1 lejos, pero estos proyectos son los primeros pasos.<\/p>\n\n\n\n Cuando se informa de los espectaculares \u00e9xitos de la IA, la gente tiende a generalizar y atribuirle la capacidad de hacer casi cualquier cosa que los humanos pueden hacer, e incluso mejor.<\/p>\n\n\n\n Sin embargo, los sistemas actuales de IA generativa poseen \u201chabilidades sin comprensi\u00f3n\u201d, como se\u00f1al\u00f3 Daniel Dennett en su libro De las bacterias a Bach<\/em><\/a> (From Bacteria to Bach and Back<\/em>). Estos sistemas pueden ser muy h\u00e1biles en tareas como generar im\u00e1genes o textos plausibles y persuasivos, pero no entienden nada sobre lo que generan. Como inteligencias no corp\u00f3reas, no pueden interactuar con el mundo, lo que les impide comprender realmente el significado de los textos que generan.<\/p>\n\n\n\n Entre los fil\u00f3sofos, John Locke<\/a> argument\u00f3 en el siglo XVII que las experiencias, particularmente a trav\u00e9s de los sentidos, son la base de nuestro conocimiento. Por su parte, Maurice Merleau-Ponty <\/a>destac\u00f3 la importancia del cuerpo en la interacci\u00f3n y comprensi\u00f3n del mundo. Tambi\u00e9n Wittgenstein<\/a> enfatiz\u00f3 la importancia de la relaci\u00f3n entre el mundo y el lenguaje cuando dijo:<\/p>\n\n\n\n \u201cLos l\u00edmites de mi lenguaje son los l\u00edmites de mi mundo\u201d.<\/p>\n\n\n\n Los creadores de sistemas de IA basados en grandes modelos de lenguaje est\u00e1n principalmente preocupados por su poder ret\u00f3rico persuasivo, haciendo que parezca que entienden el lenguaje y que son el precursor de la IA general, todo para atraer grandes inversiones.<\/p>\n\n\n\nLa \u201creceta\u201d para dotar a la IA de sentido com\u00fan<\/h2>\n\n\n\n
Un cuerpo multisensorial<\/h2>\n\n\n\n
A d\u00eda de hoy no entienden nada de lo que generan<\/h2>\n\n\n\n
La experiencia a trav\u00e9s de los sentidos<\/h2>\n\n\n\n