Xie Saining: Los LLM son en cierto sentido "anti-Bitter Lesson", el modelo del mundo es el futuro

Según la noticia de CoinWorld, y tras la monitorización de 1M AI News, el cofundador y director científico de AMI Labs, una compañía de modelos mundiales que completó una ronda de financiación semilla de 1.03 mil millones de dólares, ha concedido su primera entrevista pública en profundidad. A continuación, un resumen del contenido: Xie Saining criticó sistemáticamente la estrategia actual centrada en grandes modelos de lenguaje (LLM), y afirmó que los LLM no representan el éxito del “Bitter Lesson” propuesto por Richard Sutton, e incluso que en cierto modo van en contra de esa lección. Señaló que el lenguaje en sí mismo es una estructura altamente refinada de la civilización humana, que funciona como una “acortador”, y que una dependencia excesiva limita el aprendizaje de la IA sobre el mundo real. Diferenció entre modelos del mundo y modelos de lenguaje: los modelos de lenguaje predicen el “siguiente token”, mientras que los modelos del mundo predicen el “siguiente estado” basado en acciones, permitiendo prever las consecuencias de las acciones durante la inferencia, logrando así una inteligencia más segura y controlada. También afirmó que “AGI es un concepto falso”, y que crear un agente inteligente capaz de sobrevivir en el mundo real es más difícil que resolver concursos de matemáticas o programar. Además, reveló que rechazó dos veces la invitación de Ilya Sutskever: en 2018, renunció a unirse a OpenAI para unirse a Meta FAIR, y en 2024, rechazó la invitación de su nueva empresa SSI, debido a diferencias en las rutas multimodales y visuales. Indicó que AMI Labs evita tener oficinas en Silicon Valley porque “ya está profundamente inmersa en la ruta de los LLM”. La sede de la compañía está en París, y recopilan datos del mundo real a través de socios globales. Considera que el paradigma de entrenamiento de IA está pasando de “descargar internet” a “descargar a la humanidad”, y que los escenarios de aplicación a corto plazo serán gafas inteligentes de IA y robots.