Pódcast
Training Data
Sutton: los LLM son un gran avance, pero solo el 20% de la inteligencia
Rich Sutton y su cofundador Khurram Javed argumentan que los LLM actuales son un callejón sin salida porque dejan de aprender después de su implementación. Sutton califica los datos sintéticos como 'un gran error' — el mundo real es infinitamente complejo y ninguna simulación puede capturarlo. Su laboratorio, Oak, apuesta por el aprendizaje profundo continuo con tamaños de paso por peso y un enfoque de 'generar y probar' para desarrollar nuevas abstracciones con el tiempo. Estima que un sistema verdaderamente inteligente puede funcionar con 2.000 vatios hoy, escalando a 20 vatios en una década.
- #agents
- #research
- #open-source