Looped Transformer:循环及其之外

Description
本次分享回顾循环Transformer的发展脉络,结合Ouro等工业级实践,剖析其训练成本、推理效率、与加层/upcycling的本质区别等核心挑战,探讨如何"做对"Looped LLM,并展望其规模化应用与值得学术界深入的开放问题。