来源节选（非本站原创长文，完整内容请见来源）
商汤开源日日新 SenseNova Loop-9B-Preview。这是商汤面向下一代模型架构的一项前沿探索：它采用创新 Looped Transformer 架构，引入循环计算、扩展模型的有效计算深度，并探索更充分的信息交互机制，提升模型在复杂任务上的处理能力，在仅 9B 的有限参数规模下，媲美 27B 参数大小模型。从参数规模到计算深度随着大模型能力持续演进，模型能力提升不再只有扩大参数规模一条路径。
如何在控制参数规模的同时，通过增加有效计算深度进一步释放模型潜力，正成为值得探索的方向。近期，循环计算正成为大模型架构研究的重点方向，国内外研究社区围绕 Looped Transformer 展开了攻关探索。但目前的探索多停留在学术研究层面，社区尚缺乏可直接面向日常使用的 Looped Transformer 模型。此次开源的 SenseNova Loop-9B-Preview，为社区提供了一个 9B 级 Looped Transformer 的开源实践，既填补了这一空白，体现了商汤对下一代大模型架构的持续探索与思考。
不过，如何让多轮计算真正转化为模型能力的提升，尤其是在信息传递、特征交互和训练稳定性等方面，仍有进一步探索的空间。现有相关工作仍以研究验证为主，如何在更大模型规模下兼顾计算深度、模型能力与实际应用需求，也有待持续推进。循环结构与信息交互机制SenseNov…
来源：雷峰网