如何在 llama.cpp 上运行 NVIDIA Dory 4B 的逐循环指南

教程逐步演示如何用 llama.cpp 运行 NVIDIA Nemotron Labs 的 Dory 1.0 4B 小型推理模型，其共享循环块可对每个 token 应用 1 至 4 次，一份 checkpoint 无需重新训练即可切换四种计算预算。