如何用 llama.cpp 逐步运行和评测 NVIDIA Dory 4B

该教程演示如何构建 NVIDIA 固定的 llama.cpp 分支、下载并校验 3.7 GB 的 Dory 1.0 4B GGUF，再通过 1 至 4 次循环测试推理负载。实验测量了 KV cache、decode 速度与 next-token 分布，并用 30 道配对 GSM8K 题目比较正确率、生成 token 数和耗时；实践上应显式设置循环次数并固定分支提交版本。