NVIDIA-Nemotron-Nano-9B-v2

LLMNVIDIA2025-08-18

模型简介

Mamba-Transformer 混合的 9B 模型，长上下文推理吞吐高，NVIDIA 连训练数据一起放了出来。

vLLMvLLM 社区（原 UC Berkeley）2023/06/20

生产环境部署 LLM 的默认答案：PagedAttention 把 KV cache 碎片化问题解决掉，吞吐比朴素实现高一个量级。

推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态

SGLangSGLang 社区（LMSYS / 上海交大等）2024/01/08

用 RadixAttention 做前缀缓存复用的推理引擎，多轮对话和批量同前缀请求的吞吐明显优于通用方案。

推理框架 / 服务引擎RadixAttention前缀缓存结构化输出多卡并行OpenAI 兼容 API

llama.cppggml-org（Georgi Gerganov 等）2023/03/10

纯 C/C++ 的推理实现，把大模型塞进 CPU、Mac 统一内存和各种边缘设备，GGUF 量化格式的事实标准。

推理框架 / 服务引擎GGUFCPU / Metal / CUDA / Vulkan1.5~8bit 量化无 Python 依赖