Granite 4.0 H Small

LLMIBM2025-10-02

模型简介

IBM 的企业向混合 Mamba 架构，32B 只激活 9B，显存和推理成本都压得很低。

vLLMvLLM 社区（原 UC Berkeley）2023/06/20

生产环境部署 LLM 的默认答案：PagedAttention 把 KV cache 碎片化问题解决掉，吞吐比朴素实现高一个量级。

推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态

llama.cppggml-org（Georgi Gerganov 等）2023/03/10

纯 C/C++ 的推理实现，把大模型塞进 CPU、Mac 统一内存和各种边缘设备，GGUF 量化格式的事实标准。

推理框架 / 服务引擎GGUFCPU / Metal / CUDA / Vulkan1.5~8bit 量化无 Python 依赖

OllamaOllama2023/07/24

把"下载模型 + 量化 + 起服务"压成一条命令的工具，底层基于 llama.cpp，适合快速验证和个人本地使用。

一体化本地运行工具一行命令拉模型Modelfile 自定义OpenAI 兼容 APIGGUF跨平台