DeepSeek-Prover-V2

LLMDeepSeek 深度求索

模型简介

把 685B 基座专门压到 Lean 4 形式化证明上的数学证明模型,定理证明通过率刷新开源记录。

参数量
685B (激活 37B)
上下文
128K
硬件
全量需 8 卡 H200;4bit 量化约 350G 显存
所属
DeepSeek
类型
纯文本
商用
可商用
许可
MIT
发布
2025-04-30
收录
2026-10-03

可用的部署方式

vLLMvLLM 社区(原 UC Berkeley)

生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。

推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态
GitHub ↗
SGLangSGLang 社区(LMSYS / 上海交大等)

用 RadixAttention 做前缀缓存复用的推理引擎,多轮对话和批量同前缀请求的吞吐明显优于通用方案。

推理框架 / 服务引擎RadixAttention前缀缓存结构化输出多卡并行OpenAI 兼容 API
GitHub ↗