LLaDA2.0-miniLLM蚂蚁集团 inclusionAI2025-11-25模型简介扩散式语言模型 LLaDA 2.0 的迷你版,16B 激活 1B,非自回归生成路线。HuggingFace ↗参数量16.3B上下文32K所属Ling类型纯文本商用可商用许可Apache-2.0发布2025-11-25收录2026-10-03可用的部署方式vLLMvLLM 社区(原 UC Berkeley)2023/06/20生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态GitHub ↗
vLLMvLLM 社区(原 UC Berkeley)2023/06/20生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态GitHub ↗