LLaDA2.0-mini

LLM蚂蚁集团 inclusionAI

模型简介

扩散式语言模型 LLaDA 2.0 的迷你版,16B 激活 1B,非自回归生成路线。

参数量
16.3B
上下文
32K
所属
Ling
类型
纯文本
商用
可商用
许可
Apache-2.0
发布
2025-11-25
收录
2026-10-03

可用的部署方式

vLLMvLLM 社区(原 UC Berkeley)

生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。

推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态
GitHub ↗