Youtu-VL-4B

LLM腾讯混元

模型简介

腾讯优图的 4B 视觉语言模型,端侧做图像问答与 OCR。

参数量
5.3B
上下文
128K
所属
Hunyuan
类型
纯文本 / 可识别图像
商用
可商用
许可
MIT
发布
2026-01-23
收录
2026-10-03

可用的部署方式

llama.cppggml-org(Georgi Gerganov 等)

纯 C/C++ 的推理实现,把大模型塞进 CPU、Mac 统一内存和各种边缘设备,GGUF 量化格式的事实标准。

推理框架 / 服务引擎GGUFCPU / Metal / CUDA / Vulkan1.5~8bit 量化无 Python 依赖
GitHub ↗
OllamaOllama

把"下载模型 + 量化 + 起服务"压成一条命令的工具,底层基于 llama.cpp,适合快速验证和个人本地使用。

一体化本地运行工具一行命令拉模型Modelfile 自定义OpenAI 兼容 APIGGUF跨平台
GitHub ↗