Youtu-VL-4BLLM腾讯混元2026-01-23模型简介腾讯优图的 4B 视觉语言模型,端侧做图像问答与 OCR。HuggingFace ↗参数量5.3B上下文128K所属Hunyuan类型纯文本 / 可识别图像商用可商用许可MIT发布2026-01-23收录2026-10-03可用的部署方式llama.cppggml-org(Georgi Gerganov 等)2023/03/10纯 C/C++ 的推理实现,把大模型塞进 CPU、Mac 统一内存和各种边缘设备,GGUF 量化格式的事实标准。推理框架 / 服务引擎GGUFCPU / Metal / CUDA / Vulkan1.5~8bit 量化无 Python 依赖GitHub ↗OllamaOllama2023/07/24把"下载模型 + 量化 + 起服务"压成一条命令的工具,底层基于 llama.cpp,适合快速验证和个人本地使用。一体化本地运行工具一行命令拉模型Modelfile 自定义OpenAI 兼容 APIGGUF跨平台GitHub ↗
llama.cppggml-org(Georgi Gerganov 等)2023/03/10纯 C/C++ 的推理实现,把大模型塞进 CPU、Mac 统一内存和各种边缘设备,GGUF 量化格式的事实标准。推理框架 / 服务引擎GGUFCPU / Metal / CUDA / Vulkan1.5~8bit 量化无 Python 依赖GitHub ↗
OllamaOllama2023/07/24把"下载模型 + 量化 + 起服务"压成一条命令的工具,底层基于 llama.cpp,适合快速验证和个人本地使用。一体化本地运行工具一行命令拉模型Modelfile 自定义OpenAI 兼容 APIGGUF跨平台GitHub ↗