MedGemma 27BLLMGoogle2025-07-09模型简介基于 Gemma 3 的医疗专用模型,医学问答与影像报告理解专门调过。HuggingFace ↗参数量28.8B上下文128K所属Google类型纯文本 / 可识别图像商用有条件可商用许可Health AI Developer Foundations 条款发布2025-07-09收录2026-10-03可用的部署方式vLLMvLLM 社区(原 UC Berkeley)2023/06/20生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态GitHub ↗
vLLMvLLM 社区(原 UC Berkeley)2023/06/20生产环境部署 LLM 的默认答案:PagedAttention 把 KV cache 碎片化问题解决掉,吞吐比朴素实现高一个量级。推理框架 / 服务引擎PagedAttention张量并行FP8/AWQ/GPTQOpenAI 兼容 API多模态GitHub ↗