
个人 Maker
Roger Wang
把 vLLM 从开源推理引擎扩展到全模态生产基础设施,让前沿模型真正跑得更快、更便宜的 Maker
持续在做什么
Roger Wang 是 Inferact 联合创始人、vLLM 核心维护者和 vLLM-Omni 主要维护者,长期专注机器学习系统与高性能推理基础设施。他重视能被真实用户采用的可靠工具,参与把 vLLM 建设成覆盖多种模型架构和硬件平台的开源推理引擎,并推动 vLLM-Omni 以分阶段、解耦执行的方式支持文本、图像、视频与音频的全模态模型。通过 Inferact,他正在把开源社区的性能优化继续回馈给 vLLM 生态。
值得先看
0 条内容还没有整理值得先看的内容。
