All jobsIT & SoftwareNetwork and Systems Engineering大模型推理部署工程师
大模型推理部署工程师
大模型推理部署工程师
北京、深圳全职本科及以上
职位描述
- 根据业务需要，评估推理引擎的选型及候选部署参数。
- 前往业务现场配置推理引擎部署环境，并部署、调优、测试推理引擎（能够接受频繁出差）。
- 协助自研推理引擎开发团队对比评估推理引擎功能、性能。
职位要求
- 有相关从业经验。
- 具有良好的学习能力和团队合作精神。
- 熟悉 vLLM、SGLang 等常用推理引擎的运行、调优方式。
- 熟悉 GPU 服务器中与推理性能相关的系统配置。
- 熟悉推理引擎中不同策略的优劣、适应场景。
- 熟悉推理引擎的测试方法。
- 具有国产/进口的多种型号 GPU 上的部署经验者优先。
- 具有大规模集群部署经验者优先。
投递
Related jobs
AI Infra 工程师（模型训练与推理加速方向）- XPENG
- Shanghai, Beijing +1 more, China
- CNY 300,000 – CNY 500,000
推理框架优化工程师- NIO
- Shanghai, Shenzhen +2 more, China
- CNY 300,000 – CNY 600,000
高级大模型推理框架工程师- NIO
- Shanghai, Shenzhen +2 more, China
- CNY 500,000 – CNY 800,000
AI Infra Engineer (Agentic Runtime)- XPENG
- Shanghai, Beijing +1 more, China
- CNY 400,000 – CNY 800,000
大模型工程师-RL框架&算法- MiniMax
- Shanghai, Beijing, China
- CNY 240,000 – CNY 360,000
AI Infra工程师（具身智能方向）- XPENG
- Shanghai, Beijing +1 more, China
- CNY 280,000 – CNY 450,000
实习-语音大模型算法工程师（语音理解）- NIO
- Shanghai, Beijing, China
- CNY 240,000 – CNY 360,000
大模型推理框架工程师- NIO
- Shanghai, Shenzhen +1 more, China
- CNY 250,000 – CNY 350,000
AI Infra 工程师（大模型推理/RL方向）- NIO
- Shanghai, Shenzhen +2 more, China
- CNY 300,000 – CNY 400,000
AI Infra研发工程师（推理系统）- NIO
- Shanghai, Shenzhen +2 more, China
- CNY 400,000 – CNY 600,000
