大模型推理框架工程师
- NIO
- Shanghai, Shenzhen +1 more, China
- CNY 250,000 – CNY 350,000
校招-大模型推理框架工程师
推荐投递-芯片研发
深圳、合肥、上海校招正式数字技术 - 算法硕士及以上2027届校园招聘-正式批职位 ID：A04471
职位描述
我们做什么 在这里，你将参与自研大模型推理引擎从0到1的建设，亲手优化千亿/万亿级参数的模型推理性能，让每一次回答更快、更准、更省算力。你将接触真实业务场景，挑战AI Infra行业前沿问题。 岗位职责 · 参与大模型推理引擎核心模块的设计与开发，增强功能和提升系统吞吐； · 探索并落地先进的大模型推理加速方案，跟进业界最新技术； ·· 跟踪开源社区（如vLLM、TensorRT-LLM、SGLang等）前沿动态，完成技术调研与验证。
职位要求
· 硕士及以上学历，计算机、AI、数学、信息、电子等相关专业； · 熟悉Python，了解大模型Transformer基本工作原理； · 具备良好的工程习惯（Linux、Git），学习能力强，能阅读英文技术资料。 加分项（非必需） · 有vLLM、SGLang等推理框架使用或二次开发经验； · 有CUDA/Triton算子编写经历； · 有LLM相关论文、开源项目或竞赛经历。 我们提供 · 资深大佬1v1带教，拒绝放养，； · 真实业务场景 + 充足GPU/NPU资源，真实项目经验； · 一群热爱技术的同龄人，一起卷技术。
投递
Skills
- Python
- LLM inference optimization
- Deep Learning Frameworks
- CUDA
- Linux
- Git
- vLLM
