徐汇区
职位详情
职位描述
1. 深入理解主流AI芯片与服务器架构，分析硬件加速特性及内部拓扑结构，输出硬件优化实践方案与调优指导，充分释放硬件性能潜力。
2. 结合主流LLM推理框架（如sglang/vLLM）以及大模型结构和计算特征，通过软硬件协同设计与技术创新（涵盖硬件算子优化、显存管理、并行化策略等），完成新服务器平台端到端性能评估与深度优化。
3. 提供面向具体场景的定制化优化能力，精准识别大模型在各类业务应用中的性能瓶颈，并快速制定满足实际需求的高效优化方案。
4. 熟练掌握系统级调优与Profiling工具（如nsys/ncu系列，通用工具Perf、火焰图等），具备系统性能分析与瓶颈定位能力，能够结合硬件特性实现软件层面的适配与优化。
职位要求
1. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备二次开发或深度优化经验（包括KV Cache、编译优化、Speculative推理、量化、DeepEP等相关技术）。
2. 具备良好的沟通协作与项目推动能力，能与跨背景团队高效协同。
以下经验者优先：
1. 拥有性能调优实践经验，特别是sglang/vLLM在新硬件上的适配与优化经历，具备Qwen /DeepSeek 类模型优化经验者优先考虑
1. 深入理解主流AI芯片与服务器架构，分析硬件加速特性及内部拓扑结构，输出硬件优化实践方案与调优指导，充分释放硬件性能潜力。
2. 结合主流LLM推理框架（如sglang/vLLM）以及大模型结构和计算特征，通过软硬件协同设计与技术创新（涵盖硬件算子优化、显存管理、并行化策略等），完成新服务器平台端到端性能评估与深度优化。
3. 提供面向具体场景的定制化优化能力，精准识别大模型在各类业务应用中的性能瓶颈，并快速制定满足实际需求的高效优化方案。
4. 熟练掌握系统级调优与Profiling工具（如nsys/ncu系列，通用工具Perf、火焰图等），具备系统性能分析与瓶颈定位能力，能够结合硬件特性实现软件层面的适配与优化。
职位要求
1. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备二次开发或深度优化经验（包括KV Cache、编译优化、Speculative推理、量化、DeepEP等相关技术）。
2. 具备良好的沟通协作与项目推动能力，能与跨背景团队高效协同。
以下经验者优先：
1. 拥有性能调优实践经验，特别是sglang/vLLM在新硬件上的适配与优化经历，具备Qwen /DeepSeek 类模型优化经验者优先考虑
2026-07-03 12:15
IP属地：上海
职位福利
硕士3-5年编译器开发经验C++分布式经验OpenGLRedis算子优化cuda 编程Linux开发/部署经验Python
阿里云计算有限公司
不需要融资 · 10000人以上
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
收藏职位
