深圳·南山区
职位详情
职位描述
1. 深入理解主流AI芯片与服务器架构，分析其硬件加速能力及内部拓扑结构，输出可落地的硬件优化实践方案与调优指导，充分释放硬件性能潜力。
2. 结合典型LLM推理框架（如sglang/vLLM）以及大模型的结构特征与计算模式，通过软硬件协同设计与技术突破（涵盖硬件算子优化、显存管理、并行策略等），主导新服务器平台的端到端性能评估与效能提升。
3. 提供面向具体应用场景的定制化优化能力，精准识别大模型在各类业务环境中的性能瓶颈，并快速制定匹配实际需求的优化策略。
4. 熟练运用系统级调优与Profiling工具（如nsys/ncu系列，通用工具如Perf、火焰图等），具备系统性性能分析和瓶颈定位能力，能依据硬件特性实施软件层面的适配与深度优化。
5. 把握大模型技术发展方向，结合硬件Profiling与Trace数据，为未来AI基础设施的服务器架构设计与研发提供有力的数据支撑与量化分析依据。
职位要求
1. 掌握主流AI加速芯片（如NVIDIA、AMD、寒武纪/DCU等）的体系结构、指令集与计算特性，拥有在异构计算环境下进行开发与性能调优的实际经验。
2. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备框架二次开发或深度优化经历（包括KV Cache、编译优化、Speculative执行、量化、DeepEP等相关技术）。
3. 具备优秀的沟通协调能力和项目管理能力，能够与跨职能团队高效协作，推动项目有序开展，保障交付质量与进度。
如下经验优先：
1. 具备性能调优实战经验，特别是在sglang/vLLM在新硬件上的适配与优化经历，有针对Qwen /DeepSeek 类模型进行性能提升者优先
1. 深入理解主流AI芯片与服务器架构，分析其硬件加速能力及内部拓扑结构，输出可落地的硬件优化实践方案与调优指导，充分释放硬件性能潜力。
2. 结合典型LLM推理框架（如sglang/vLLM）以及大模型的结构特征与计算模式，通过软硬件协同设计与技术突破（涵盖硬件算子优化、显存管理、并行策略等），主导新服务器平台的端到端性能评估与效能提升。
3. 提供面向具体应用场景的定制化优化能力，精准识别大模型在各类业务环境中的性能瓶颈，并快速制定匹配实际需求的优化策略。
4. 熟练运用系统级调优与Profiling工具（如nsys/ncu系列，通用工具如Perf、火焰图等），具备系统性性能分析和瓶颈定位能力，能依据硬件特性实施软件层面的适配与深度优化。
5. 把握大模型技术发展方向，结合硬件Profiling与Trace数据，为未来AI基础设施的服务器架构设计与研发提供有力的数据支撑与量化分析依据。
职位要求
1. 掌握主流AI加速芯片（如NVIDIA、AMD、寒武纪/DCU等）的体系结构、指令集与计算特性，拥有在异构计算环境下进行开发与性能调优的实际经验。
2. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备框架二次开发或深度优化经历（包括KV Cache、编译优化、Speculative执行、量化、DeepEP等相关技术）。
3. 具备优秀的沟通协调能力和项目管理能力，能够与跨职能团队高效协作，推动项目有序开展，保障交付质量与进度。
如下经验优先：
1. 具备性能调优实战经验，特别是在sglang/vLLM在新硬件上的适配与优化经历，有针对Qwen /DeepSeek 类模型进行性能提升者优先
2026-06-29 12:49
IP属地：广东深圳
职位福利
硕士3-5年C++C分布式经验PostgreSQLRedis架构设计经验Linux开发/部署经验Python
阿里云计算有限公司
不需要融资 · 10000人以上
工作地址
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
嵌入式Linux应用开发工程师
2.5-5万元/月
C/C++3-5年本科C++嵌入式软件经验Freetos全志/星宸/瑞芯微Linux开发/部署经验PythonLinux应用
深圳 南山区
收藏职位
