杭州·西湖区
职位详情
职位描述
1. 深入理解主流AI芯片与服务器架构，分析其硬件加速能力及内部拓扑结构，输出可落地的硬件优化方案与调优指导，最大化释放硬件性能潜力。
2. 结合主流LLM推理框架（如sglang/vLLM）以及大模型的结构与计算特征，通过软硬件协同设计与技术突破（涵盖硬件算子优化、显存管理、并行策略等），主导新服务器平台端到端性能的评估与提升。
3. 提供面向具体场景的定制化优化能力，精准识别大模型在多样化业务应用中的性能瓶颈，并快速制定匹配实际需求的优化策略。
4. 熟练运用系统级调优与Profiling工具（如nsys/ncu系列，通用工具Perf、火焰图等），具备系统层面性能分析与瓶颈定位能力，能结合硬件特性完成软件适配与深度优化。
5. 把握大模型技术发展脉络，结合硬件Profiling与Trace数据，为未来AI基础设施的服务器架构设计与研发提供有力的数据支撑与分析依据。
职位要求
1. 掌握主流AI加速芯片（如NVIDIA、AMD、寒武纪/DCU等）的体系结构、指令集与计算特性，拥有在异构计算环境下开发与性能调优的实际经验。
2. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备框架二次开发或深度优化经历（包括KV Cache、编译优化、Speculative、量化、DeepEP等关键技术）。
3. 具备出色的沟通协作与项目推动能力，能够与跨专业团队高效协同，合理规划项目节奏，保障任务高质量按时交付。
以下经验者优先：
1. 拥有sglang/vLLM在新硬件平台上的适配与优化经验，特别是针对Qwen /DeepSeek 类模型进行性能调优的实践经历
1. 深入理解主流AI芯片与服务器架构，分析其硬件加速能力及内部拓扑结构，输出可落地的硬件优化方案与调优指导，最大化释放硬件性能潜力。
2. 结合主流LLM推理框架（如sglang/vLLM）以及大模型的结构与计算特征，通过软硬件协同设计与技术突破（涵盖硬件算子优化、显存管理、并行策略等），主导新服务器平台端到端性能的评估与提升。
3. 提供面向具体场景的定制化优化能力，精准识别大模型在多样化业务应用中的性能瓶颈，并快速制定匹配实际需求的优化策略。
4. 熟练运用系统级调优与Profiling工具（如nsys/ncu系列，通用工具Perf、火焰图等），具备系统层面性能分析与瓶颈定位能力，能结合硬件特性完成软件适配与深度优化。
5. 把握大模型技术发展脉络，结合硬件Profiling与Trace数据，为未来AI基础设施的服务器架构设计与研发提供有力的数据支撑与分析依据。
职位要求
1. 掌握主流AI加速芯片（如NVIDIA、AMD、寒武纪/DCU等）的体系结构、指令集与计算特性，拥有在异构计算环境下开发与性能调优的实际经验。
2. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备框架二次开发或深度优化经历（包括KV Cache、编译优化、Speculative、量化、DeepEP等关键技术）。
3. 具备出色的沟通协作与项目推动能力，能够与跨专业团队高效协同，合理规划项目节奏，保障任务高质量按时交付。
以下经验者优先：
1. 拥有sglang/vLLM在新硬件平台上的适配与优化经验，特别是针对Qwen /DeepSeek 类模型进行性能调优的实践经历
2026-07-24 14:38
IP属地：浙江杭州
职位福利
硕士3-5年编译器开发经验C++分布式经验CPostgreSQLRedis架构设计经验Linux开发/部署经验Python
阿里云计算有限公司
不需要融资 · 10000人以上
工作地址
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
研发专家-云内可观测平台-杭州/北京
2-4万元/月
C/C++5-10年本科GolangC++ClickHouseELKPrometheusOpenTelemetryPython
杭州 西湖区
收藏职位
