通义实验室-模型推理服务技术专家-北/杭

2.5-5万元/月

朝阳区

方先生

已实名

企业认证

阿里云计算有限公司

职位详情

Java

通义实验室工程团队专注于构建面向公众与企业的大规模、高性能在线 AI 服务平台，支撑通义千问、通义万相及多种开源先进模型的在线服务，推动 AI Agents、多模态应用、MCP 等前沿技术的产品化落地。
团队持续突破异构 GPU 资源调度、多模型多地域部署、多模态任务统一推理、多样化服务等级保障（SLO）以及模型推理全链路工程化的关键技术难题，不断提升资源利用效率与系统性能、稳定性。

职位描述

1、设计并实现高性能AI原生网关。打造低延迟、高并发的API网关体系，支持多模态与多协议接入，为国内及海外用户提供灵活、安全、可扩展的流量接入方案，提供全面的数据面管控与可观测性能力；

2、构建智能推理调度与资源管理机制。设计并落地适用于复杂分布式推理场景的请求与资源调度系统，结合动态负载特征与异构硬件环境，持续优化请求分发策略；推进Serverless化资源调度架构建设，实现资源弹性伸缩与利用率最大化；

3、建设先进的MLOps平台能力。深度优化模型服务的CI/CD流程，推动算法研发到生产部署的自动化与标准化；实现模型版本控制、灰度上线、监控告警、性能分析等全生命周期管理功能，提升迭代速度与系统可靠性。

职位要求

1、计算机/人工智能等相关专业硕士及以上学历，熟练掌握 C++/Python/Java 中至少一门编程语言，具备良好的抽象思维能力；

2、熟悉Linux/Posix操作系统下的核心概念与原理，掌握多线程、异步编程设计方法，具备高效的开发与调试能力；

3、了解微服务架构与分布式系统设计，有网关系统、调度系统、k8s或云原生平台开发经验者优先；

4、具备较强的系统抽象能力、工程判断力和跨团队协作意识，致力于打造极致性能与高稳定性的系统。

加分项

1、了解主流开源推理引擎的架构与实现，长期关注推理引擎相关开源项目发展；

2、在高性能计算领域有论文发表或相关实践经验

2026-05-24 13:15

IP属地：北京

职位福利

硕士1-3年JavaC++Python