广州·天河区
职位详情
工作职责：
1、负责AI模型服务器的全生命周期运维，涵盖模型上线部署、运行监控、日常维护及性能调优；
2、基于Kubernetes搭建高可用的AI推理服务架构，完成Docker容器化封装与集群资源调度；
3、主导在异构计算环境下的模型部署任务，熟练运用NVIDIAGPU与昇腾芯片实现大模型加速运行；
4、推进AI基础设施建设，包括训练平台部署、分布式存储配置及网络性能优化；
5、开发自动化运维脚本，利用Python实现模型健康检测、资源动态扩缩容及日志解析功能；
6、深入参与模型性能优化工作，借助Profiling工具识别性能瓶颈并优化计算图结构；
7、协同产品与算法团队推进工程化落地，提升大语言模型的交互响应效率；
8、搭建CI/CD发布流水线，实现模型版本管理与持续集成交付。
基础要求
1、计算机科学、人工智能或相关专业本科及以上学历，具备1年以上AI系统运维经验；
2、熟练掌握Python编程语言，具有较强的脚本开发与自动化运维实践能力；
3、理解Kubernetes核心机制，可独立完成集群搭建与常见故障处理；
4、熟悉Docker镜像制作规范，了解容器网络和存储工作原理；
5、具有大模型（如Transformer系列）部署经历，掌握VLLM、SGlang等主流推理框架；
6、精通NVIDIACUDA与昇腾MindSpore运行环境的部署与调优；
7、熟悉Prometheus结合Grafana的监控方案，掌握ELK日志分析体系。
1、负责AI模型服务器的全生命周期运维，涵盖模型上线部署、运行监控、日常维护及性能调优；
2、基于Kubernetes搭建高可用的AI推理服务架构，完成Docker容器化封装与集群资源调度；
3、主导在异构计算环境下的模型部署任务，熟练运用NVIDIAGPU与昇腾芯片实现大模型加速运行；
4、推进AI基础设施建设，包括训练平台部署、分布式存储配置及网络性能优化；
5、开发自动化运维脚本，利用Python实现模型健康检测、资源动态扩缩容及日志解析功能；
6、深入参与模型性能优化工作，借助Profiling工具识别性能瓶颈并优化计算图结构；
7、协同产品与算法团队推进工程化落地，提升大语言模型的交互响应效率；
8、搭建CI/CD发布流水线，实现模型版本管理与持续集成交付。
基础要求
1、计算机科学、人工智能或相关专业本科及以上学历，具备1年以上AI系统运维经验；
2、熟练掌握Python编程语言，具有较强的脚本开发与自动化运维实践能力；
3、理解Kubernetes核心机制，可独立完成集群搭建与常见故障处理；
4、熟悉Docker镜像制作规范，了解容器网络和存储工作原理；
5、具有大模型（如Transformer系列）部署经历，掌握VLLM、SGlang等主流推理框架；
6、精通NVIDIACUDA与昇腾MindSpore运行环境的部署与调优；
7、熟悉Prometheus结合Grafana的监控方案，掌握ELK日志分析体系。
2026-08-18 13:10
IP属地：广东广州
职位福利
本科1-3年
广东盈峰正和数字科技有限公司
不需要融资 · 100-499人
工作地址
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
IT基础设施与资产管理工程师
6000-12000元/月
运维工程师3-5年大专资产管理网络运维系统运维IDC机房运维计算机相关专业通信相关专业运维经验运维开发经验网络安全相关经验
广州 天河区 车陂
收藏职位
