广州·海珠区
职位详情
岗位职责：
1、高性能推理引擎研发，打造低延迟的模型推理解决方案。
2、负责千亿参数基座模型的深度调优与架构升级，优化注意力结构与位置编码设计，增强对复杂语义关系的建模能力；
3、构建面向特定领域的自适应训练体系，实现专业知识的高效融合与模型快速迭代；
4、研发动态计算路径机制，针对高并发请求与深度分析场景进行资源精准调度；
5、攻坚大模型分布式训练技术，基于Megatron-LM、DeepSpeed等框架搭建集群架构，突破显存与通信瓶颈；
6、设计混合精度计算模块（FP8/FP16），有效应对梯度异常问题；
7、搭建自动化监控平台，实时追踪万亿Token级训练任务运行状态；
8、为NVIDIA H20/Ascend 910B芯片定制CUDA/Triton算子，加速计算密集型操作；
9、研究MoE动态路由策略在复杂任务中的负载均衡优化方法。
任职要求：
1、计算机科学、人工智能或应用数学等相关专业硕士及以上学位；
2、具备2年以上大模型开发实践经验；
3、熟练掌握矩阵分析、概率图模型及优化理论，深刻理解计算复杂性原理与分布式系统CAP原则；
4、主导完成过200B以上参数规模模型的大规模集群训练项目；
5、能够设计显存优化方案，重构模型通信逻辑，显著降低通信开销；
6、拥有高性能推理引擎落地经验，成功交付万级QPS高并发服务（P99延迟低于200ms）；
7、具备模型结构深度改造能力，改进RoPE/ALiBi位置编码以支持超长上下文（>128K），设计动态稀疏Attention机制，开发领域适配模块；
8、具有昇腾910B或H20平台算子开发背景，可设计HBM分层KV缓存策略，提升缓存利用率；
9、在NeurIPS/ICLR/ICML/ACL等顶会发表过模型优化相关论文，或持有分布式训练、推理加速方向的有效发明专利者优先。
1、高性能推理引擎研发，打造低延迟的模型推理解决方案。
2、负责千亿参数基座模型的深度调优与架构升级，优化注意力结构与位置编码设计，增强对复杂语义关系的建模能力；
3、构建面向特定领域的自适应训练体系，实现专业知识的高效融合与模型快速迭代；
4、研发动态计算路径机制，针对高并发请求与深度分析场景进行资源精准调度；
5、攻坚大模型分布式训练技术，基于Megatron-LM、DeepSpeed等框架搭建集群架构，突破显存与通信瓶颈；
6、设计混合精度计算模块（FP8/FP16），有效应对梯度异常问题；
7、搭建自动化监控平台，实时追踪万亿Token级训练任务运行状态；
8、为NVIDIA H20/Ascend 910B芯片定制CUDA/Triton算子，加速计算密集型操作；
9、研究MoE动态路由策略在复杂任务中的负载均衡优化方法。
任职要求：
1、计算机科学、人工智能或应用数学等相关专业硕士及以上学位；
2、具备2年以上大模型开发实践经验；
3、熟练掌握矩阵分析、概率图模型及优化理论，深刻理解计算复杂性原理与分布式系统CAP原则；
4、主导完成过200B以上参数规模模型的大规模集群训练项目；
5、能够设计显存优化方案，重构模型通信逻辑，显著降低通信开销；
6、拥有高性能推理引擎落地经验，成功交付万级QPS高并发服务（P99延迟低于200ms）；
7、具备模型结构深度改造能力，改进RoPE/ALiBi位置编码以支持超长上下文（>128K），设计动态稀疏Attention机制，开发领域适配模块；
8、具有昇腾910B或H20平台算子开发背景，可设计HBM分层KV缓存策略，提升缓存利用率；
9、在NeurIPS/ICLR/ICML/ACL等顶会发表过模型优化相关论文，或持有分布式训练、推理加速方向的有效发明专利者优先。
2026-06-05 14:09
IP属地：广东广州
职位福利
本科3-5年机器学习深度学习多模态算法
广州趣元创数字科技有限公司
天使轮 · 0-20人
工作地址
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
算法工程师｜AI模型部署与调优训练
2-4万元/月
算法工程师3-5年本科团队管理经验AI服饰生成 / 数字分身试穿图像算法运筹优化算法分布式训练深度学习大模型算法自然语言处理算法多模态算法算法工程化经验MATLAB优秀开源项目经历发表算法相关优秀论
广州 海珠区
AI开发工程师（自动化开发）
8000-12000元/月
算法工程师1-3年本科推荐算法Python大数据处理框架(Spark/Hadoop/Hive)大模型算法强化学习优秀开源项目经历
广州 海珠区
收藏职位
