大模型训练与算法优化工程师

1-1.5万元/月

合肥·包河区

闫女士

已实名

企业认证

蓬勃科技（大连）有限公司

今日回复10次+

职位详情

算法工程师

岗位简介作为 AI 大模型平台的核心算法研发力量，负责大模型预训练、微调及优化的核心模块设计与落地，主导技术方案选型与执行，协同团队攻克大规模分布式训练、模型效果优化、推理效率提升等核心技术难点，支撑模型能力迭代与商业化落地。【岗位职责】 1. 核心算法研发负责大模型预训练/微调的核心算法设计与实现，涵盖数据构建、训练策略、损失函数优化等关键环节参与大模型全流程开发，包括但不限于 SFT、RLHF/DPO、多模态对齐、长上下文优化等场景完成模型效果调优，包括指令遵循能力、推理能力、代码能力、多语言支持等专项优化 2. 技术攻坚针对大规模分布式训练效率、显存优化、训练稳定性等技术痛点，制定并执行高效解决方案负责模型压缩与加速，包括量化、蒸馏、剪枝、稀疏化等技术的落地与效果验证优化训练数据质量与配比策略，建立完善的 data-centric 优化方法论 3. 团队协同配合 Tech Lead 参与模型技术架构设计，指导初级工程师开展算法研发工作参与代码评审与实验设计 review，把控研发质量与迭代进度 4. 迭代优化紧跟大模型前沿技术（MoE 架构、混合注意力、高效微调等），结合业务场景推动模型架构升级持续跟踪开源模型与评测榜单，建立内部基准测试体系与技术预研机制 5. 跨域协作与产品、工程、运维团队紧密配合，将算法能力转化为可落地的产品功保障模型训练周期与交付质量，建立完善的实验追踪与效果评估体系【任职要求】 1. 经验要求 3年及以上算法研发经验，其中 2 年及以上大模型训练/优化经验有完整的大模型训练经历者优先（从 0 到 1 训练过 7B+ 参数模型） 2. 技术能力编程语言：精通 Python，熟练掌握 PyTorch 深度学习框架训练框架：深入理解主流分布式训练框架（DeepSpeed、Megatron-LM、FSDP 等），具备实际调优经验模型架构：熟悉 Transformer 及其变体（Llama、Qwen、Mixtral MoE 等），理解架构细节与优化点微调技术：熟练掌握 SFT、LoRA、QLoRA、DPO、PPO 等微调与对齐技术数据处理：熟悉大模型数据构建流程，包括数据清洗、去重、质量过滤、配比策略等性能优化：具备训练加速经验，包括 Gradient Checkpointing、Activation Recomputation、3D 并行等工程能力：熟悉 Linux 开发环境，掌握 Git、Docker 等工具，具备良好的代码规范 3. 专项技能熟悉大模型训练的核心技术：Mixed Precision、Gradient Accumulation、ZeRO 优化器等掌握模型效果评估方法，熟悉主流评测集（MMLU、GSM8K、HumanEval 等）了解推理引擎特性（vLLM、TensorRT-LLM），能在训练阶段考虑推理优化具备实验设计与分析能力，熟练使用 WandB、MLflow 等实验追踪工具 4. 软性素质具备较强的问题分析与解决能力，能从论文到代码快速落地良好的沟通协作意识，能够在快速迭代环境中高效推进工作对 AI 技术有强烈热情，持续关注 arXiv 前沿论文与开源社区【加分项】有开源模型/框架贡献经验（Llama-Factory、Axolotl、Megatron 等）有大规模训练集群（100+ GPU）实操经验，处理过 NCCL 通信、节点故障等问题在顶级会议发表过大模型相关论文（NeurIPS、ICLR、ACL 等）有垂直领域模型优化经验（代码模型、测试、工作流等）有模型效果提升成功案例（在公开榜单取得 SOTA 或内部评测显著提升）熟悉多模态模型训练（CLIP、LLaVA 等）有 Agent/工具调用/函数调用能力的训练经验

2026-05-25 10:04

IP属地：安徽合肥

职位福利

本科3-5年大模型算法PyTorchPython