成都·武侯区
职位详情
岗位综述
我们正在寻找一位深耕大模型基础设施领域的后端专家，负责基于开源项目 New-API 的深度二次开发与架构演进。你将直接参与构建高性能、高可用的 AI 模型分发中枢，支撑多场景、大流量的模型调用需求。
岗位职责
1. 核心架构维护： 负责 New-API 系统的功能迭代、性能优化及稳定性保障，确保在高并发请求下系统极低延迟。
2. 多模型适配： 深度集成国内外主流大模型（如 OpenAI, Claude, Gemini, DeepSeek, 豆包, 通义千问等），处理非标协议与 OpenAI 标准协议的完美转换。
3. 计费与分发逻辑： 开发灵活的计费引擎（按 Token、按权重、按分组），设计多级代理、分销及复杂的配额管理系统。
4. 性能调优： 针对流式传输（SSE）进行深度优化，解决长连接场景下的资源占用及 TTFT（首字延迟）问题。
5. 安全与风控： 构建完善的 API Key 安全管理机制，实现多维度的 Rate Limiting（限流）与防刷策略。
6. 全栈协同： 配合业务需求，对 React 管理后台进行功能扩展及可视化报表的开发。
任职要求
- 技术功底：
- 精通 Go 语言，拥有 3 年以上生产环境开发经验，熟悉 Gin、GORM 等核心框架。
- 精通 Goroutine 调度机制，在高并发、锁竞争处理及内存管理方面有实战经验。
- 大模型生态：
- 深入理解 OpenAI API 协议规范，对 Stream 流式返回、SSE 协议有透彻理解。
- 有实际的 New-API 或 One-API 源码修改经验者（如增加自定义渠道、修改 Token 计算逻辑等）优先录用。
- 中间件与工程化：
- 精通 Redis 的各种数据结构，能够利用其实现复杂的频率控制和缓存加速。
- 熟练掌握 MySQL 索引优化、事务处理及高负载下的数据库分表策略。
- 熟练使用 Docker、Docker Compose 或 K8s 进行容器化部署。
- 前端理解： 熟悉 React 及 Node.js 生态，能够独立完成前端管理界面的逻辑交互开发。
- 软实力： 具备极强的源码阅读能力，能够快速跟进上游开源项目的重大更新并进行代码合并与冲突处理。
加分项
- 拥有大规模 API 网关或高流量中转站（流量级在千万次/日以上）维护经验。
- 对大模型 Tokenizer（如 tiktoken, cl100k_base）有底层实现原理的研究。
- 在 GitHub 上有高质量开源项目，或为 One-API/New-API 提交过 PR。
- 熟悉微服务架构，对分布式链路追踪及监控（如 Prometheus, Grafana）有实战经验。
我们提供
- 直接参与最前沿 AI 基础设施开发的机会。
- 扁平的技术氛围，鼓励技术方案重构与创新。
我们正在寻找一位深耕大模型基础设施领域的后端专家，负责基于开源项目 New-API 的深度二次开发与架构演进。你将直接参与构建高性能、高可用的 AI 模型分发中枢，支撑多场景、大流量的模型调用需求。
岗位职责
1. 核心架构维护： 负责 New-API 系统的功能迭代、性能优化及稳定性保障，确保在高并发请求下系统极低延迟。
2. 多模型适配： 深度集成国内外主流大模型（如 OpenAI, Claude, Gemini, DeepSeek, 豆包, 通义千问等），处理非标协议与 OpenAI 标准协议的完美转换。
3. 计费与分发逻辑： 开发灵活的计费引擎（按 Token、按权重、按分组），设计多级代理、分销及复杂的配额管理系统。
4. 性能调优： 针对流式传输（SSE）进行深度优化，解决长连接场景下的资源占用及 TTFT（首字延迟）问题。
5. 安全与风控： 构建完善的 API Key 安全管理机制，实现多维度的 Rate Limiting（限流）与防刷策略。
6. 全栈协同： 配合业务需求，对 React 管理后台进行功能扩展及可视化报表的开发。
任职要求
- 技术功底：
- 精通 Go 语言，拥有 3 年以上生产环境开发经验，熟悉 Gin、GORM 等核心框架。
- 精通 Goroutine 调度机制，在高并发、锁竞争处理及内存管理方面有实战经验。
- 大模型生态：
- 深入理解 OpenAI API 协议规范，对 Stream 流式返回、SSE 协议有透彻理解。
- 有实际的 New-API 或 One-API 源码修改经验者（如增加自定义渠道、修改 Token 计算逻辑等）优先录用。
- 中间件与工程化：
- 精通 Redis 的各种数据结构，能够利用其实现复杂的频率控制和缓存加速。
- 熟练掌握 MySQL 索引优化、事务处理及高负载下的数据库分表策略。
- 熟练使用 Docker、Docker Compose 或 K8s 进行容器化部署。
- 前端理解： 熟悉 React 及 Node.js 生态，能够独立完成前端管理界面的逻辑交互开发。
- 软实力： 具备极强的源码阅读能力，能够快速跟进上游开源项目的重大更新并进行代码合并与冲突处理。
加分项
- 拥有大规模 API 网关或高流量中转站（流量级在千万次/日以上）维护经验。
- 对大模型 Tokenizer（如 tiktoken, cl100k_base）有底层实现原理的研究。
- 在 GitHub 上有高质量开源项目，或为 One-API/New-API 提交过 PR。
- 熟悉微服务架构，对分布式链路追踪及监控（如 Prometheus, Grafana）有实战经验。
我们提供
- 直接参与最前沿 AI 基础设施开发的机会。
- 扁平的技术氛围，鼓励技术方案重构与创新。
2026-06-24 13:26
IP属地：四川成都
职位福利
学历不限3-5年Golang计算机相关专业
火豹（四川）科技有限公司
工作地址
鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为，请立即向鱼泡直聘投诉举报投诉举报 >
附近适合您的职位
golang工程师
1-1.5万元/月
Golang3-5年本科GinDockerMySQLMongoDB计算机相关专业Golang服务端开发经验中大型项目开发经验系统架构设计经验
成都 武侯区
收藏职位
