职位详情
1. 基于New API开源项目开展二次开发,拓展模型分发、渠道配置、Token计费、密钥分组等核心功能模块。
2. 承担运营平台后端系统开发,支撑用户管理、套餐策略、计费逻辑、用量统计、对账结算及返佣机制等运营需求。
3. 集成主流大模型服务商(如OpenAl、Anthropic、通义、文心、DeepSeek等),实现统一接入与流式响应的透明转发。
4. 设计并落地多租户环境下的配额控制、限速策略、风险管控及操作审计模块。
5. 使用Python开发运营相关数据处理脚本与离线任务,包括用量汇总、成本计算、报表输出等功能。
6. 推进系统可观测性建设,覆盖请求总量、首包延迟、模型调用成功率、单租户资源消耗等关键监控指标。
7. 参与日常问题定位、故障处理及系统性能优化工作。
基础要求:
具备3-5年开发经验,熟练掌握Golang语言,理解并发编程、内存管理与接口设计规范,代码书写整洁清晰。
具备Python开发能力,熟悉常用数据处理库及脚本开发生态。
了解New API/OneAPI项目架构及其核心组件(如渠道管理、令牌机制、用户计费、日志记录),有实际部署或二次开发经历。
熟悉HTTP/SSE流式通信协议,理解LLM推理请求特性(如长连接、首包响应延迟、Token流式输出)。
掌握关系型数据库建模与调优方法,能针对计费、用量、审计等高频写入场景合理设计表结构与索引策略。
具备独立完成需求分析与系统设计的能力,可输出明确技术方案并推动实施落地。
加分项:
参与过New API/OneAPI/FastGPT/Dify等开源项目的代码贡献或深度定制改造。
熟悉多租户计费运营体系(如套餐管理、对账流程、返佣规则)。
掌握Redis/Kafka等中间件技术,具备高并发环境下计费扣费场景实践经验。
具备Prometheus/Grafana等监控工具链的实际落地经验。
2. 承担运营平台后端系统开发,支撑用户管理、套餐策略、计费逻辑、用量统计、对账结算及返佣机制等运营需求。
3. 集成主流大模型服务商(如OpenAl、Anthropic、通义、文心、DeepSeek等),实现统一接入与流式响应的透明转发。
4. 设计并落地多租户环境下的配额控制、限速策略、风险管控及操作审计模块。
5. 使用Python开发运营相关数据处理脚本与离线任务,包括用量汇总、成本计算、报表输出等功能。
6. 推进系统可观测性建设,覆盖请求总量、首包延迟、模型调用成功率、单租户资源消耗等关键监控指标。
7. 参与日常问题定位、故障处理及系统性能优化工作。
基础要求:
具备3-5年开发经验,熟练掌握Golang语言,理解并发编程、内存管理与接口设计规范,代码书写整洁清晰。
具备Python开发能力,熟悉常用数据处理库及脚本开发生态。
了解New API/OneAPI项目架构及其核心组件(如渠道管理、令牌机制、用户计费、日志记录),有实际部署或二次开发经历。
熟悉HTTP/SSE流式通信协议,理解LLM推理请求特性(如长连接、首包响应延迟、Token流式输出)。
掌握关系型数据库建模与调优方法,能针对计费、用量、审计等高频写入场景合理设计表结构与索引策略。
具备独立完成需求分析与系统设计的能力,可输出明确技术方案并推动实施落地。
加分项:
参与过New API/OneAPI/FastGPT/Dify等开源项目的代码贡献或深度定制改造。
熟悉多租户计费运营体系(如套餐管理、对账流程、返佣规则)。
掌握Redis/Kafka等中间件技术,具备高并发环境下计费扣费场景实践经验。
具备Prometheus/Grafana等监控工具链的实际落地经验。
2026-09-08 12:53
IP属地:河北保定
职位福利
大专3-5年AI项目NEW API

软通动力信息技术(集团)股份有限公司
已上市 · 10000人以上

工作地址

鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >

附近适合您的职位
廊坊大城县招工地小工/杂工
100-200元/天
小工1-2人
廊坊 大城县2026年09月13日 21:02

先生
刚刚活跃廊坊三河市替半天班
7000-8000元/月
塔吊司机1-2人
廊坊 三河市 燕郊2026年09月13日 21:01

高先生
刚刚活跃综合承包光伏安装架子工建筑木工20人以上
衡水 桃城区2026年09月13日 21:00

刘先生
刚刚活跃邯郸丛台区招工地小工/杂工
小工
邯郸 丛台区2026年09月13日 21:00

赵先生
刚刚活跃沧州青县招二保焊/气焊
8000-10000元/月
气保焊二保焊长期1-2人日结点工吃苦耐劳
沧州 青县2026年09月13日 20:59

孙先生
5日内活跃张家口张北县招工地小工/杂工
100-200元/天
小工1-2人
张家口 张北县2026年09月13日 20:59

先生
刚刚活跃




