职位详情
岗位职责:
1.设计、开发和维护高效稳定的网络爬虫系统,支持多平台、多协议数据采集
2. 对接反爬机制,完成验证码识别、JS渲染、登录态管理等复杂场景处理
3.清洗、解析、结构化海量非标数据,并完成数据质量校验与存储优化
4.配合算法与业务团队,提供高质量数据支撑,参与数据 pipeline 建设
5. 持续监控爬虫运行状态,及时响应异常,保障数据时效性与稳定性
任职要求:
1.熟练掌握 Python,熟悉 requests、Scrapy、Selenium、Playwright等主流爬虫框架与工具
2. 理解HTTP 协议、HTML/CSS/JS基础及常见反爬策略,具备实战破解能力
3.熟悉 MySQL、MongoDB 或 Redis等数据库,具备基本 SQL 与数据建模能力
4.具备 Linux环境下部署与运维经验,了解Docker、Celery等常用技术栈
5.责任心强,逻辑清晰,具备独立分析与解决问题的能力
1.设计、开发和维护高效稳定的网络爬虫系统,支持多平台、多协议数据采集
2. 对接反爬机制,完成验证码识别、JS渲染、登录态管理等复杂场景处理
3.清洗、解析、结构化海量非标数据,并完成数据质量校验与存储优化
4.配合算法与业务团队,提供高质量数据支撑,参与数据 pipeline 建设
5. 持续监控爬虫运行状态,及时响应异常,保障数据时效性与稳定性
任职要求:
1.熟练掌握 Python,熟悉 requests、Scrapy、Selenium、Playwright等主流爬虫框架与工具
2. 理解HTTP 协议、HTML/CSS/JS基础及常见反爬策略,具备实战破解能力
3.熟悉 MySQL、MongoDB 或 Redis等数据库,具备基本 SQL 与数据建模能力
4.具备 Linux环境下部署与运维经验,了解Docker、Celery等常用技术栈
5.责任心强,逻辑清晰,具备独立分析与解决问题的能力
2026-04-12 22:18
IP属地:上海
职位福利
学历不限经验不限

上海远桢人力资源有限公司

工作地址

鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >







