职位详情
负责设计、开发和维护高效、稳定的数据爬虫系统;
根据业务需求,制定数据抓取策略,处理反爬机制、验证码识别、IP代理等问题;
建立数据清洗、结构化处理及存储流程,保证数据质量;
持续优化爬虫性能,提升抓取速度与稳定性;
与数据分析、产品等团队紧密协作,理解数据需求,快速响应数据抓取任务;
关注行业动态,研究新的爬取技术和反爬手段,持续提升系统能力。
任职要求:
熟练掌握至少一种编程语言(Python优先,如:Scrapy、Selenium、Playwright、Requests等常用库);
熟悉常见网站结构、前端技术(HTML、CSS、JavaScript),能够快速分析网页数据;
熟悉常用的反爬技术及应对手段(如IP代理池、UA池、验证码识别、动态渲染处理等);
熟悉异步爬虫、分布式爬虫开发,有Scrapy-Redis / Playwright + 分布式实践经验者优先;
熟悉常用数据库(如MySQL、MongoDB)及缓存系统(如Redis);
有大型数据采集、数据清洗、数据处理项目经验优先;
具备良好的编码习惯和文档意识,责任心强,乐于学习新技术。
加分项:
有 GraphQL 接口抓取、WebSocket 抓取、APP 抓包分析经验;
有云原生(如 Kubernetes、Docker)、大数据(如 Spark、Kafka)相关技术栈经验;
有参与过爬虫平台化、数据中台建设项目经验;
有算法基础,了解简单的图像识别(如验证码OCR识别)优先。
根据业务需求,制定数据抓取策略,处理反爬机制、验证码识别、IP代理等问题;
建立数据清洗、结构化处理及存储流程,保证数据质量;
持续优化爬虫性能,提升抓取速度与稳定性;
与数据分析、产品等团队紧密协作,理解数据需求,快速响应数据抓取任务;
关注行业动态,研究新的爬取技术和反爬手段,持续提升系统能力。
任职要求:
熟练掌握至少一种编程语言(Python优先,如:Scrapy、Selenium、Playwright、Requests等常用库);
熟悉常见网站结构、前端技术(HTML、CSS、JavaScript),能够快速分析网页数据;
熟悉常用的反爬技术及应对手段(如IP代理池、UA池、验证码识别、动态渲染处理等);
熟悉异步爬虫、分布式爬虫开发,有Scrapy-Redis / Playwright + 分布式实践经验者优先;
熟悉常用数据库(如MySQL、MongoDB)及缓存系统(如Redis);
有大型数据采集、数据清洗、数据处理项目经验优先;
具备良好的编码习惯和文档意识,责任心强,乐于学习新技术。
加分项:
有 GraphQL 接口抓取、WebSocket 抓取、APP 抓包分析经验;
有云原生(如 Kubernetes、Docker)、大数据(如 Spark、Kafka)相关技术栈经验;
有参与过爬虫平台化、数据中台建设项目经验;
有算法基础,了解简单的图像识别(如验证码OCR识别)优先。
2026-06-29 14:27
IP属地:四川
职位福利
本科1-3年

北京特拉库塔科技有限公司
A轮 · 0-20人

工作地址

鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >










