职位详情
岗位名称:Python外卖爬虫
负责外卖平台数据采集与分析,突破反爬机制获取结构化数据(商家/商品/评价/销量等),支撑业务决策(如竞品分析、市场洞察),保障数据合法性与采集效率。
岗位职责:
设计多场景爬虫方案(如商家列表、商品详情、用户评价、销量排行等),制定动态反爬应对(IP代理、请求头伪装、验证码破解),保障数据完整性与时效性。
编写高并发、低延迟爬虫脚本,优化请求调度(异步/多线程)、数据解析与存储(MySQL/MongoDB/ES),提升采集效率(如单小时万级数据量)。
分析平台反爬策略(如签名验证、行为指纹、频率限制),研发对抗技术(如模拟真人操作、动态Cookie管理、分布式节点调度),降低封禁风险。
设计去重、清洗、校验规则(如字段完整性、格式标准化),保障数据准确率;监控采集异常(如接口变更、反爬升级),快速定位并修复。
遵守《数据安全法》《个人信息保护法》,规避法律风险;对接业务/算法团队,输出定制化数据(如区域热销商品、商家评分分布),支撑分析需求。
任职要求:
专科及以上,3年+爬虫开发经验,有美团/饿了么/京东等本地生活平台采集经验优先;熟悉JS逆向、移动端(App/小程序)抓包者加分。
精通Python(Scrapy/Requests/Selenium),掌握HTTP/HTTPS协议、正则表达式、XPath/BeautifulSoup解析;熟悉反爬对抗技术(代理池、验证码识别(OCR/打码平台)、浏览器指纹模拟);了解分布式爬虫(Redis队列、K8s调度)。
熟悉外卖数据结构(商家ID/名称/评分、商品分类/价格/销量、评价标签/内容),理解业务需求(如竞品监控需采集“满减活动”“配送范围”)。
强问题解决能力(快速定位反爬升级原因),逻辑清晰,注重合规,能承受高频维护压力(平台反爬策略迭代快)。
负责外卖平台数据采集与分析,突破反爬机制获取结构化数据(商家/商品/评价/销量等),支撑业务决策(如竞品分析、市场洞察),保障数据合法性与采集效率。
岗位职责:
设计多场景爬虫方案(如商家列表、商品详情、用户评价、销量排行等),制定动态反爬应对(IP代理、请求头伪装、验证码破解),保障数据完整性与时效性。
编写高并发、低延迟爬虫脚本,优化请求调度(异步/多线程)、数据解析与存储(MySQL/MongoDB/ES),提升采集效率(如单小时万级数据量)。
分析平台反爬策略(如签名验证、行为指纹、频率限制),研发对抗技术(如模拟真人操作、动态Cookie管理、分布式节点调度),降低封禁风险。
设计去重、清洗、校验规则(如字段完整性、格式标准化),保障数据准确率;监控采集异常(如接口变更、反爬升级),快速定位并修复。
遵守《数据安全法》《个人信息保护法》,规避法律风险;对接业务/算法团队,输出定制化数据(如区域热销商品、商家评分分布),支撑分析需求。
任职要求:
专科及以上,3年+爬虫开发经验,有美团/饿了么/京东等本地生活平台采集经验优先;熟悉JS逆向、移动端(App/小程序)抓包者加分。
精通Python(Scrapy/Requests/Selenium),掌握HTTP/HTTPS协议、正则表达式、XPath/BeautifulSoup解析;熟悉反爬对抗技术(代理池、验证码识别(OCR/打码平台)、浏览器指纹模拟);了解分布式爬虫(Redis队列、K8s调度)。
熟悉外卖数据结构(商家ID/名称/评分、商品分类/价格/销量、评价标签/内容),理解业务需求(如竞品监控需采集“满减活动”“配送范围”)。
强问题解决能力(快速定位反爬升级原因),逻辑清晰,注重合规,能承受高频维护压力(平台反爬策略迭代快)。
2026-05-28 14:51
IP属地:四川成都
职位福利
本科3-5年

成都钐擎科技有限公司
天使轮 · 0-20人


鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >









