职位详情
岗位职责
1. 负责抖音、小红书等社交类APP及WEB端平台的数据采集工作,完成数据清洗、结构化转换与存储,并持续进行爬虫系统的运营与维护。
2. 深入分析主流平台的反爬机制,综合运用验证码识别、防护逻辑逆向、JS混淆解析等技术手段突破限制,具备处理复杂反爬策略的实际能力。
3. 承担独立及分布式爬虫系统的设计、开发、优化与重构工作,提升系统运行效率与稳定性,确保数据抓取的高效性与准确性。
4. 熟练使用正则表达式、XPath等数据提取方式,对获取信息进行深度清洗与管理,保障数据处理结果的精确与完整。
5. 实现APP逆向采集、浏览器自动化模拟等技术方案,提升数据抓取的自动化水平与执行效率。
6. 编写规范的技术文档,为团队其他开发人员提供技术支持与开发协助。
任职要求
1. 本科及以上学历,计算机科学、软件工程等相关专业优先。
2. 熟练掌握Python语言及爬虫开发全流程,精通JS逆向技术,可独立完成多种类型爬虫任务。
3. 具备抖音、头条、Tiktok、小红书、快手、蝴蝶号等任一平台逆向经验者优先;熟悉相关平台风控体系,长期研究并能有效应对风控问题者优先。
4. 理解JSVMP运行机制,能够通过跟栈、日志输出、插桩等方式分析请求头、Cookies等参数生成逻辑,可通过补环境或算法还原方式解决加密参数问题。
5. 精通md5、sm3、sm4、AES等前端常用加密算法,了解WASM工作机制,能通过调用栈分析加密流程。
6. 熟悉滑块、点选、谷歌验证码等常见验证码类型,具备相应的识别与应对能力。
7. 掌握APP运行机制与逆向分析原理,能使用Jadx-gui等工具进行Java层参数解析,并通过Hook脚本实现代码逻辑追踪。
8. 熟练操作各类抓包与逆向工具,能结合AI技术快速定位并解决爬虫难题,具备自主学习能力,善于新技术的研究与落地应用。
9. 了解quic、ssl等协议层面的抓包与反爬策略,能快速排查并解决网络抓包中的异常问题。
10. 精通Python,同时具备Node.js、Java等至少一种其他编程语言的实际开发经验。
11. 熟练使用Scrapy、BeautifulSoup、Selenium等主流爬虫框架,有丰富的框架定制与维护经验。
12. 熟悉MySQL、MongoDB、Redis等常用数据库的使用与性能优化,具备实际项目应用经验。
13. 掌握大规模数据采集、清洗、去重、分类等核心技术,具备数据质量判断与无效信息过滤能力。
14. 具备良好的沟通协调能力和团队合作意识,能与产品、运维等多方协作,准确理解并实现业务需求。
1. 负责抖音、小红书等社交类APP及WEB端平台的数据采集工作,完成数据清洗、结构化转换与存储,并持续进行爬虫系统的运营与维护。
2. 深入分析主流平台的反爬机制,综合运用验证码识别、防护逻辑逆向、JS混淆解析等技术手段突破限制,具备处理复杂反爬策略的实际能力。
3. 承担独立及分布式爬虫系统的设计、开发、优化与重构工作,提升系统运行效率与稳定性,确保数据抓取的高效性与准确性。
4. 熟练使用正则表达式、XPath等数据提取方式,对获取信息进行深度清洗与管理,保障数据处理结果的精确与完整。
5. 实现APP逆向采集、浏览器自动化模拟等技术方案,提升数据抓取的自动化水平与执行效率。
6. 编写规范的技术文档,为团队其他开发人员提供技术支持与开发协助。
任职要求
1. 本科及以上学历,计算机科学、软件工程等相关专业优先。
2. 熟练掌握Python语言及爬虫开发全流程,精通JS逆向技术,可独立完成多种类型爬虫任务。
3. 具备抖音、头条、Tiktok、小红书、快手、蝴蝶号等任一平台逆向经验者优先;熟悉相关平台风控体系,长期研究并能有效应对风控问题者优先。
4. 理解JSVMP运行机制,能够通过跟栈、日志输出、插桩等方式分析请求头、Cookies等参数生成逻辑,可通过补环境或算法还原方式解决加密参数问题。
5. 精通md5、sm3、sm4、AES等前端常用加密算法,了解WASM工作机制,能通过调用栈分析加密流程。
6. 熟悉滑块、点选、谷歌验证码等常见验证码类型,具备相应的识别与应对能力。
7. 掌握APP运行机制与逆向分析原理,能使用Jadx-gui等工具进行Java层参数解析,并通过Hook脚本实现代码逻辑追踪。
8. 熟练操作各类抓包与逆向工具,能结合AI技术快速定位并解决爬虫难题,具备自主学习能力,善于新技术的研究与落地应用。
9. 了解quic、ssl等协议层面的抓包与反爬策略,能快速排查并解决网络抓包中的异常问题。
10. 精通Python,同时具备Node.js、Java等至少一种其他编程语言的实际开发经验。
11. 熟练使用Scrapy、BeautifulSoup、Selenium等主流爬虫框架,有丰富的框架定制与维护经验。
12. 熟悉MySQL、MongoDB、Redis等常用数据库的使用与性能优化,具备实际项目应用经验。
13. 掌握大规模数据采集、清洗、去重、分类等核心技术,具备数据质量判断与无效信息过滤能力。
14. 具备良好的沟通协调能力和团队合作意识,能与产品、运维等多方协作,准确理解并实现业务需求。
2026-07-01 13:00
IP属地:广东广州
职位福利
本科5-10年

广州轻舟智能信息有限公司
未融资 · 100-499人


鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >






