IT人力外包人才简历库

返回列表

Python数据采集与爬虫开发工程师

驻场外包人员
工作年限:5年 意向城市:杭州 浏览:4次 发布时间:近期

技能标签

Python Scrapy Selenium Appium 数据清洗 分布式爬虫 反爬虫技术 接口监控 Django框架 网络协议分析

专业技能

精通Python编程语言及全栈开发,熟练使用Scrapy框架进行分布式爬虫开发,具备百万级数据清洗、ETL处理及分布式部署经验。掌握Selenium、Appium自动化工具实现多平台数据采集,擅长使用Mitmproxy进行接口监控与流量分析。熟悉反爬虫技术攻防,包括JS加密破解、Ajax请求处理、代理服务配置及流量模拟。具备Django框架开发经验,熟悉RESTful API设计与前后端数据交互。精通XPath、正则表达式、网络协议分析等技术,能够独立完成数据采集系统架构设计与性能优化。

工作履历(脱敏处理)

主导数据采集系统架构设计,采用Scrapy-Redis实现分布式爬虫,支持日均千万级数据采集。开发自动化测试框架,通过Selenium实现电商平台数据抓取,突破反爬虫机制。设计APP逆向分析方案,使用Appium完成抖音、小红书等应用数据采集。搭建Mitmproxy监控系统,实现接口流量分析与异常检测。优化数据清洗流程,采用分布式ETL架构提升处理效率300%。参与Django项目开发,完成RESTful API设计及前后端数据交互实现。

项目经验(脱敏处理)

主导高并发数据采集项目,设计分布式爬虫架构实现日均千万级数据抓取。破解电商平台加密机制,通过Selenium模拟浏览器操作完成动态数据采集。开发APP逆向分析工具链,使用Appium实现抖音、小红书等应用数据采集。搭建接口监控系统,基于Mitmproxy实现流量分析与异常检测。优化数据清洗流程,采用分布式ETL架构提升处理效率。设计反爬虫解决方案,突破JS加密、Ajax请求等技术壁垒,保障数据采集稳定性。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

5年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接