IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:2年 意向城市:杭州 浏览:10次 发布时间:近期

技能标签

Python Linux Scrapy Pyppeteer MySQL Redis MongoDB XPath Requests 反爬虫 分布式爬虫 Cookie管理 数据存储 数据清洗 网络协议分析

专业技能

熟练掌握Linux系统操作及Shell脚本编写,精通Python编程语言及Scrapy、Pyppeteer等爬虫工具,具备丰富的数据库管理经验,熟悉MySQL、Redis、MongoDB等数据库的使用。掌握XPath、JSON、正则表达式等数据解析技术,熟悉Requests库及分布式爬虫框架Scrapy-redis。具备反爬虫技术能力,熟悉IP代理池、User-Agent池、Cookie管理等技术手段。

工作履历(脱敏处理)

主导电商数据采集系统开发,采用Pyppeteer实现淘宝滑块验证绕过,构建分布式爬虫框架处理高并发任务。设计反爬虫策略,通过IP代理池、User-Agent池及Cookie管理技术突破平台限制。开发数据解析模块,使用XPath和正则表达式提取商品信息,建立MySQL数据库存储结构并优化查询性能。完成京东手机信息采集项目,实现型号、价格、评论等数据的自动化采集与CSV格式导出。

项目经验(脱敏处理)

开发基于Pyppeteer的淘宝自动登录系统,成功绕过滑块验证机制,获取持久化Cookie用于后续数据采集。构建Scrapy-redis分布式爬虫框架,通过IP代理池和User-Agent池实现反爬虫策略,提升数据采集效率。设计MySQL数据库存储方案,优化数据表结构并建立索引,实现百万级数据的高效存储与查询。开发京东手机信息采集系统,使用XPath和正则表达式提取商品型号、价格、配置等信息,通过MongoDB存储并导出CSV文件。完成多个电商数据采集项目,包括淘宝、京东等平台,建立数据监控机制分析商品价格趋势,为促销决策提供数据支持。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

2年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接