IT人力外包人才简历库

返回列表

大数据开发工程师

驻场外包人员
工作年限:6年 意向城市:北京 浏览:6次 发布时间:近期

技能标签

Hadoop Spark Flink Kafka Hive HBase 数据仓库 ETL SQL优化 分布式计算 实时处理 数据建模 数据治理 容器化部署 数据可视化 Linux运维

专业技能

精通Hadoop生态体系(HDFS/Hive/HBase/Spark/Flink),熟悉Kafka消息队列与实时计算框架,掌握数据仓库建模与ETL开发,具备分布式系统调优经验。熟练使用Python/Shell进行数据处理,熟悉Linux系统运维及容器化部署(Docker/Kubernetes),具备数据质量监控与数据可视化能力,熟悉数据治理与元数据管理,精通SQL优化与高并发场景处理。

工作履历(脱敏处理)

在某大型金融机构担任大数据开发工程师期间,主导搭建分布式数据处理平台,实现日均千亿级数据的实时清洗与分析。设计并优化数据仓库架构,通过分区表与索引优化使查询效率提升40%。开发实时风控系统,采用Flink实现毫秒级数据处理,降低风险事件响应时间。主导Kafka消息队列的高可用部署,保障数据传输可靠性。持续优化ETL流程,通过Spark作业调度优化使整体处理效率提升35%。

项目经验(脱敏处理)

1. 某大型金融机构大数据平台建设项目:设计分布式数据处理架构,实现日均千亿级数据的实时清洗与分析,采用Hadoop+Spark混合计算框架,构建多维数据仓库模型,支撑业务决策分析。

2. 实时风控系统开发:基于Flink构建实时数据处理流水线,实现毫秒级风险事件检测,通过流批一体架构提升系统弹性,降低风险事件响应时间至500ms以内。

3. 数据仓库架构优化:重构传统ETL流程,采用动态分区与列式存储技术,使查询效率提升40%,同时建立数据质量监控体系,实现数据血缘追溯与异常检测。

4. 分布式日志分析平台:搭建基于Kafka+Spark的实时日志处理系统,实现日均PB级日志的快速分析,通过流式计算引擎提升异常检测准确率至95%以上。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

6年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接