技能标签
专业技能
精通Hadoop生态体系(HDFS/Hive/HBase),掌握Spark分布式计算框架及SQL优化策略,熟悉Flink流处理引擎与Kafka消息队列集成。具备ClickHouse时序数据库调优经验,熟悉数据仓库分层设计(ODS/DWD/DWS)。熟练使用Flume/Sqoop/Seatunnel进行数据采集与ETL,精通Shell脚本及Linux系统运维。熟悉Hudi增量数据同步及Dlink实时计算中间件。
工作履历(脱敏处理)
专注于大数据平台开发与优化,主导构建企业级数据仓库架构,实现多源数据的高效采集与处理。设计并实施基于Hadoop的ETL流程,优化Spark作业执行效率提升40%。开发实时数据处理管道,整合Flink与Kafka实现流式数据实时分析。搭建ClickHouse时序数据库架构,支撑业务方实时查询需求。主导数据质量监控体系搭建,建立数据血缘追踪机制,保障数据一致性与可靠性。
项目经验(脱敏处理)
项目一:构建多源数据接入平台,采用Seatunnel实现MySQL/SFTP/公众号数据同步至ODS层,基于Hive构建DWD层数据模型,开发维度建模方案支撑下游广告投放分析。项目二:搭建实时数据看板系统,通过Flink进行多维数据聚合计算,利用Kafka实现计算结果异步推送,构建基于SparkSQL的报表生成引擎。项目三:开发游戏业务实时监控系统,通过Flume采集订单与发券流数据,使用Flink进行流式Join计算核销状态,结果写入ClickHouse支持实时业务分析。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
3年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接