技能标签
专业技能
精通Hadoop、Spark、Flink等大数据处理架构,具备3年数据开发经验,可独立完成数据仓库建设与实时数据处理系统开发。熟练掌握Java、Python、Scala编程语言,熟悉分布式计算框架与流式计算引擎。具备数据建模与ETL开发能力,掌握Hive、Kafka、Redis等大数据组件的集成应用。了解机器学习基础算法,可实现文本分类、图像识别等基础模型开发。
工作履历(脱敏处理)
专注于大数据开发与数据平台架构设计,主导建设企业级数据仓库与实时数据处理系统。负责设计并实现基于Hadoop生态的离线数仓架构,完成数据采集、清洗、存储与分析全流程开发。搭建实时数据大屏系统,采用Kafka+Spark流式计算架构实现分钟级数据处理。开发基金组合净值计算系统,通过优化数据处理流程提升计算效率30%。主导日志分析平台建设,实现日志采集、实时处理与可视化展示,支撑业务监控需求。
项目经验(脱敏处理)
1. 日志分析系统:基于Redis+MySQL+Spark+Kafka+Flume+Hive构建日志处理平台,通过Flume采集日志数据并传输至Kafka,利用Spark Streaming实现实时数据处理,自定义UDF函数完成复杂数据转换,最终通过Hive存储并由前端框架展示。项目实现日均千万级日志处理,系统延迟控制在秒级。
2. 用户画像系统:基于用户session行为数据构建用户画像模型,采用Hive进行数据聚合分析,通过Spark MLlib实现聚类算法,输出用户标签体系。项目提升用户分群准确率25%,支撑精准营销策略制定。
3. 实时数据大屏:搭建基于Kafka+Spark的实时数据处理架构,实现股票交易数据、在线人数等指标的秒级更新,采用ECharts进行数据可视化展示,系统支持百万级并发访问。
4. 基金数据分析平台:设计并开发基金组合净值计算系统,通过Hive完成历史数据存储与查询优化,利用Spark实现复杂计算逻辑,提升计算效率40%,支撑投资决策分析需求。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
4年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接