下面就是小编给大家分享的高级数据工程师的职责,本文共13篇,希望大家喜欢!

篇1:高级数据工程师的职责
职责:
1. 维护数据库稳定运行,持续发现和解决潜在的问题;
2. 负责数据库的性能优化,使用新技术和新架构满足日益增长的业务需求;
3. 负责数据库的监控系统设计,为开发团队提供平台支持;
4. 负责数据库的运维方面的相关工作,包括数据库的安装部署、压力测试、备份恢复、知识库管理等
5. 负责数据库进行容量规划、架构设计,提高业务高可用性和容灾能力;
6. 负责数据库相关工作的整体规划,提供决策建议。
任职要求:
1. 计算机相关专业本科及以上,具有3年以上DB2数据库DBA经验;
2. 精通DB2数据库体系结构和工作原理,有高可用架构规划设计经验优先;
3. 熟悉MySQL数据库体系结构和工作原理,有高可用架构规划设计经验优先;
4. 熟悉TSM的运维管理,并熟悉基于TSM的数据备份和恢复;
5. 熟悉V5000、V7000等存储的运维管理;
6. 熟悉数据库的性能优化、SQL调优技术,对高并发数据库的锁和事务隔离问题有深入理解;
7. 熟悉数据库容量规划和分表设计方法,有海量数据库设计和支持经验优先;
8. 熟悉常用的数据库备份方法;
9. 精通脚本语言,并至少能用Shell,Perl,Python等中的一种进行快速开发。
篇2:高级数据工程师的职责
职责:
1、负责生产环境Mysql数据库系统高可用、高性能架构方案,分库分表策略,数据库扩展方案;
2、排查数据库故障,分析和解决疑难问题,提出预防方案;
3、制定数据库监控策略、备份策略、容灾策略,探查系统潜在的问题和可能的性能瓶颈并进行优化;
4、对开发工程师的SQL语句进行审核及SQL优化;
5、负责redis、memcache等非关系数据库的管理和扩展,能够根据业务需求完成系统设计、架构设计工作;
6、参与前瞻性新技术研究,解决数据库相关疑难问题。
【任职要求】
1、计算机相关专业,统招大专及以上学历;
2、具备5年以上丰富的MySQL实践经验,精通SQL优化以及存储过程编程,熟悉Oracle的管理和优化;
3、精通MySQL数据库性能优化,精通MySQL引擎,精通MySQL主从调优,精通MySQL集群优化;
4、精通MySQL数据库的运行机制和体系架构;
5、精通MySQL复制,实时备份、负载均衡等处理技术,精通数据库核心参数设置和调整,具备IO与系统性能优化的经验;
6、熟悉redis、memcached、MongoDB等非关系数据库管理者优先;
7、有大型网站数据库高并发量设计经验、熟悉大型数据库的设计、容量性能管理和调优经验者优先。
篇3:高级数据工程师的职责
职责:
1. 负责生产环境Mysql数据库系统高可用、高性能架构方案,分库分表策略,数据库扩展方案。
2. 排查数据库故障,分析和解决疑难问题,提出预防方案;
3. 制定数据库监控策略,备份策略,容灾策略;探查系统潜在的问题和可能的性能瓶颈,并进行优化。
4. 对开发工程师的SQL语句进行审核,SQL优化。
5. 参与前瞻性新技术研究,解决数据库相关疑难问题。
6. 负责redis,memcache等非关系数据库的管理和扩展 任职资格:
职位要求:
1. 具备5年以上丰富的MySQL实践经验,熟悉Oracle的管理和优化;
2.计算机及相关专业,本科以上学历;
3. 具备优秀的数据库架构设计能力,精通MySQL数据库性能优化,精通MySQL引擎,精通MySQL主从调优;
4. 精通MySQL、ORACLE数据库的运行机制和体系架构;
5. 精通MySQL、ORACLE复制,实时备份、负载均衡等处理技术,精通数据库核心参数设置和调整;
6. 精通redis,memcached等非关系数据库管理;
7. 需具备IO与系统性能优化的经验;
8. 需具备良好的职业道德,工作认真、踏实,责任心强,有团队协作精神;
9. 有大型网站数据库高并发量设计经验、熟悉大型数据库的设计、容量/性能管理和调优者优先;
篇4:高级数据工程师的职责
职责:
1、负责公司数据库的日常巡检、常规故障维护、数据库优化、数据库的备份恢复
2、负责公司数据库的容灾环境的维护、数据库的升级、数据库的迁移
3、负责公司数据库的数据库系统linux、solaris的维护
4、负责公司数据库存储的维护
职位要求:
1、三年以上oracle DBA/Sybase/mysql DBA工作经验,本科以上文凭
2、熟悉oracle数据库的体系结构、逻辑结构,熟悉表空间管理,熟悉sql、pl/sql,熟悉oracle数据库的备份与恢复,熟悉oracle RAC、DATAGURD的搭建与管理,熟悉oracle数据库的性能优化,熟悉oracle的常规故障处理
3、熟悉mysql 熟悉mysql集群的搭建与管理,熟悉mysql的备份与恢复,熟悉mysql数据库的性能优化与常规故障处理
4、熟悉linux、unix(solaris),熟悉shell脚本的编写,熟悉sun小机维护、熟悉sybase数据库者优先考虑
5、具有良好的学习能力、沟通能力和团队合作能力。
6、有耐心,有服务意识
篇5:高级数据工程师岗位职责描述
•识别,分析和解决计划支持问题。
•与BU利益相关者合作,确定并优先考虑数据和统计要求,包括要收集的特定数据元素。
•协助开发和实施数据库,数据收集系统/工具,数据分析以及其他优化统计效率和质量的策略(包括确定流程改进以更好地满足业务需求)。
•分析大量数据集,提出有见地的业务建议。
•通过查看报告和绩效指标来确定和纠正数据收集问题,从而确保数据的准确性和完整性。
•识别,分析,解释和建模数据湖中数据的趋势或模式。
•为各种受众设计和生成准确有效的统计数据可视化产品和报告。
•通过促进技术和非技术利益相关者之间的沟通,确保技术团队了解计划和业务工作的短期和长期目标
•准时交付优质,易懂,明确的产品。
•参与构建机器学习策略平台。
•对数据驱动业务,关键思想家,问题解决者和自我启动者的热情
•促进技术和非技术利益相关者之间交流的能力
•出色的书面和口头交流能力。
篇6:高级数据工程师岗位职责描述
1.高质量地完成集团内外各类数据生产集成、数据分析应用建设工作,涉及投研、市场、ERP、全球金融资讯等四个业务领域方向;
2.需求及源系统数据分析,完成数据仓库/EDM等系统数据模型及应用模型设计、数据Mapping规则文档撰写、开发、自测及上线部署;
3. 数据质量稽核、问题分析及处理,优化数据处理程序;
4. 洞察数据、满足业务场景需求。
篇7:高级数据工程师岗位职责描述
•在行业担任数据工程师或后端工程师超过4年
•您将了解数据仓库的概念(建模,调整,维护)
•您非常精通SQL,并渴望指导和教其他SQL
•您精通Python或任何其他脚本语言和软件开发
•您在分布式数据处理/传统RDBMS / MPP / NoSQL系统和数据建模方面有很强的低估/经验
•您在Spark / Kafka / HBase / Redis / Kettle方面拥有丰富的经验
•您受到探索数据的好奇心和动力的驱动
•您具有处理数据管道的DevOps问题的经验
•对数据驱动业务,关键思想家,问题解决者和自我启动者的热情
•获得认可大学的相关学科的学士学位
篇8:高级数据工程师岗位职责描述
1. 参加团队会议与讨论,并给予有意义的建议;
2. 协助后端团队和架构师完成数据库相关的设计与开发;
3. 协助业务部门抓取、分析数据。
篇9:高级数据工程师岗位职责描述
1、负责每日的数据仓库运维工作,保障数据的稳定性、一致性等;
2、参与数据仓库的优化设计,如元数据、数据权限、调度优化;
3、负责数据质量和数据标准化的设计与开发;
4、负责满足业务部门的日常业务提数与报表需求的开发。
篇10:大数据开发工程师的职责精选
职责:
1、负责该领域的业务需求讨论,完成技术方案及数据开发;
2、负责数据仓库的体系建设及落地实现;
3、负责大数据平台各类环境的部署及运维、并参与架构优化、性能优化等工作;
4、负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。
招聘要求:
1、计算机、电子通信、自动化等专业,本科及以上学历;
2、五年以上研发经验,其中二年以上大数据开发的相关工作经验;
3、熟练JAVA开发语言;熟悉微服务及Spring框架;
4、熟练熟练Hive、Impala、ES性能调优,关注细节,学习能力强;
5、能配合团队完成该领域的工作,自我管理能力强,能承受工作中的各种压力,具备很好的团队意识
6、熟练主流大数据平台产品部署及运维,如CDH、HDP平台。
7、对机器学习和深度学习等方面有一定的了解;
8、有汽车制造业及相关行业的大数据开发经验优先。
篇11:大数据开发工程师的职责精选
职责:
1、负责数据中心和大数据处理平台的搭建
2、在线和离线海量数据分析平台的开发;
3、研究大数据前沿技术,提升系统的运维效率;
4、参与大数据的采集、存储、处理,分析等开发
5、参与数据挖掘算法的设计、对海量数据进行挖掘分析和发掘数据价值及算法学习及实现
【任职要求】:
1、计算机或相关专业本科学历及以上,2年工作经验以上
2、熟悉Java/Scala等至少一门语言,能对分布式常用技术进行合理应用,解决实际架构问题
3、熟练使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume等大数据开发组件
4、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储、分析和可视化及报表开发;
5、熟悉分布式系统概念、架构,有大规模分布式系统设计、实现、部署等经验;
6. 具有优秀的学习能力、独立分析和解决问题能力,良好的团队合作精神。
7. 有BI开发经验的优化考虑。
篇12:大数据开发工程师的职责精选
职责:
1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;
2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;
3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;
4.完成上级交办的工作或任务。
岗位要求
1.计算机相关专业大专以上学历;
2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;
3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;
4.熟悉Linux开发环境,熟悉Linux的shell命令。
5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;
6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;
7.有大数据项目或产品背景者优先;
8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者优先。
9.有Python或者Shell脚本开发经验优先
篇13:大数据开发工程师的职责精选
职责:
1、负责数据采集、数据存储、数据查询、数据计算等基础平台的设计和开发工作;
2、利用Hadoop、Spark、Flink等技术进行离线和实时数据开发 ;
3、负责大数据平台的规划升级、平台维护和优化 ;
4、和其他部门或团队沟通、资源协调并落实工作。
任职要求
1、本科及以上学历;
2、3年以上大型大数据平台建设实施经验 ;
3、掌握常用大数据组件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和调优 ;
4、具备较强技术功底,精通Java、Scala、Python等至少一种开发语言,能根据需求给出技术架构 ;
5、有数据仓库、元数据管理和治理的开发经验优先 ;
6、善于沟通,思维活跃、责任感强、工作积极主动,有良好的团队协作意识。
文档为doc格式