大数据架构师工作的岗位职责（通用19篇）

大数据架构师工作的岗位职责 篇1

职责

1、负责大数据架构设计，包括定义数据的存储、集成(ETL)、应用，支撑业务运营和数据分析类需求实现;

2、制定数据治理领域的数据体系化管理措施，包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作，确保数据可信与安全;

3、基于行业数据积累，满足业务的数据挖掘需求，实现从数据到资产的转变，根据目标行业建立具有前瞻性的数据模型;

4、对各产品的数据安全负责，主导制定和实施数据库系统安全策略，保证整体方案数据安全;

岗位要求

业务技能要求：

1、深入理解云化、数据仓库，在参与过的系统设计中，必须涉及这两项关键技术;

n2、精通或者熟悉Hadoop体系架构，以及HDFS/HBase/Hive/MapReduce/Spark等技术，了解体系架构各组件的优缺点，有直接的产品设计与开发、部署、调优的经验;

3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发，了解各数据库优缺点， 熟悉与架构设计相关的数据存储、性能调优等相关领域知识，有相关项目经验尤佳;

4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案，具有数据分析或数据挖掘相关经验者优先;

n5、熟悉数据治理相关流程，包括数据接入、数据处理、数据治理、数据组织、数据服务等。

专业知识要求：

1、具备数据治理的知识与体系方案，包含政策、组织、角色、流程、规范等，以及规划相应的支撑方案。了解业界的数据管理方法论;

2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别，将业务需求转化为数据的需求，完成数据用例的设计和开发;

3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师工作的岗位职责 篇2

职责：

1. 负责大数据平台的基础技术规划，编制相关规范文档。

2. 负责大数据平台的数据采集，处理，存储以及挖掘分析的架构实现。

3. 负责大数据平台的实际规划建设，包括环境和框架的规划搭建以及部分核心编码工作。

4. 负责大数据相关技术发展方向的预研。

5. 参与业务需求调研，根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

6. 制定大数据平台中数据质量，业务质量监控及管理办法。

岗位要求：

1. 全日制本科及以上学历，5年以上工作经验，4年及以上大数据架构设计经验，熟悉大数据解决方案，包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。

2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

3. 精通大型数据库Oracle、SqlServer等的开发。

4. 精通java，Python中的一种或多种语言。

5. 熟悉容器、虚拟化、微服务框架等相关技术。

6. 对数据敏感，有严谨的工作思路，良好的沟通能力和团队合作精神。

7. 熟悉R，Python，SAS、SPSS等数据挖掘经验者优先。

8. 高宽展性，高性能，和分布式系统的实践及运维经验者优先。

9. 有大型数据仓库实施、大数据平台数据开发经验，熟悉运营商业务者优先。

大数据架构师工作的岗位职责 篇3

职责：

1、负责DMP技术架构设计与构建，根据业务规划及技术规划制定应用架构方案;

2、负责设计构建DMP数据采集、存储及分析框架，设计数据处理的技术流程和规范;

3、负责核心功能的架构与代码模板编写，开发与维护系统公用核心模块;

4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

岗位要求：

1、计算机或相关专业本科以上学历，三年以上的开发经验，二年以上大数据相关软件架构的实际经验;

2、精通大数据处理技术，熟悉Hadoop/Storm技术体系，有Hadoop、Hive、Hbase项目经验;

3、具有较强的架构能力，具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

4、对数据敏感，洞察力强，了解国内外广告发展趋势;

5.、擅长系统分析与设计，精通常用的设计模式，擅长性能调优;

6、熟悉DMP/RTB技术原理，了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。

大数据架构师工作的岗位职责 篇4

职责：

1、负责spark, hadoop, flink等开发和优化。

2、参与前期需求沟通和分析，以产品化开发的思维，完成需求分解和数据架构设计。

3、与研发和数据科学家合作保证产品定义清晰，按时完成产品上线。

4、能够洞察市场状况，与各部门合作转化为基于大数据挖掘的新策略或方案.

5、主动创造和发掘新的基于大数据挖掘产品商业模式.

任职要求：

1、全日制本科及以上学历，计算机软件相关专业，5年以上开发经验，3年以上架构经验

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理，流式计算开发，有开源二次开发经验者优先。

3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。

4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;

5、良好的跨部门沟通合作能力，解决不同观点能力并取得结果。具备敏锐的互联网产品理解力，学习能力和逻辑思维能力强;

6、较强的自我驱动力、推动和协调能力，强烈的责任心和团队合作精神;

大数据架构师工作的岗位职责 篇5

职责：

1、负责大数据平台技术框架的技术选型和搭建;

2、负责核心技术问题公关，建设高可靠性，扩展性及高性能大数据/数据应用平台;

3、负责规划数据挖掘的整体流程，负责大数据开发团队业务需求开发;

4、与其他团队密切配合，寻求数据层面的业务价值，利用数据分析结论推动产品优化;

5、研究和分享大数据架构领域新技术。

任职要求：

1、计算机相关专业全日制统招本科及以上;

2、5年以上工作经验，至少3年以上大数据项目相关工作经验，能够设计大型大数据系统的架构和技术方案;

3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;

4、熟悉数据挖掘，了解典型大数据算法和策略;

5、熟悉主流Java技术框架，精通关系型数据库及SQL语言，熟悉NoSQL/JSON/XML;

6、有较强的学习能力和问题解决能力，逻辑严密、思路清晰;

7、有数据仓库经验者优先，有金融行业项目经验者优先。

大数据架构师工作的岗位职责 篇6

职责：

负责大数据平台的规划和搭建、完成大数据平台的日常运营工作，为数据分析和展现提供支持;

对系统框架相关技术和业务进行培训，并负责核心代码编写，指导团队开发及解决出现的系统问题;

参与基于大数据平台的创新业务场景进行数据产品的架构设计，负责数据产品的研发交付;

负责处理大数据平台的疑难问题，为数据团队提供可靠的技术支持;

负责数据质量、稳定性等数据管理，数据内部共享融通的数据平台，让数据标准更规范、数据获取更高效;

及时跟进大数据领域新技术并分享，提升团队技术能力。

任职要求：

本科或以上学历，5年以上数据系统建设经验，3年以上大数据架构设计经验;

精通 java，python，scala 等一种大数据开发语言，熟悉Hadoop生态圈，包括但不限于hdfs，hive，spark， 有丰富的大数据项目的实践经验;

具备创新精神，条理清晰，沟通表达和逻辑思维能力强;

熟悉数据仓库的设计和开发，对数据架构有深入的了解和具备相关的项目实践经验优先;

对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先;

有敏捷大数据和数据可视化实践经验优先。

大数据架构师工作的岗位职责 篇7

职责:

1、 负责大数据仓库、数据集市的规划及实现，负责大数据中台的设计和核心开发工作;

2、 负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为公司的业务提供大数据底层平台的支持和保证;

3、 大数据平台的数据采集、处理、存储以及挖掘分析的架构实现;

4、 研究未来数据模型和计算框架的创新与落地，包括但不限于以下领域：大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面,参与制定并实践团队的技术发展路线

任职资格:

1、 精通数据建模、数据标准管理、元数据管理、数据质量管理;

2、 有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

3、 熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、flink、spark等;

4、 性格积极乐观，诚信，能自我驱动，有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力; 在数据业界有一定的影响力优先，具有风控经验背景的人优先;

5、 具备独立的深度思考能力，给出结合实际情况的较为理想的技术解决方案。

大数据架构师工作的岗位职责 篇8

职责：

1、大数据平台的规划、设计、实施，并优化数据库;

2、对数据库进行管理，负责数据库应用系统的运营及监控;

3、对数据库性能分析与调优，排错，保证数据正确率;

4、配合其他部门进行的数据处理、查询，统计和分析工作;

5、完成公司下达的项目开发任务。

任职要求：

1、计算机及相关专业本科以上学历，5年以上软件开发从业经验，其中包括至少2年以上的大数据开发工作经验;

2、熟悉hive,hadoop/spark,hbase等大数据相关技术架构，有管理或优化大型分布式集群经验;

3、熟悉linux基本命令，精通SQL脚本的编写，有丰富的数据库管理、运维调优经验;

4、熟悉C++、Java、C#等开发语言;

5、有互联网电商行业大数据分析处理和大型数据仓库的设计和实施经验;

6、有分布式系统分析及架构设计经验和大型计算集群的基础设施开发维护经验;

7、快速处理系统突发事件的能力，较强的学习和创新能力;

8、良好的沟通能力和团队合作精神。

大数据架构师工作的岗位职责 篇9

职责:

1、负责自然语音交互、IOT家电物联控制、知识图谱等相关模块和系统的开发;

2、负责掌握第三方接口的调用和功能实现，持续优化服务性能和容量，并保证产品的兼容性和执行效率;

3、根据设计文档和需求说明完成代码编写、调试、单元测试与维护，确保项目进度和质量;

4、协助制定测试计划，及时发现并修复BUG，实现服务端的性能优化。

任职资格:

1、大学本科3年以上工作经验，计算机相关专业;

2、熟悉软件项目开发流程，具有良好编码风格及文档编写能力;

3、熟悉Linux服务器相关技术，能够独立完成服务器部署，具有相关经验;

4、熟悉Hadoop/Spark框架，JAVA基础扎实;

5、熟练使用Mysql数据库，了解MongoDB或neo4j等分布式数据库;

6、熟悉SpringCloud,SSM,Docker,redis开发者优先;

7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)开发技术优先;

8、了解Socket网络编程、MQTT等，有相应实践经验者优先;

9、有智能语音语义、知识图谱服务端开发经验者优先。

大数据架构师工作的岗位职责 篇10

职责：

1.负责整个大数据平台架构的设计和构建;

2.负责构建大数据平台的数据交换、任务调度等通用平台;

3.制定开发、测试、实施、维护的标准和规范，指导和培训工程师，不断提升团队能力。

4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署，负责编写核心部分代码。

5.持续挑战新的技术方向，攻克大数据量、高并发、高可用、可扩展等技术难点。

任职要求：

1.3年以上大数据架构经验，丰富的数据仓库、数据挖掘、机器学习项目经验

2.大规模数据处理的架构和设计实战经验

3.精通Spark、MR，熟练HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有丰富的大型数据平台工程经验

4.深刻理解大数据处理(流计算，分布式计算，分布式文件系统，分布式存储等)相关技术和实现方法

5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法，熟练Linux/Unix平台上的开发环境

6.本科或以上学历，计算机软件或相关专业，丰富的java开发经验和互联网背景优先。

7.具有比较强的问题分析和处理能力，有比较优秀的动手能力，热衷技术，精益求精

大数据架构师工作的岗位职责 篇11

职责：

1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

2、负责大数据平台的开发和维护，以及对外服务接口的开发;

3、负责大数据平台的优化和改进工作。

任职要求

1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;

2、熟知Hadoop生态圈体系，精通Hadoop/Spark/Storm/Kafka中的一项或几项，深刻理解MapReduce的运行原理和机制，有MPI经验者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉Neo4j者尚佳;

4、具有机器学习相关项目经验者优先。

大数据架构师工作的岗位职责 篇12

职责

1、负责企业级大数据平台、数据云服务的设计与开发;

2、基于大数据生态圈，支持智慧交通等大数据场景应用实现;

3、负责公司大数据产品的设计、封装与落地;

4、负责学习大数据相关算法研究、实现与应用

任职要求

1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验，3年以上大数据架构设计、开发经验;

2、精通大数据生态圈的技术，包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具备源码级问题解决和集群优化改造能力;

3、熟悉常用编程语言，包括Java、Python、Scala等;

4、具有很强的技术研发和创新能力，能有效把握技术发展方向，有较强的执行能力、学习能力、沟通能力、适应能力，责任心强;

大数据架构师工作的岗位职责 篇13

职责：

1、负责大数据项目平台架构的评估、规划和设计

2、开发大数据平台的核心模块代码，负责大数据平台的搭建，完成系统调试、集成与实施，保证大数据产品的上线运行

3、根据业务需求整合优化数据架构，保证产品的可靠性、稳定性

4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现

5、深入研究大数据相关技术和产品，跟进业界先进技术;

6、根据项目要求编写相关技术文档;

7、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

8、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

9. 负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;

10. 负责对使用关键技术的预研和选型，完成 PoC ;

11. 指导工程师完成开发工作，并能分享技术经验。

任职资格:

1、精通Linux操作系统，熟练使用Java;

2、3年以上大数据项目实战经验，两个项目的架构设计经验，熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架，并熟悉其工作原理;

3、有Hadoop、Spark、Hbase平台性能调优经验;

4、熟悉其它分布式存储相关技术，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java开发常用框架.如Spring、MyBatis等;

6、熟悉关系型数据库如oracle及数据库编程。

7、能够根据项目情况安排人力、分配任务，具有较强的团队管理能力。

8、硕士以上学历，20xx年以上的工作经验。

大数据架构师工作的岗位职责 篇14

职责：

1.负责过多个大数据项目的架构;

2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;

3.精通大数据实时流式处理的设计和应用;

3.熟悉大数据平台调优，具备大数据生产平台调优经验;

4.金融行业，运营商行业大数据架构经验更优;

5.研究大数据技术的最新发展，并引入到公司技术架构;

6.指导大数据工程师的日常工作，并培养技术骨干。

任职资格：

1.计算机相关专业本科或以上学历;

2.具有5年以上大数据相关开发经验;

3.具有2年以上带团队经验

4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解，能够带领团队进行技术攻坚，完成中间件的实施、改造、调优;

5.精通海量数据和实时数据的分析处理，能对线上的数据处理性能问题做调优;

6.精通数据仓库以及维度建模原理，有大型数据仓库建设经验;

7.精通关系型数据库和NoSQL数据库的使用，熟悉相关理论;

8.沟通顺畅，重点突出，高效。

大数据架构师工作的岗位职责 篇15

1、负责公司大数据处理框架研发工作，设计与开发分布式存储、数据处理与分析架构。

2、负责大数据平台与产品和相关技术的追踪及研究。

3、负责大数据的处理工作，以及业务数据提取、加载、转换处理流程的开发和优化。

4、利用大数据平台工具对数据维护。

5、负责相关项目的技术支持和服务。

6、持续对系统的技术架构进行改进和优化。

大数据架构师工作的岗位职责 篇16

职责：

1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

2、研究大数据领域前沿数据挖掘技术，并引入相应技术在数据中心的使用;

3、进行大数据系统框架设计、模型算法开发;

4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

任职资格：

1、本科以上学历(持有学士学位)(985，211优先)，计算机相关专业，五年工作经验;

2、二年以上数据挖掘项目经验，完整参与过数据挖掘大数据平台的架构开发过程，具备互联网行业背景优先;

3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验，熟练掌握Hive/SQL，Python，熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

4、了解传统的BI/DW 理论，能结合传统BI实践设计大数据平台;

5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理，具备应用场景经验，如用户画像、商品关联度分析、舆情分析;

6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

7、具备较强的逻辑思维能力、数据敏感度，擅于利用数据发现问题及解决问题;

大数据架构师工作的岗位职责 篇17

职责：

1、负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2、负责公司项目的整体评估、设计、架构及关键模块的开发;

3、负责架构优化，协助团队解决开发过程中遇到的技术难题;

4、负责新技术的调研和大数据相关开源组件的研究，并能在团队进行推广应用;

5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

6、负责大数据平台的性能条有和问题诊断。

任职要求：

1、计算机相关专业，本科及以上学历，3-5年以上工作经验，2-3年大数据相关经验;

2、具有扎实的大数据和数据仓库理论功底，负责过大数据平台或数据仓库设计;

3、对基于Hadoop的大数据体系有深入的认识，具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验，有Hadoop集群搭建和管理经验，度过Hadoop和Spark源码;

4、熟悉Linux和Python语言，了解Scala原理和底层技术;

5、熟悉分布式系统的架构及对其进行设计和优化，对海量数据的清晰、分析处理及存储有相关的实战经验;

6、算法基础扎实，熟悉常见的数据结构，深入理解分布式算法和以上提到的分布式系统，

7、必须有一线coding的能力;

8、有统计学、数学知识，海量数据处理、分析和挖掘，大型互联网公司从业经历着优先。

大数据架构师工作的岗位职责 篇18

职责：

1. 负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。

3. 结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4. 对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。

任职要求：

1. 熟悉云计算基础平台，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基础环境，熟悉控制、计算、存储和网络;

2. 掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3. 精通 Java，Python，Shell 编程语言，精通 SQL、NoSQL 等数据库增删改查的操作优化;

4. PB 级别实战数据平台和生产环境的实施、开发和管理经验;

5. 熟悉 Docker 等容器的编排封装，熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历，5 年以上软件工程开发经验，2 年以上大数据架构师工作经验。

大数据架构师工作的岗位职责 篇19

职责：

1.负责数据仓库建设，基于数据驱动构建企业级数据模型，根据架构设计进行各层数据模型开发。

2.面向PB级别超大规模数据处理和查询需求，设计适合业务变化的合理的多维数据分析系统架构，满足多样性需求。

3.构建设计良好的数据流、调度系统、查询引擎、监控系统，保证系统稳定高效运行，以实现数据的最大价值。

4.指导团队成员开展数据仓库建设。

5.参与重点项目的评审，参与企业数据管理体系建设。

任职要求：

1.统招本科及以上学历。

2.从事数据仓库领域至少5年以上，熟悉数据仓库模型设计与ETL开发经验 ，掌握Kimball的维度建模设计方法，具备海量数据加工处理(ETL)相关经验 。

3.具有一定数据模型和数据架构基础，熟悉hadoophive和常用数据库。

4. 精通SQL，有一定的SQL性能调优经验，熟悉hive sql的开发。

5.具有管理团队开发经验，具备良好的组织能力、协调能力及项目管理能力。

6.具有较好的文字功底及语言表达能力，能够快速、准确地理解需求。

7.具有专研、快速学习和创新精神，具备独立分析问题和解决问题的能力。

8.具有责任心，时间观念强，工作独立性强，有良好的团队合作精神。

9.全日制普通本科毕业。