数据工程师是属于开发还是实施

数据工程师既有开发，也有实施部分。

大数据工程师可以从事对大量数据的采集、清洗、分析、治理、挖掘，并对这些数据加以利用、管理、维护和服务的相关技术工作。大数据工程师是利用大数据技术处理大量数据的专业技术人员，大数据工程师专业技术水平等级培训考试分初级、中级、高级三个级别。

2016年工信部印发《大数据产业发展规划（2016-2020年）》等指导性文件，提出要加快建设网络强国、数字中国、智慧社会，加快实施国家大数据战略；同时提出要加强专业化数据工程师等大数据专业人才培养，开展大数据知识普及和教育培训，提高社会整体认知和应用水平。

报名条件

凡遵守中华人民共和国宪法 、法律、法规，具有良好的业务素质和道德品行，具备各等级报考条件者，均可参加智慧建造师专业技术等级考试。

数据工程师负责创建和维护分析基础架构，该基础架构几乎可以支持数据世界中的所有其他功能。他们负责大数据架构的开发、构建、维护和测试，例如数据库和大数据处理系统。大数据工程师还负责创建用于建模，挖掘，获取和验证数据集合等流程。

数据工程师的关键技能

下面介绍数据工程师所需的几项关键技能。

1.大数据架构的工具与组件

数据工程师更关注分析基础架构，因此所需的大部分技能都是以架构为中心的。

2.深入了解SQL和其它数据库解决方案

数据工程师需要熟悉数据库管理系统，深入了解SQL至关重要。同样其它数据库解决方案，例如Cassandra或BigTable也须熟悉，因为不是每个数据库都是由可识别的标准来构建。

3.数据仓库和ETL工具

数据仓库和ETL经验对于数据工程师至关重要。像Redshift或Panoply这样的数据仓库解决方案，以及ETL工具，比如StitchData或Segment都非常有用。此外，数据存储和数据检索经验同样重要，因为处理的数据量是个天文数字。

4.基于Hadoop的分析（HBase，Hive，MapReduce等）

对基于Apache Hadoop的分析有深刻理解是这个领域的一个非常必要的需求，一般情况下HBase，Hive和MapReduce的知识存储是必需的。

5.编码

说到解决方案，编码与开发能力是一个重要的优点（这也是许多职位的要求），你要熟悉Python，C/C++，Java，Perl，Golang或其它语言，这会非常有价值。

6.机器学习

虽然数据工程师主要关注的是数据科学，但对数据处理技术的理解会加分，比如一些统计分析知识和基础数据建模。

机器学习已经成为标准数据科学，该领域的知识可以帮我们构建同类产品的解决方案。这种知识还有一个好处，就是让你在这个领域极具市场价值，因为在这种情况下能够“戴上两顶帽子”会让你成为一个更强大的工具。

7.多种操作系统

最后，需要我们对Unix，Linux和Solaris系统有深入了解，许多数学工具基于这些操作系统，因为它们有Windows和Mac系统功能没有的访问权限和特殊硬件需求。