大数据开发要学哪些知识？
1. Java编程技术Java编程技术是大数据学习的基础，Java是一种强类型语言，拥有极高的跨平台能力，可以编写桌面应用程序、Web应用程序、分布式系统和嵌入式系统应用程序等，是大数据工程师最喜欢的编程工具。
2.Linux命令
对于大数据开发通常是在Linux环境下进行的，相比Linux操作系统，Windows操作系统是封闭的操作系统，开源的大数据软件很受限制。
3. Hadoop
Hadoop是大数据开发的重要框架，其核心是HDFS和MapReduce，HDFS为海量的数据提供了存储，MapReduce为海量的数据提供了计算，因此，需要重点掌握，除此之外，还需要掌握Hadoop集群、Hadoop集群管理、YARN以及Hadoop高级管理等相关技术与操作!
4. Hive
Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行，十分适合数据仓库的统计分析。对于Hive需掌握其安装、应用及高级操作等。
5. Avro与Protobuf
Avro与Protobuf均是数据序列化系统，可以提供丰富的数据结构类型，十分适合做数据存储，还可进行不同语言之间相互通信的数据交换格式，学习大数据，需掌握其具体用法。
6.ZooKeeper
ZooKeeper是Hadoop和Hbase的重要组件，是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组件服务等，在大数据开发中要掌握ZooKeeper的常用命令及功能的实现方法。
7. HBase
HBase是一个分布式的、面向列的开源数据库，它不同于一般的关系数据库，更适合于非结构化数据存储的数据库，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，大数据开发需掌握HBase基础知识、应用、架构以及高级用法等。
8.phoenix
phoenix是用Java编写的基于JDBC
API操作HBase的开源SQL引擎，其具有动态列、散列加载、查询服务器、追踪、事务、用户自定义函数、二级索引、命名空间映射、数据收集、行时间戳列、分页查询、跳跃查询、视图以及多租户的特性，大数据开发需掌握其原理和使用方法。
9. Redis
Redis是一个key-value存储系统，其出现很大程度补偿了memcached这类key/value存储的不足，在部分场合可以对关系数据库起到很好的补充作用，它提供了Java，C/C++，C#，PHP，JavaScript，Perl，Object-C，Python，Ruby，Erlang等客户端，使用很方便，大数据开发需掌握Redis的安装、配置及相关使用方法。
10. Flume
Flume是一款高可用、高可靠、分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据;同时，Flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力。大数据开发需掌握其安装、配置以及相关使用方法。
11. SSM
SSM框架是由Spring、SpringMVC、MyBatis三个开源框架整合而成，常作为数据源较简单的web项目的框架。大数据开发需分别掌握Spring、SpringMVC、MyBatis三种框架的同时，再使用SSM进行整合操作。
12.Kafka
Kafka是一种高吞吐量的分布式发布订阅消息系统，其在大数据开发应用上的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理，也是为了通过集群来提供实时的消息。大数据开发需掌握Kafka架构原理及各组件的作用和使用方法及相关功能的实现!
13.Scala
Scala是一门多范式的编程语言，大数据开发重要框架Spark是采用Scala语言设计的，想要学好Spark框架，拥有Scala基础是必不可少的，因此，大数据开发需掌握Scala编程基础知识!
14.Spark
Spark是专为大规模数据处理而设计的快速通用的计算引擎，其提供了一个全面、统一的框架用于管理各种不同性质的数据集和数据源的大数据处理的需求，大数据开发需掌握Spark基础、SparkJob、Spark
RDD、spark job部署与资源分配、Spark shuffle、Spark内存管理、Spark广播变量、Spark SQL、Spark
Streaming以及Spark ML等相关知识。
15.Azkaban
Azkaban是一个批量工作流任务调度器，可用于在一个工作流内以一个特定的顺序运行一组工作和流程，可以利用Azkaban来完成大数据的任务调度，大数据开发需掌握Azkaban的相关配置及语法规则。
16.Python与数据分析
Python是面向对象的编程语言，拥有丰富的库，使用简单，应用广泛，在大数据领域也有所应用，主要可用于数据采集、数据分析以及数据可视化等，因此，大数据开发需学习一定的Python知识。
绛旓細澶ф暟鎹紑鍙宸ョ▼甯闇瑕鍏峰澶ф暟鎹熀纭鐭ヨ瘑銆佸ぇ鏁版嵁骞冲彴鐭ヨ瘑鍜屽ぇ鏁版嵁鍦烘櫙鐭ヨ瘑涓夋柟闈鐨勭煡璇缁撴瀯銆傚ぇ鏁版嵁鍩虹鐭ヨ瘑锛氭暟瀛﹀熀纭銆佺粺璁″鍩虹鍜岃绠楁満鍩虹銆傛暟瀛﹀熀纭鏄ぇ鏁版嵁浠庝笟鑰呴噸瑕佺殑鍩虹锛屽洜涓哄ぇ鏁版嵁鐨勬牳蹇冩槸绠楁硶璁捐锛岃屾暟瀛︽槸绠楁硶璁捐鐨勫熀纭銆傜粺璁″鍩虹鐭ヨ瘑涔熸槸澶ф暟鎹粠涓氳呭繀椤绘帉鎻＄殑鍐呭锛屽寘鎷熀鏈殑缁熻鏂规硶銆佺粯鍒...
绛旓細瀛︿範鍐呭锛欻DFS銆丮apReduce銆丠ive銆丼qoop銆丱ozie 瀛︿範鐩爣锛氭帉鎻DFS鍘熺悊銆佹搷浣滃拰搴旂敤寮鍙戯紝鎺屾彙鍒嗗竷寮忚繍绠椼丠ive鏁版嵁浠撳簱鍘熺悊鍙婂簲鐢ㄣ傚畬鎴愮洰鏍囷細寰崥鏁版嵁澶ф暟鎹鍒嗘瀽銆佹苯杞﹂攢鍞ぇ鏁版嵁鍒嗘瀽 绗簲闃舵锛歋torm瀹炴椂寮鍙 瀛︿範鍐呭锛歓ookeeper銆丠Base銆丼torm瀹炴椂鏁版嵁 瀛︿範鐩爣锛氭帉鎻torm绋嬪簭鐨勫紑鍙鍙婂簳灞傚師鐞嗭紝鍏峰寮鍙戝熀浜...
绛旓細鎯宠浠庝簨澶ф暟鎹紑鍙戯紝闇瑕佹湁涓瀹氱殑鍩虹锛岃繖鏃跺緢閲嶈鐨勶紝閭ｄ箞澶ф暟鎹紑鍙戦渶瑕浠涔堝熀纭锛熸帴涓嬫潵灏辨潵涓哄ぇ瀹朵粙缁嶆湁鍏充簬杩欐柟闈鐨勭煡璇銆傚ぇ鏁版嵁寮鍙戦渶瑕佽鏈変竴瀹氱殑缂栫▼鍩虹锛屽寘鎷琍ython銆丣ava銆丩inux銆丼cala鍜孯锛屽叾涓璍inux鍜孞ava鏄繀椤昏鎺屾彙鐨勶紝杩欐椂鏈鍩烘湰鐨勩傚ぇ鏁版嵁鍒嗘瀽涓昏鐢ㄧ殑鏄疨ython锛屽ぇ鏁版嵁寮鍙戜富瑕佹槸鍩轰簬JAVA锛...
绛旓細闄ゆ涔嬪锛屽涔澶ф暟鎹紑鍙戦渶瑕佸涔犵殑鍐呭鍖呮嫭涓夊ぇ閮ㄥ垎锛屽垎鍒槸锛氬ぇ鏁版嵁鍩虹鐭ヨ瘑銆佸ぇ鏁版嵁骞冲彴鐭ヨ瘑銆佸ぇ鏁版嵁鍦烘櫙搴旂敤銆傚ぇ鏁版嵁鍩虹鐭ヨ瘑鏈変笁涓富瑕侀儴鍒嗭細鏁板銆佺粺璁″鍜岃绠楁満锛涘ぇ鏁版嵁骞冲彴鐭ヨ瘑锛氭槸澶ф暟鎹紑鍙戠殑鍩虹锛屽線寰浠ユ惌寤篐adoop銆丼park骞冲彴涓轰富锛涚洰鍓嶏紝涓涓ぇ鏁版嵁宸ョ▼甯堢殑鏈堣柂杞绘澗杩囦竾锛屼竴涓湁鍑犲勾宸ヤ綔缁忛獙鐨勫伐绋...
绛旓細濡備綍杩涜澶ф暟鎹瀛︿範鐨蹇熷叆闂紵鍦ㄥ涔犲ぇ鏁版嵁璇剧▼涔嬪墠锛屽繀椤诲涔犺绠楁満缂栫▼璇█.Java鏄澶ф暟鎹涔鎵闇鐨勭紪绋嬭瑷鍩虹锛屽洜涓澶ф暟鎹紑鍙鏄熀浜庡父鐢ㄧ殑楂樼骇璇█.姝ゅ锛屽涔爃adoop鍜屾暟鎹寲鎺橀兘闇瑕佺紪绋嬭瑷.鍥犳锛屽鏋滀綘鎯冲涔犲ぇ鏁版嵁寮鍙戯紝鎺屾彙Java鍩虹鏄繀涓嶅彲灏戠殑.2銆瀛︿範澶ф暟鎹瀛︿範澶ф暟鎹鐨勬牳蹇鐭ヨ瘑 Hadoop鐢熸佺郴缁...
绛旓細Hadoop鏄澶ф暟鎹紑鍙戠殑閲嶈妗嗘灦锛屽叾鏍稿績鏄疕DFS鍜孧apReduce銆4銆丠ive銆侶ive鏄熀浜嶩adoop鐨勪竴涓暟鎹粨搴撳伐鍏凤紝瀵逛簬Hive闇鎺屾彙鍏跺畨瑁呫佸簲鐢ㄥ強楂樼骇鎿嶄綔绛夈5銆丄vro涓嶱rotobuf銆侫vro涓嶱rotobuf鍧囨槸鏁版嵁搴忓垪鍖栫郴缁燂紝鍙互鎻愪緵涓板瘜鐨勬暟鎹粨鏋勭被鍨嬶紝鍗佸垎閫傚悎鍋氭暟鎹瓨鍌紝杩樺彲杩涜涓嶅悓璇█涔嬮棿鐩镐簰閫氫俊鐨勬暟鎹氦鎹㈡牸寮忥紝瀛︿範...
绛旓細瀛︿範澶ф暟鎹蹇呴』鎺屾彙涓瀹氱殑Linux鎶鏈鐭ヨ瘑锛屼笉瑕佹眰鎶鏈按骞宠揪鍒板氨涓氭按骞筹紝浣嗗繀椤绘帉鎻inux绯荤粺鐨勫熀鏈搷浣滐紝鑳藉澶勭悊瀹為檯宸ヤ綔涓亣鍒扮殑鐩稿叧闂銆傚ぇ鏁版嵁涓撲笟涓夛紝SQL璇剧▼ 澶ф暟鎹殑鐗圭偣鏄暟鎹噺澶э紝鎵浠ュぇ鏁版嵁鐨勬牳蹇冧箣涓灏辨槸鏁版嵁瀛樺偍銆傛墍浠ュぇ鏁版嵁宸ヤ綔瀵规暟鎹簱鐨勮姹傚緢楂橈紝鐢氳嚦寰堝鍏徃鍗曠嫭璁剧疆鏁版嵁搴寮鍙宸ョ▼甯堛傚ぇ鏁版嵁涓撲笟...
绛旓細澶ф暟鎹鎶鏈笓涓氬睘浜庝氦鍙夊绉戯細浠ョ粺璁″銆佹暟瀛︺佽绠楁満涓轰笁澶ф敮鎾戞у绉戯紱鐢熺墿銆佸尰瀛︺佺幆澧冪瀛︺佺鐞嗗涓哄簲鐢ㄦ嫇灞曟у绉戯紝闇瑕佸涔犵殑璇剧▼鏈夊緢澶氥備竴鏄涔犳暟鎹噰闆嗐佸垎鏋愩佸鐞嗚蒋浠讹紝瀛︿範鏁板寤烘ā杞欢鍙婅绠楁満缂栫▼璇█绛夛紝鐭ヨ瘑缁撴瀯鏄簩涓撳鑳藉鍚堢殑璺ㄧ晫浜烘墠銆傚熀纭璇剧▼锛氭暟瀛﹀垎鏋愩侀珮绛変唬鏁般佹櫘閫氱墿鐞嗘暟瀛︿笌淇℃伅...
绛旓細杩欓噷浠嬬粛涓涓澶ф暟鎹瀛︿範鍜屾帉鎻鐨勭煡璇涓庢妧鑳斤細鈶爅ava锛氫竴闂ㄩ潰鍚戝璞＄殑璁＄畻鏈虹紪绋嬭瑷锛屽叿鏈夊姛鑳藉己澶у拰绠鍗曟槗鐢ㄤ袱涓壒寰併傗憽spark锛氫笓涓哄ぇ瑙勬ā鏁版嵁澶勭悊鑰岃璁＄殑蹇熼氱敤鐨勮绠楀紩鎿庛傗憿SSM锛氬父浣滀负鏁版嵁婧愯緝绠鍗曠殑web椤圭洰鐨勬鏋躲傗懀Hadoop锛氬垎甯冨紡璁＄畻鍜屽瓨鍌ㄧ殑妗嗘灦锛岄渶瑕佹湁java璇█鍩虹銆傗懁spring cloud锛氫竴绯诲垪...
绛旓細3锛宨mpala鍜宬ylin杩欎簺灏介噺涔熻浜嗚В浼氱敤銆4锛孭ython杩欎釜瑕佹槸鏈夎兘鍔涳紝鏈夌簿鍔涳紝寤鸿涔熻寰娣卞瀛︿範锛屾垜鐩墠姝ｅ湪鑷涓5锛岄泦缇ょ殑闂锛屽寘鎷竴浜涚畝鍗曠殑杩愮淮鐭ヨ瘑銆6锛屽ぇ鏁版嵁鏁版嵁鍊炬枩鐨勯棶棰橈紝鍖呮嫭Spark JVM鍐呭瓨璋冧紭闂绛夌瓑銆傚叧浜澶ф暟鎹紑鍙宸ョ▼甯堥渶鎺屾彙鍝簺鎶鑳斤紝闈掕棨灏忕紪灏卞拰鎮ㄥ垎浜埌杩欓噷浜嗐傚鏋滀綘瀵瑰ぇ鏁版嵁宸ョ▼...
