① kafka 集群 必須用zookeeper嗎
（1）解壓為zookeepertar -xf -C /home/myuser/zookeeper/ 復制zookeeper文件夾3份，分別重名名為zookeeperA，zookeeperB，zookeeperC。 並且創建數據快照以及日誌存放文件夾，命名為zooA，zooB，zooC。 （2）編輯對應的zookeeper配置文件
② kafka日誌多久刪除
一般每日可以清理一次。
在/etc/crontab文件中添加刪除操作日誌的語句，然後執行crontab -f /etc/crontab命令即可，我的/etc/crontab文件如下所示，語句的含義是每4天在23:59執行清理操作：
[root@h10p11 logs]# vim /etc/crontab
SHELL=/bin/bash
PATH=/sbin:/bin:/usr/sbin:/usr/bin
MAILTO=root
HOME=/
# For details see man 4 crontabs
# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed
59 23 */4 * * rm -fr /root/kafka/kafka_2.8.0-0.8.0/logs/*-*-*
直接修改/etc/crontab文件重啟機器不用重復設置。
③ 大數據培訓學校學哪些內容
以下介紹的課程主要針對零基礎大數據工程師每個階段進行通俗易懂簡易介紹，方面大家更好的了解大數據學習課程。課程框架是科多大數據的零基礎大數據工程師課程。
一、 第一階段：靜態網頁基礎(HTML+CSS)
1. 難易程度：一顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：html常用標簽、CSS常見布局、樣式、定位等、靜態頁面的設計製作方式等
4. 描述如下：
從技術層面來說，該階段使用的技術代碼很簡單、易於學習、方便理解。從後期課程層來說，因為我們重點是大數據，但前期需要鍛煉編程技術與思維。經過我們多年開發和授課的項目經理分析，滿足這兩點，目前市場上最好理解和掌握的技術是J2EE，但J2EE又離不開頁面技術。所以第一階段我們的重點是頁面技術。採用市場上主流的HTMl+CSS。
二、 第二階段：JavaSE+JavaWeb
1. 難易程度：兩顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：java基礎語法、java面向對象(類、對象、封裝、繼承、多態、抽象類、介面、常見類、內部類、常見修飾符等)、異常、集合、文件、IO、MYSQL(基本SQL語句操作、多表查詢、子查詢、存儲過程、事務、分布式事務)JDBC、線程、反射、Socket編程、枚舉、泛型、設計模式
4. 描述如下：
稱為Java基礎，由淺入深的技術點、真實商業項目模塊分析、多種存儲方式的設計
與實現。該階段是前四個階段最最重要的階段，因為後面所有階段的都要基於此階段，也是學習大數據緊密度最高的階段。本階段將第一次接觸團隊開發、產出具有前後台(第一階段技術+第二階段的技術綜合應用)的真實項目。
三、 第三階段：前端框架
1. 難易程序：兩星
2. 課時量(技術知識點+階段項目任務+綜合能力)：64課時
3. 主要技術包括：Java、Jquery、註解反射一起使用，XML以及XML解析、解析dom4j、jxab、jdk8.0新特性、SVN、Maven、easyui
4. 描述如下：
前兩個階段的基礎上化靜為動，可以實現讓我們網頁內容更加的豐富，當然如果從市場人員層面來說，有專業的前端設計人員，我們設計本階段的目標在於前端的技術可以更直觀的鍛煉人的思維和設計能力。同時我們也將第二階段的高級特性融入到本階段。使學習者更上一層樓。
四、 第四階段：企業級開發框架
1. 難易程序：三顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：Hibernate、Spring、SpringMVC、log4j slf4j 整合、myBatis、struts2、Shiro、redis、流程引擎activity， 爬蟲技術nutch,lucene，webServiceCXF、Tomcat集群和熱備、MySQL讀寫分離
4. 描述如下：
如果將整個JAVA課程比作一個糕點店，那前面三個階段可以做出一個武大郎燒餅(因為是純手工-太麻煩)，而學習框架是可以開一個星巴克(高科技設備-省時省力)。從J2EE開發工程師的任職要求來說，該階段所用到的技術是必須掌握，而我們所授的課程是高於市場(市場上主流三大框架，我們進行七大框架技術傳授)、而且有真實的商業項目驅動。需求文檔、概要設計、詳細設計、源碼測試、部署、安裝手冊等都會進行講解。
五、 第五階段： 初識大數據
1. 難易程度：三顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：大數據前篇(什麼是大數據，應用場景，如何學習大資料庫，虛擬機概念和安裝等)、Linux常見命令(文件管理、系統管理、磁碟管理)、Linux Shell編程(SHELL變數、循環控制、應用)、Hadoop入門(Hadoop組成、單機版環境、目錄結構、HDFS界面、MR界面、簡單的SHELL、java訪問hadoop)、HDFS(簡介、SHELL、IDEA開發工具使用、全分布式集群搭建)、MapRece應用(中間計算過程、Java操作MapRece、程序運行、日誌監控)、Hadoop高級應用(YARN框架介紹、配置項與優化、CDH簡介、環境搭建)、擴展(MAP 端優化，COMBINER 使用方法見,TOP K,SQOOP導出,其它虛擬機VM的快照,許可權管理命令,AWK 與 SED命令)
4. 描述如下：
該階段設計是為了讓新人能夠對大數據有一個相對的大概念怎麼相對呢?在前置課程JAVA的學習過後能夠理解程序在單機的電腦上是如何運行的。現在，大數據呢?大數據是將程序運行在大規模機器的集群中處理。大數據當然是要處理數據，所以同樣，數據的存儲從單機存儲變為多機器大規模的集群存儲。
(你問我什麼是集群?好，我有一大鍋飯，我一個人可以吃完，但是要很久，現在我叫大家一起吃。一個人的時候叫人，人多了呢? 是不是叫人群啊!)
那麼大數據可以初略的分為： 大數據存儲和大數據處理所以在這個階段中呢，我們課程設計了大數據的標准：HADOOP大數據的運行呢並不是在咋們經常使用的WINDOWS 7或者W10上面，而是現在使用最廣泛的系統：LINUX。
六、 第六階段：大數據資料庫
1. 難易程度：四顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：Hive入門(Hive簡介、Hive使用場景、環境搭建、架構說明、工作機制)、Hive Shell編程(建表、查詢語句、分區與分桶、索引管理和視圖)、Hive高級應用(DISTINCT實現、groupby、join、sql轉化原理、java編程、配置和優化)、hbase入門、Hbase SHELL編程(DDL、DML、Java操作建表、查詢、壓縮、過濾器)、細說Hbase模塊(REGION、HREGION SERVER、HMASTER、ZOOKEEPER簡介、ZOOKEEPER配置、Hbase與Zookeeper集成)、HBASE高級特性(讀寫流程、數據模型、模式設計讀寫熱點、優化與配置)
4. 描述如下：
該階段設計是為了讓大家在理解大數據如何處理大規模的數據的同時。簡化咋們的編寫程序時間，同時提高讀取速度。
怎麼簡化呢?在第一階段中，如果需要進行復雜的業務關聯與數據挖掘，自行編寫MR程序是非常繁雜的。所以在這一階段中我們引入了HIVE，大數據中的數據倉庫。這里有一個關鍵字，數據倉庫。我知道你要問我，所以我先說，數據倉庫呢用來做數據挖掘分析的，通常是一個超大的數據中心，存儲這些數據的呢，一般為ORACLE,DB2,等大型資料庫，這些資料庫通常用作實時的在線業務。
總之，要基於數據倉庫分析數據呢速度是相對較慢的。但是方便在於只要熟悉SQL，學習起來相對簡單，而HIVE呢就是這樣一種工具，基於大數據的SQL查詢工具，這一階段呢還包括HBASE，它為大數據裡面的資料庫。納悶了，不是學了一種叫做HIVE的數據「倉庫」了么?HIVE是基於MR的所以查詢起來相當慢，HBASE呢基於大數據可以做到實時的數據查詢。一個主分析，另一個主查詢
七、 第七階段：實時數據採集
1. 難易程序：四顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：Flume日誌採集，KAFKA入門(消息隊列、應用場景、集群搭建)、KAFKA詳解(分區、主題、接受者、發送者、與ZOOKEEPER集成、Shell開發、Shell調試)、KAFKA高級使用(java開發、主要配置、優化項目)、數據可視化(圖形與圖表介紹、CHARTS工具分類、柱狀圖與餅圖、3D圖與地圖)、STORM入門(設計思想、應用場景、處理過程、集群安裝)、STROM開發(STROM MVN開發、編寫STORM本地程序)、STORM進階(java開發、主要配置、優化項目)、KAFKA非同步發送與批量發送時效，KAFKA全局消息有序，STORM多並發優化
4. 描述如下：
前面的階段數據來源是基於已經存在的大規模數據集來做的，數據處理與分析過後的結果是存在一定延時的，通常處理的數據為前一天的數據。
舉例場景：網站防盜鏈，客戶賬戶異常，實時徵信，遇到這些場景基於前一天的數據分析出來過後呢?是否太晚了。所以在本階段中我們引入了實時的數據採集與分析。主要包括了：FLUME實時數據採集，採集的來源支持非常廣泛，KAFKA數據數據接收與發送，STORM實時數據處理，數據處理秒級別
八、 第八階段：SPARK數據分析
1. 難易程序：五顆星
2. 課時量(技術知識點+階段項目任務+綜合能力)
3. 主要技術包括：SCALA入門(數據類型、運算符、控制語句、基礎函數)、SCALA進階(數據結構、類、對象、特質、模式匹配、正則表達式)、SCALA高級使用(高階函數、科里函數、偏函數、尾迭代、自帶高階函數等)、SPARK入門(環境搭建、基礎結構、運行模式)、Spark數據集與編程模型、SPARK SQL、SPARK 進階(DATA FRAME、DATASET、SPARK STREAMING原理、SPARK STREAMING支持源、集成KAFKA與SOCKET、編程模型)、SPARK高級編程(Spark-GraphX、Spark-Mllib機器學習)、SPARK高級應用(系統架構、主要配置和性能優化、故障與階段恢復)、SPARK ML KMEANS演算法，SCALA 隱式轉化高級特性
4. 描述如下：
同樣先說前面的階段，主要是第一階段。HADOOP呢在分析速度上基於MR的大規模數據集相對來說還是挺慢的，包括機器學習，人工智慧等。而且不適合做迭代計算。SPARK呢在分析上是作為MR的替代產品，怎麼替代呢? 先說他們的運行機制，HADOOP基於磁碟存儲分析，而SPARK基於內存分析。我這么說你可能不懂，再形象一點，就像你要坐火車從北京到上海，MR就是綠皮火車，而SPARK是高鐵或者磁懸浮。而SPARK呢是基於SCALA語言開發的，當然對SCALA支持最好，所以課程中先學習SCALA開發語言。
在科多大數據課程的設計方面，市面上的職位要求技術，基本全覆蓋。而且並不是單純的為了覆蓋職位要求，而是本身課程從前到後就是一個完整的大數據項目流程，一環扣一環。
比如從歷史數據的存儲，分析(HADOOP,HIVE,HBASE)，到實時的數據存儲(FLUME,KAFKA)，分析(STORM,SPARK)，這些在真實的項目中都是相互依賴存在的。
④ 怎樣學習大數據
首先我們要了解Java語言和Linux操作系統，這兩個是學習大數據的基礎，學習的順序不分前後。
Java ：只要了解一些基礎即可，做大數據不需要很深的Java 技術，學java SE 就相當於有學習大數據基礎。
Linux：因為大數據相關軟體都是在Linux上運行的，所以Linux要學習的扎實一些，學好Linux對你快速掌握大數據相關技術會有很大的幫助，能讓你更好的理解hadoop、hive、hbase、spark等大數據軟體的運行環境和網路環境配置，能少踩很多坑，學會shell就能看懂腳本這樣能更容易理解和配置大數據集群。還能讓你對以後新出的大數據技術學習起來更快。
Hadoop：這是現在流行的大數據處理平台幾乎已經成為大數據的代名詞，所以這個是必學的。Hadoop裡麵包括幾個組件HDFS、MapRece和YARN，HDFS是存儲數據的地方就像我們電腦的硬碟一樣文件都存儲在這個上面，MapRece是對數據進行處理計算的，它有個特點就是不管多大的數據只要給它時間它就能把數據跑完，但是時間可能不是很快所以它叫數據的批處理。
Zookeeper：這是個萬金油，安裝Hadoop的HA的時候就會用到它，以後的Hbase也會用到它。它一般用來存放一些相互協作的信息，這些信息比較小一般不會超過1M，都是使用它的軟體對它有依賴，對於我們個人來講只需要把它安裝正確，讓它正常的run起來就可以了。
Mysql：我們學習完大數據的處理了，接下來學習學習小數據的處理工具mysql資料庫，因為一會裝hive的時候要用到，mysql需要掌握到什麼層度那?你能在Linux上把它安裝好，運行起來，會配置簡單的許可權，修改root的密碼，創建資料庫。這里主要的是學習SQL的語法，因為hive的語法和這個非常相似。
Sqoop：這個是用於把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。
Hive：這個東西對於會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。
Oozie：既然學會Hive了，我相信你一定需要這個東西，它可以幫你管理你的Hive或者MapRece、Spark腳本，還能檢查你的程序是否執行正確，出錯了給你發報警並能幫你重試程序，最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的，不然你看著那一大堆腳本，和密密麻麻的crond是不是有種想屎的感覺。
Hbase：這是Hadoop生態體系中的NOSQL資料庫，他的數據是按照key和value的形式存儲的並且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用於大數據處理完成之後的存儲目的地。
Kafka：這是個比較好用的隊列工具，隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理，這樣與你協作的其它同學不會叫起來，你干嗎給我這么多的數據(比如好幾百G的文件)我怎麼處理得過來，你別怪他因為他不是搞大數據的，你可以跟他講我把數據放在隊列里你使用的時候一個個拿，這樣他就不在抱怨了馬上灰流流的去優化他的程序去了，因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS，這時你可以與一個叫Flume的工具配合使用，它是專門用來提供對數據進行簡單處理，並寫到各種數據接受方(比如Kafka)的。
Spark：它是用來彌補基於MapRece處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬碟。特別適合做迭代運算，所以演算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。
⑤ redis也可以實現隊列，為什麼還要用rabitmq或者kafka
拋開業務場景談這些組件的選擇就是耍流氓。 負載不大，可靠性要求不高，沒有擴容需求的情況下自然都一樣，甚至就像之前說的，不用redis，就寫文件都行，往某個文件夾里寫個文件=>入隊，拿出來刪掉=>出隊
至於ack啊，分布式啊，抗壓啊等等各種問題，redis基本沒有現成解決方案，有的可以自己變通解決，有的就是解決不了，所以才會有各種各樣的專業隊列組件，有的注重速度，有的注重分布式，有的注重可靠性，他們都會試圖解決redis解決不了的一些問題。就好像你磁碟寫文件當key-value用，IO的速度自然成為瓶頸，負載能力上不去，所以才會有專業的redis來做內存的kv
⑥ KAFKAS注冊過商標嗎還有哪些分類可以注冊
KAFKAS商標總申請量1件
其中已成功注冊0件，有1件正在申請中，無效注冊0件，0件在售中。
經八戒知識產權統計，KAFKAS還可以注冊以下商標分類：
第1類（化學制劑、肥料）
第2類（顏料油漆、染料、防腐製品）
第3類（日化用品、洗護、香料）
第4類（能源、燃料、油脂）
第5類（葯品、衛生用品、營養品）
第6類（金屬製品、金屬建材、金屬材料）
第7類（機械設備、馬達、傳動）
第8類（手動器具（小型）、餐具、冷兵器）
第9類（科學儀器、電子產品、安防設備）
第10類（醫療器械、醫療用品、成人用品）
第12類（運輸工具、運載工具零部件）
第13類（軍火、煙火、個人防護噴霧）
第14類（珠寶、貴金屬、鍾表）
第15類（樂器、樂器輔助用品及配件）
第16類（紙品、辦公用品、文具教具）
第17類（橡膠製品、絕緣隔熱隔音材料）
第18類（箱包、皮革皮具、傘具）
第19類（非金屬建築材料）
第20類（傢具、傢具部件、軟墊）
第21類（廚房器具、家用器皿、洗護用具）
第22類（繩纜、遮蓬、袋子）
第23類（紗、線、絲）
第24類（紡織品、床上用品、毛巾）
第25類（服裝、鞋帽、襪子手套）
第26類（飾品、假發、紐扣拉鏈）
第27類（地毯、席墊、牆紙）
第28類（玩具、體育健身器材、釣具）
第29類（熟食、肉蛋奶、食用油）
第30類（面點、調味品、飲品）
第31類（生鮮、動植物、飼料種子）
第32類（啤酒、不含酒精的飲料）
第33類（酒、含酒精飲料）
第34類（煙草、煙具）
第35類（廣告、商業管理、市場營銷）
第36類（金融事務、不動產管理、典當擔保）
第37類（建築、室內裝修、維修維護）
第38類（電信、通訊服務）
第39類（運輸倉儲、能源分配、旅行服務）
第40類（材料加工、印刷、污物處理）
第41類（教育培訓、文體活動、娛樂服務）
第42類（研發質控、IT服務、建築咨詢）
第43類（餐飲住宿、養老托兒、動物食宿）
第44類（醫療、美容、園藝）
第45類（安保法律、婚禮家政、社會服務）
⑦ 安裝Kafka 的機器上一定要有 Zookeeper 嗎
kafka 很多說不需要安裝zk的是因為他們都使用了kafka自帶的zk
至於kafka為什麼使用zk，你首先要知道zk的作用, 作為去中心化的集群模式。
需要要消費者知道現在那些生產者（對於消費者而言，kafka就是生產者）是可用的。
如果沒了zk消費者如何知道呢？如果每次消費者在消費之前都去嘗試連接生產者測試下是否連接成功，效率呢？
所以kafka需要zk，在kafka的設計中就依賴了zk了。
⑧ 大數據實時處理為什麼用kafka不用hdfs
大數據開發的學習內容中包含可視化，掌握了大數據的開發技術，也可以從事可視化的相關工作。 基礎階段：Linux、Docker、KVM、MySQL基儲Oracle基儲MongoDB、redis。hadoop maprece hdfs yarn：hadoop：Hadoop 概念、版本、歷史，HDFS工作原理