關于舉辦“大數(shù)據(jù)分析-基于Hadoop/Mahout的大數(shù)據(jù)挖掘”培訓的通知

各有關單位：

中國科學院計算技術研究所是國家專門的計算技術研究機構，同時也是中國信息化建設的重要支撐單位，中科院計算所培訓中心是致力于高端IT類人才培養(yǎng)及企業(yè)內訓的專業(yè)培訓機構。中心憑借科學院的強大師資力量，在總結多年大型軟件開發(fā)和組織經(jīng)驗的基礎上，自主研發(fā)出一整套課程體系，其目的是希望能夠切實幫助中國軟件企業(yè)培養(yǎng)高級軟件技術人才，提升整體研發(fā)能力，迄今為止已先后為國家培養(yǎng)了數(shù)萬名計算機專業(yè)人員，并先后為數(shù)千家大型國內外企業(yè)進行過專門的定制培訓服務。

隨著互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展，我們已經(jīng)切實地迎來了一個大數(shù)據(jù)的時代。大數(shù)據(jù)是指無法在一定時間內用常規(guī)軟件工具對其內容進行抓取、管理和處理的數(shù)據(jù)集合，對大數(shù)據(jù)的分析已經(jīng)成為一個非常重要且緊迫的需求。目前對大數(shù)據(jù)的分析工具，首選的是Hadoop平臺。Hadoop在可伸縮性、健壯性、計算性能和成本上具有無可替代的優(yōu)勢，事實上已成為當前互聯(lián)網(wǎng)企業(yè)主流的大數(shù)據(jù)分析平臺。為解決廣大系統(tǒng)設計人員深入研究與開發(fā)大數(shù)據(jù)技術的需要，培訓中心特在“大數(shù)據(jù)處理技術-基于Hadoop的實戰(zhàn)”課程的基礎上，針對已有或即將建立Hadoop集群，擁有海量數(shù)據(jù)，需要做用戶推薦、產(chǎn)品聚類、信息分類等大數(shù)據(jù)分析用戶，舉辦“大數(shù)據(jù)分析-基于Hadoop/Mahout的大數(shù)據(jù)挖掘（含Spark和Storm應用介紹）”培訓班，具體事宜通知如下：

一、培訓對象

1，系統(tǒng)架構師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。

2，牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運行、規(guī)劃、設計負責人。

3，政府機關，金融保險、移動和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負責人。

4，高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項目負責人。

二、學員基礎

1，對IT系統(tǒng)設計有一定的理論與實踐經(jīng)驗。

2，有一定的數(shù)據(jù)倉庫與大數(shù)據(jù)處理的基礎知識。

3，有一定的Hadoop技術的基礎知識。

三、師資

由業(yè)界知名大數(shù)據(jù)專家親自授課：

楊老師主要研究網(wǎng)絡信息分析以及云計算相關技術，長期從事通信網(wǎng)管系統(tǒng)、網(wǎng)絡信息處理、商務智能(BI)以及電信決策支持系統(tǒng)的研究開發(fā)工作，主持和參與了多個國家和省部級基金項目，具有豐富的工程實踐及軟件研發(fā)經(jīng)驗。

四、培訓要點

互聯(lián)網(wǎng)點擊數(shù)據(jù)、傳感數(shù)據(jù)、日志文件、具有豐富地理空間信息的移動數(shù)據(jù)和涉及網(wǎng)絡的各類評論，成為了海量信息的多種形式。當數(shù)據(jù)以成百上千TB不斷增長的時候，我們在內部交易系統(tǒng)的歷史信息之外，需要一種基于大數(shù)據(jù)分析的決策模型和技術支持。

大數(shù)據(jù)通常具有：數(shù)據(jù)體量(Volume)巨大,數(shù)據(jù)類型(Variety)繁多,價值(Value)密度低,處理速度(Velocity)快等四大特征。如何有效管理和高效處理這些大數(shù)據(jù)已成為當前亟待解決的問題。大數(shù)據(jù)處理意味著更嚴峻的挑戰(zhàn)，更好地管理和處理這些數(shù)據(jù)也將會獲得意想不到的收獲。

Google發(fā)布的GFS和MapReduce等高可擴展、高性能的分布式大數(shù)據(jù)處理框架，證明了在處理海量網(wǎng)頁數(shù)據(jù)時該框架的優(yōu)越性。GFS/MapReduce框架實現(xiàn)了更高應用層次的抽象，使用戶無需關注復雜的內部工作機制，無需具備豐富的分布式系統(tǒng)知識及開發(fā)經(jīng)驗，即可實現(xiàn)大規(guī)模分布式系統(tǒng)的部署與大數(shù)據(jù)的并行處理。

ApacheHadoop開源項目開發(fā)團隊。他們克隆了GFS/MapReduce框架，推出了Hadoop系統(tǒng)。該系統(tǒng)已受到學術界和工業(yè)界的廣泛認可和采納，并孵化出眾多子項目(如Pig，Zookeeper和Hive等)，日益形成一個易部署、易開發(fā)、功能齊全、性能優(yōu)良的系統(tǒng)。

本課程從大數(shù)據(jù)技術以及Hadoop實戰(zhàn)的角度，結合理論和實踐，全方位地介紹Hadoop以及Mahout大數(shù)據(jù)挖掘工具的開發(fā)技巧。涉及的主題包括：大數(shù)據(jù)挖掘及其背景，Hadoop及Mahout大數(shù)據(jù)挖掘工具，推薦系統(tǒng)及電影推薦案例，分類技術及聚類分析，流挖掘及其它挖掘技術，大數(shù)據(jù)挖掘前景分析。

教學過程中貫穿了案例分析來幫助學員了解如何用Hadoop和Mahout挖掘工具來解決具體的問題，在關鍵點上搭建實驗環(huán)境進行實踐研究，以加深對于這些解決方案的理解。并介紹了從大數(shù)據(jù)中挖掘出有價值的信息的關鍵。

五、培訓內容

第一講大數(shù)據(jù)挖掘及其背景

1)數(shù)據(jù)挖掘定義

2)Hadoop相關技術

3)大數(shù)據(jù)挖掘知識點

第二講MapReduce計算模式

1）分布式文件系統(tǒng)

2）MapReduce

3）使用MR的算法設計

第三講Hadoop中的云挖掘工具Mahout

1）Mahout介紹

2）推薦系統(tǒng)

3）信息聚類

4）分類技術

5）其它挖掘

第四講推薦系統(tǒng)及其應用開發(fā)

1）一個推薦系統(tǒng)的模型

2）基于內容的推薦

3）協(xié)同過濾

4）電影推薦案例

第五講分類技術及其應用

1）分類的定義

2）分類主要算法

3）Mahout分類過程

4）評估指標以及評測

5）貝葉斯算法新聞分類實例

第六講聚類技術及其應用

1）聚類的定義

2）聚類的主要算法

3）K-Means、Canopy及其應用示例

4）FuzzyK-Means、Dirichlet及其應用示例

5）路透新聞聚類實例

第七講關聯(lián)規(guī)則和相似項發(fā)現(xiàn)

1）購物籃模型

2）Apriori算法

3）抄襲文檔發(fā)現(xiàn)

4）近鄰搜索的應用

第八講流數(shù)據(jù)挖掘相關技術

1）流數(shù)據(jù)挖掘及分析

2）流數(shù)據(jù)模型

3）數(shù)據(jù)抽樣

4）流過濾

第九講大數(shù)據(jù)挖掘應用前景

1）與Hadoop集群應用的協(xié)作

2）與RHadoop等其它云挖掘工具配合

3）大數(shù)據(jù)挖掘行業(yè)應用展望

六、培訓目標

1,全面了解大數(shù)據(jù)處理技術的相關知識。

2，學習Hadoop的核心技術方法以及應用特征。

3，深入使用Mahout挖掘工具在大數(shù)據(jù)中的使用。

4，掌握流數(shù)據(jù)挖掘和其它大數(shù)據(jù)挖掘關鍵技術。

七、培訓時間、地點

時間：2015年5月7日-5月9日地點：深圳

2015年5月28日-5月30日地點：成都

2015年6月3日-6月5日地點：北京

八、證書

培訓結束，頒發(fā)中科院計算所職業(yè)培訓中心“大數(shù)據(jù)分析-基于Hadoop/Mahout的大數(shù)據(jù)挖掘”結業(yè)證書。

九、費用

培訓費：5500元/人（含教材、證書、午餐、學習用具等）。住宿協(xié)助安排，費用自理。