大數(shù)據建模與分析挖掘應用實戰(zhàn)（北京，3月24-27日）
【舉辦單位】北京曼頓培訓網 www.mdpxb.com
【咨詢電話】4006820825 010-56133998 13810210257
【培訓日期】
北京，2021年3月24-27日；廣州，2021年4月21-24日
成都，2021年5月25-28日；北京，2021年6月23-27日
杭州，2021年7月24-27日；重慶，2021年8月25-28日
上海，2021年9月23-26日；北京，2021年10月23-26日
珠海，2021年11月24-28日；北京，2021年12月23-27日
【培訓地點】北京、廣州、成都、杭州、重慶、上海、珠海
【培訓對象】
1.大數(shù)據分析應用開發(fā)工程師
2.大數(shù)據分析項目的規(guī)劃咨詢管理人員
3.大數(shù)據分析項目的IT項目高管人員
4.大數(shù)據分析與挖掘處理算法應用工程師
5.大數(shù)據分析集群運維工程師
6.大數(shù)據分析項目的售前和售后技術支持服務人員

【課程背景】
大數(shù)據建模與分析挖掘技術已經逐步地應用到新興互聯(lián)網企業(yè)（如電子商務網站、搜索引擎、社交網站、互聯(lián)網廣告服務提供商等）、銀行金融證券企業(yè)、電信運營等行業(yè)，給這些行業(yè)帶來了一定的數(shù)據價值增值作用。
■本次課程面向有一定的數(shù)據分析挖掘算法基礎的工程師，帶大家實踐大數(shù)據分析挖掘平臺的項目訓練，系統(tǒng)地講解數(shù)據準備、數(shù)據建模、挖掘模型建立、大數(shù)據分析與挖掘算法應用在業(yè)務模型中，結合主流的Hadoop與Spark大數(shù)據分析平臺架構，實現(xiàn)項目訓練。
■結合業(yè)界使用最廣泛的主流大數(shù)據平臺技術，重點剖析基于大數(shù)據分析算法與BI技術應用，包括分類算法、聚類算法、預測分析算法、推薦分析模型等在業(yè)務中的實踐應用，并根據講師給定的數(shù)據集，實現(xiàn)兩個基本的日志數(shù)據分析挖掘系統(tǒng)，以及電商（或內容）推薦系統(tǒng)引擎。
■本課程基本的實踐環(huán)境是Linux集群，JDK1.8， Hadoop 2.7.*，Spark 2.1.*。
■學員需要準備的電腦最好是i5及以上CPU，4GB及以上內存，硬盤空間預留50GB（可用移動硬盤），基本的大數(shù)據分析平臺所依賴的軟件包和依賴庫等，講師已經提前部署在虛擬機鏡像（VMware鏡像），學員根據講師的操作任務進行實踐。
■本課程采用技術原理與項目實戰(zhàn)相結合的方式進行教學，在講授原理的過程中，穿插實際的系統(tǒng)操作，本課程講師也精心準備的實際的應用案例供學員動手訓練。

【培訓目標】
1.本課程讓學員充分掌握大數(shù)據平臺技術架構、大數(shù)據分析的基本理論、機器學習的常用算法、國內外主流的大數(shù)據分析與BI商業(yè)智能分析解決方案、以及大數(shù)據分析在搜索引擎、廣告服務推薦、電商數(shù)據分析、金融客戶分析方面的應用案例。
2.本課程強調主流的大數(shù)據分析挖掘算法技術的應用和分析平臺的實施，讓學員掌握主流的基于大數(shù)據Hadoop和Spark、R的大數(shù)據分析平臺架構和實際應用，并用結合實際的生產系統(tǒng)案例進行教學，掌握基于Hadoop大數(shù)據平臺的數(shù)據挖掘和數(shù)據倉庫分布式系統(tǒng)平臺應用，以及商業(yè)和開源的數(shù)據分析產品加上Hadoop平臺形成大數(shù)據分析平臺的應用剖析。
3.讓學員掌握常見的機器學習算法，深入講解業(yè)界成熟的大數(shù)據分析挖掘與BI平臺的實踐應用，并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例，串聯(lián)常用的數(shù)據挖掘技術進行應用教學。

【培訓特色】
定制授課+ 實戰(zhàn)案例訓練+ 互動咨詢討論

【課程大綱】
兩個完整的項目任務和實踐案例（重點）
1.日志分析建模與日志挖掘項目實踐
a)Hadoop，Spark，并結合ELK技術構建日志分析系統(tǒng)和日志數(shù)據倉庫
b)互聯(lián)網微博日志分析系統(tǒng)項目
2.推薦系統(tǒng)項目實踐
a)電影數(shù)據分析與個性化推薦關聯(lián)分析項目
b)電商購物籃分析項目
Hadoop，Spark，可結合Oryx分布式集群在個性化推薦和精準營銷項目。 項目的階段性步驟貫穿到三天的培訓過程中，第三天完成整個項目的原型
業(yè)界主流的數(shù)據倉庫工具和大數(shù)據分析挖掘工具
1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據分析挖掘項目解決方案
2.業(yè)界數(shù)據倉庫與數(shù)據分析挖掘平臺軟件工具
3.Hadoop數(shù)據倉庫工具Hive
4.Spark實時數(shù)據倉庫工具SparkSQL
5.Hadoop數(shù)據分析挖掘工具Mahout
6.Spark機器學習與數(shù)據分析挖掘工具MLlib
7.大數(shù)據分析挖掘項目的實施步驟 配置數(shù)據倉庫工具Hadoop Hive和SparkSQL

部署數(shù)據分析挖掘工具Hadoop Mahout和Spark MLlib
大數(shù)據分析挖掘項目的數(shù)據集成操作訓練
1.日志數(shù)據解析和導入導出到數(shù)據倉庫的操作訓練
2.從原始搜索數(shù)據集中抽取、集成數(shù)據，整理后形成規(guī)范的數(shù)據倉庫
3.數(shù)據分析挖掘模塊從大型的集中式數(shù)據倉庫中訪問數(shù)據，一個數(shù)據倉庫面向一個主題，構建兩個數(shù)據倉庫
4.同一個數(shù)據倉庫中的事實表數(shù)據，可以給多個不同類型的分析挖掘任務調用
5.去除噪聲
項目數(shù)據集加載ETL到Hadoop Hive數(shù)據倉庫并建立多維模型
基于Hadoop的大型數(shù)據倉庫管理平臺—HIVE數(shù)據倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數(shù)據倉庫在行業(yè)中的數(shù)據倉庫應用案例
7.Hive數(shù)據倉庫集群的平臺體系結構、核心技術剖析
8.Hive Server的工作原理、機制與應用
9.Hive數(shù)據倉庫集群的安裝部署與配置優(yōu)化
10.Hive應用開發(fā)技巧
11.Hive SQL剖析與應用實踐
12.Hive數(shù)據倉庫表與表分區(qū)、表操作、數(shù)據導入導出、客戶端操作技巧
13.Hive數(shù)據倉庫報表設計
14.將原始的日志數(shù)據集，經過整理后，加載至Hadoop + Hive數(shù)據倉庫集群中，用于共享訪問 利用HIVE構建大型數(shù)據倉庫項目的操作訓練實踐
Spark大數(shù)據分析挖掘平臺實踐操作訓練
15.Spark大數(shù)據分析挖掘平臺的部署配置
16.Spark數(shù)據分析庫MLlib的開發(fā)部署
17.Spark數(shù)據分析挖掘示例操作，從Hive表中讀取數(shù)據并在分布式內存中運行
聚類分析建模與挖掘算法的實現(xiàn)原理和技術應用
18.聚類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
a)Canopy聚類（canopy clustering）
b)K均值算法（K-means clustering）
c)模糊K均值（Fuzzy K-means clustering）
d)EM聚類，即期望最大化聚類（Expectation Maximization）
e)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法，實現(xiàn)日志數(shù)據集中的用戶聚類
分類分析建模與挖掘算法的實現(xiàn)原理和技術應用
20.分類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用， 包括：
f)Spark決策樹算法實現(xiàn)
g)邏輯回歸算法（logistics regression）
h)貝葉斯算法（Bayesian與Cbeyes）
i)支持向量機（Support vector machine）
j)以上算法在Spark MLlib中的實現(xiàn)原理和實際場景中的應用案例。
21.Spark客戶資料分析與給用戶貼標簽的程序示例
22.Spark實現(xiàn)給商品貼標簽的程序示例
23.Spark實現(xiàn)用戶行為的自動標簽和深度技術
基于Spark MLlib的分類分析算法模型與應用操作
關聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術應用
24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
k)Spark頻繁模式挖掘算法（parallel FP Growth Algorithm）應用
l)Spark關聯(lián)規(guī)則挖掘（Apriori）算法及其應用
m)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
25.Spark關聯(lián)分析程序示例
基于Spark MLlib的關聯(lián)分析操作
推薦分析挖掘模型與算法技術應用
26.推薦算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
a)Spark協(xié)同過濾算法程序示例
b)Item-based協(xié)同過濾與推薦
c)User-based協(xié)同過濾與推薦
d)交叉銷售推薦模型及其實現(xiàn)
推薦分析實現(xiàn)步驟與操作（重點）
回歸分析模型與預測算法
27.利用線性回歸（多元回歸）實現(xiàn)訪問量預測
28.利用非線性回歸預測成交量和訪問量的關系
29.基于R+Spark實現(xiàn)回歸分析模型及其應用操作
30.Spark回歸程序實現(xiàn)異常點檢測的程序示例
回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作
31.利用Spark GraphX實現(xiàn)網頁鏈接分析，計算網頁重要性排名
32.實現(xiàn)信息傳播的社交關系傳遞分析，互聯(lián)網用戶的行為關系分析任務的操作訓練 圖數(shù)據的分析挖掘操作，實現(xiàn)微博數(shù)據集的社交網絡建模與關系分析
神經網絡與深度學習算法模型及其應用實踐
33.神經網絡算法Neural Network的實現(xiàn)方法和挖掘模型應用
34.基于人工神經網絡的深度學習的訓練過程
a)傳統(tǒng)神經網絡的訓練方法
b)Deep Learning的訓練方法
35.深度學習的常用模型和方法
a)CNN（Convolutional Neural Network）卷積神經網絡
b)RNN（Recurrent Neural Network）循環(huán)神經網絡模型
c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機
36.基于Spark的深度學習算法模型庫的應用程序示例
基于Spark或TensorFlow神經網絡深度學習庫實現(xiàn)文本與圖片數(shù)據挖掘
時間 內容提要 授課詳細內容 實踐訓練
第一天 業(yè)界主流的數(shù)據倉庫工具和大數(shù)據分析挖掘工具 1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據分析挖掘項目解決方案
2.業(yè)界數(shù)據倉庫與數(shù)據分析挖掘平臺軟件工具
3.Hadoop數(shù)據倉庫工具Hive
4.Spark實時數(shù)據倉庫工具SparkSQL
5.Hadoop數(shù)據分析挖掘工具Mahout
6.Spark機器學習與數(shù)據分析挖掘工具MLlib
7.大數(shù)據分析挖掘項目的實施步驟 配置數(shù)據倉庫工具Hadoop Hive和SparkSQL

部署數(shù)據分析挖掘工具Hadoop Mahout和Spark MLlib
大數(shù)據分析挖掘項目的數(shù)據集成操作訓練 1.日志數(shù)據解析和導入導出到數(shù)據倉庫的操作訓練
2.從原始搜索數(shù)據集中抽取、集成數(shù)據，整理后形成規(guī)范的數(shù)據倉庫
3.數(shù)據分析挖掘模塊從大型的集中式數(shù)據倉庫中訪問數(shù)據，一個數(shù)據倉庫面向一個主題，構建兩個數(shù)據倉庫
4.同一個數(shù)據倉庫中的事實表數(shù)據，可以給多個不同類型的分析挖掘任務調用
5.去除噪聲 項目數(shù)據集加載ETL到Hadoop Hive數(shù)據倉庫并建立多維模型
基于Hadoop的大型數(shù)據倉庫管理平臺—HIVE數(shù)據倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數(shù)據倉庫在行業(yè)中的數(shù)據倉庫應用案例
7.Hive數(shù)據倉庫集群的平臺體系結構、核心技術剖析
8.Hive Server的工作原理、機制與應用
9.Hive數(shù)據倉庫集群的安裝部署與配置優(yōu)化
10.Hive應用開發(fā)技巧
11.Hive SQL剖析與應用實踐
12.Hive數(shù)據倉庫表與表分區(qū)、表操作、數(shù)據導入導出、客戶端操作技巧
13.Hive數(shù)據倉庫報表設計
14.將原始的日志數(shù)據集，經過整理后，加載至Hadoop + Hive數(shù)據倉庫集群中，用于共享訪問 利用HIVE構建大型數(shù)據倉庫項目的操作訓練實踐
Spark大數(shù)據分析挖掘平臺實踐操作訓練 15.Spark大數(shù)據分析挖掘平臺的部署配置
16.Spark數(shù)據分析庫MLlib的開發(fā)部署
17.Spark數(shù)據分析挖掘示例操作，從Hive表中讀取數(shù)據并在分布式內存中運行
第二天 聚類分析建模與挖掘算法的實現(xiàn)原理和技術應用 18.聚類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
a)Canopy聚類（canopy clustering）
b)K均值算法（K-means clustering）
c)模糊K均值（Fuzzy K-means clustering）
d)EM聚類，即期望最大化聚類（Expectation Maximization）
e)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法，實現(xiàn)日志數(shù)據集中的用戶聚類
分類分析建模與挖掘算法的實現(xiàn)原理和技術應用 20.分類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用， 包括：
f)Spark決策樹算法實現(xiàn)
g)邏輯回歸算法（logistics regression）
h)貝葉斯算法（Bayesian與Cbeyes）
i)支持向量機（Support vector machine）
j)以上算法在Spark MLlib中的實現(xiàn)原理和實際場景中的應用案例。
21.Spark客戶資料分析與給用戶貼標簽的程序示例
22.Spark實現(xiàn)給商品貼標簽的程序示例
23.Spark實現(xiàn)用戶行為的自動標簽和深度技術 基于Spark MLlib的分類分析算法模型與應用操作
關聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術應用 24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
k)Spark頻繁模式挖掘算法（parallel FP Growth Algorithm）應用
l)Spark關聯(lián)規(guī)則挖掘（Apriori）算法及其應用
m)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
25.Spark關聯(lián)分析程序示例 基于Spark MLlib的關聯(lián)分析操作
第三天 推薦分析挖掘模型與算法技術應用 26.推薦算法原理及其在Spark MLlib中的實現(xiàn)與應用，包括：
a)Spark協(xié)同過濾算法程序示例
b)Item-based協(xié)同過濾與推薦
c)User-based協(xié)同過濾與推薦
d)交叉銷售推薦模型及其實現(xiàn) 推薦分析實現(xiàn)步驟與操作（重點）
回歸分析模型與預測算法 27.利用線性回歸（多元回歸）實現(xiàn)訪問量預測
28.利用非線性回歸預測成交量和訪問量的關系
29.基于R+Spark實現(xiàn)回歸分析模型及其應用操作
30.Spark回歸程序實現(xiàn)異常點檢測的程序示例 回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作 31.利用Spark GraphX實現(xiàn)網頁鏈接分析，計算網頁重要性排名
32.實現(xiàn)信息傳播的社交關系傳遞分析，互聯(lián)網用戶的行為關系分析任務的操作訓練 圖數(shù)據的分析挖掘操作，實現(xiàn)微博數(shù)據集的社交網絡建模與關系分析
神經網絡與深度學習算法模型及其應用實踐 33.神經網絡算法Neural Network的實現(xiàn)方法和挖掘模型應用
34.基于人工神經網絡的深度學習的訓練過程
a)傳統(tǒng)神經網絡的訓練方法
b)Deep Learning的訓練方法
35.深度學習的常用模型和方法
a)CNN（Convolutional Neural Network）卷積神經網絡
b)RNN（Recurrent Neural Network）循環(huán)神經網絡模型
c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機
36.基于Spark的深度學習算法模型庫的應用程序示例 基于Spark或TensorFlow神經網絡深度學習庫實現(xiàn)文本與圖片數(shù)據挖掘
項目實踐
37.日志分析系統(tǒng)與日志挖掘項目實踐
a)Hadoop，Spark，ELK技術構建日志數(shù)據倉庫
b)互聯(lián)網微博日志分析系統(tǒng)項目
38.推薦系統(tǒng)項目實踐
a)電影數(shù)據分析與個性化推薦關聯(lián)分析項目
項目數(shù)據集和詳細的實驗指導手冊由講師提供
培訓總結
39.項目方案的課堂討論，討論實際業(yè)務中的分析需求，剖析各個環(huán)節(jié)的難點、痛點、瓶頸，啟發(fā)出解決之道；完成講師布置的項目案例，鞏固學過的大數(shù)據分析挖掘處理平臺技術知識以及應用技能
討論交流

【講師介紹】
張老師,曼頓培訓網(www.mdpxb.com)資深講師。阿里大數(shù)據高級專家，國內資深的Spark、Hadoop技術專家、虛擬化專家，對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態(tài)系統(tǒng)中的技術進行了多年的深入的研究，更主要的是這些技術在大量的實際項目中得到廣泛的應用，因此在Hadoop開發(fā)和運維方面積累了豐富的項目實施經驗。近年主要典型的項目有：某電信集團網絡優(yōu)化、中國移動某省移動公司請賬單系統(tǒng)和某省移動詳單實時查詢系統(tǒng)、中國銀聯(lián)大數(shù)據數(shù)據票據詳單平臺、某大型銀行大數(shù)據記錄系統(tǒng)、某大型通信運營商全國用戶上網記錄、某省交通部門違章系統(tǒng)、某區(qū)域醫(yī)療大數(shù)據應用項目、互聯(lián)網公共數(shù)據大云(DAAS)和構建游戲云(Web Game Daas)平臺項目等。

【費用及報名】
1、費用：培訓費7800元（含培訓費、講義費）；如需食宿，會務組可統(tǒng)一安排,費用自理。
2、報名咨詢：4006820825 010-56133998 56028090 13810210257 鮑老師
3、報名流程：電話登記-->填寫報名表-->發(fā)出培訓確認函
4、備注：如課程已過期，請訪問我們的網站，查詢最新課程
5、詳細資料請訪問北京曼頓培訓網：www.mdpxb.com (每月在全國開設四百多門公開課，歡迎報名學習)