大數(shù)據(jù)建模與分析挖掘應用實戰(zhàn)(成都,8月22-25日)
【舉辦單位】北京曼頓培訓網(wǎng) www.mdpxb.com
【咨詢電話】4006820825 010-56133998 13810210257
【培訓日期】
北京,2020年6月15-18日;杭州,2020年7月24-27日
成都,2020年8月22-25日;北京,2020年9月18-21日
上海,2020年10月21-24日;深圳,2020年11月23-26日
北京,2020年12月23-26日
【培訓地點】北京、杭州、成都、上海、深圳
【培訓對象】
1.大數(shù)據(jù)分析應用開發(fā)工程師
2.大數(shù)據(jù)分析項目的規(guī)劃咨詢管理人員
3.大數(shù)據(jù)分析項目的IT項目高管人員
4.大數(shù)據(jù)分析與挖掘處理算法應用工程師
5.大數(shù)據(jù)分析集群運維工程師
6.大數(shù)據(jù)分析項目的售前和售后技術支持服務人員
【課程背景】
大數(shù)據(jù)建模與分析挖掘技術已經(jīng)逐步地應用到新興互聯(lián)網(wǎng)企業(yè)(如電子商務網(wǎng)站、搜索引擎、社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務提供商等)、銀行金融證券企業(yè)、電信運營等行業(yè),給這些行業(yè)帶來了一定的數(shù)據(jù)價值增值作用。
■本次課程面向有一定的數(shù)據(jù)分析挖掘算法基礎的工程師,帶大家實踐大數(shù)據(jù)分析挖掘平臺的項目訓練,系統(tǒng)地講解數(shù)據(jù)準備、數(shù)據(jù)建模、挖掘模型建立、大數(shù)據(jù)分析與挖掘算法應用在業(yè)務模型中,結合主流的Hadoop與Spark大數(shù)據(jù)分析平臺架構,實現(xiàn)項目訓練。
■結合業(yè)界使用最廣泛的主流大數(shù)據(jù)平臺技術,重點剖析基于大數(shù)據(jù)分析算法與BI技術應用,包括分類算法、聚類算法、預測分析算法、推薦分析模型等在業(yè)務中的實踐應用,并根據(jù)講師給定的數(shù)據(jù)集,實現(xiàn)兩個基本的日志數(shù)據(jù)分析挖掘系統(tǒng),以及電商(或內(nèi)容)推薦系統(tǒng)引擎。
■本課程基本的實踐環(huán)境是Linux集群,JDK1.8, Hadoop 2.7.*,Spark 2.1.*。
■學員需要準備的電腦最好是i5及以上CPU,4GB及以上內(nèi)存,硬盤空間預留50GB(可用移動硬盤),基本的大數(shù)據(jù)分析平臺所依賴的軟件包和依賴庫等,講師已經(jīng)提前部署在虛擬機鏡像(VMware鏡像),學員根據(jù)講師的操作任務進行實踐。
■本課程采用技術原理與項目實戰(zhàn)相結合的方式進行教學,在講授原理的過程中,穿插實際的系統(tǒng)操作,本課程講師也精心準備的實際的應用案例供學員動手訓練。
【培訓目標】
1.本課程讓學員充分掌握大數(shù)據(jù)平臺技術架構、大數(shù)據(jù)分析的基本理論、機器學習的常用算法、國內(nèi)外主流的大數(shù)據(jù)分析與BI商業(yè)智能分析解決方案、以及大數(shù)據(jù)分析在搜索引擎、廣告服務推薦、電商數(shù)據(jù)分析、金融客戶分析方面的應用案例。
2.本課程強調主流的大數(shù)據(jù)分析挖掘算法技術的應用和分析平臺的實施,讓學員掌握主流的基于大數(shù)據(jù)Hadoop和Spark、R的大數(shù)據(jù)分析平臺架構和實際應用,并用結合實際的生產(chǎn)系統(tǒng)案例進行教學,掌握基于Hadoop大數(shù)據(jù)平臺的數(shù)據(jù)挖掘和數(shù)據(jù)倉庫分布式系統(tǒng)平臺應用,以及商業(yè)和開源的數(shù)據(jù)分析產(chǎn)品加上Hadoop平臺形成大數(shù)據(jù)分析平臺的應用剖析。
3.讓學員掌握常見的機器學習算法,深入講解業(yè)界成熟的大數(shù)據(jù)分析挖掘與BI平臺的實踐應用,并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例,串聯(lián)常用的數(shù)據(jù)挖掘技術進行應用教學。
【培訓特色】
定制授課+ 實戰(zhàn)案例訓練+ 互動咨詢討論,共3天
【課程大綱】
兩個完整的項目任務和實踐案例(重點)
1.日志分析建模與日志挖掘項目實踐
a)Hadoop,Spark,并結合ELK技術構建日志分析系統(tǒng)和日志數(shù)據(jù)倉庫
b)互聯(lián)網(wǎng)微博日志分析系統(tǒng)項目
2.推薦系統(tǒng)項目實踐
a)電影數(shù)據(jù)分析與個性化推薦關聯(lián)分析項目
b)電商購物籃分析項目
Hadoop,Spark,可結合Oryx分布式集群在個性化推薦和精準營銷項目。 項目的階段性步驟貫穿到三天的培訓過程中,第三天完成整個項目的原型
業(yè)界主流的數(shù)據(jù)倉庫工具和大數(shù)據(jù)分析挖掘工具
1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據(jù)分析挖掘項目解決方案
2.業(yè)界數(shù)據(jù)倉庫與數(shù)據(jù)分析挖掘平臺軟件工具
3.Hadoop數(shù)據(jù)倉庫工具Hive
4.Spark實時數(shù)據(jù)倉庫工具SparkSQL
5.Hadoop數(shù)據(jù)分析挖掘工具Mahout
6.Spark機器學習與數(shù)據(jù)分析挖掘工具MLlib
7.大數(shù)據(jù)分析挖掘項目的實施步驟 配置數(shù)據(jù)倉庫工具Hadoop Hive和SparkSQL
部署數(shù)據(jù)分析挖掘工具Hadoop Mahout和Spark MLlib
大數(shù)據(jù)分析挖掘項目的數(shù)據(jù)集成操作訓練
1.日志數(shù)據(jù)解析和導入導出到數(shù)據(jù)倉庫的操作訓練
2.從原始搜索數(shù)據(jù)集中抽取、集成數(shù)據(jù),整理后形成規(guī)范的數(shù)據(jù)倉庫
3.數(shù)據(jù)分析挖掘模塊從大型的集中式數(shù)據(jù)倉庫中訪問數(shù)據(jù),一個數(shù)據(jù)倉庫面向一個主題,構建兩個數(shù)據(jù)倉庫
4.同一個數(shù)據(jù)倉庫中的事實表數(shù)據(jù),可以給多個不同類型的分析挖掘任務調用
5.去除噪聲
項目數(shù)據(jù)集加載ETL到Hadoop Hive數(shù)據(jù)倉庫并建立多維模型
基于Hadoop的大型數(shù)據(jù)倉庫管理平臺—HIVE數(shù)據(jù)倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數(shù)據(jù)倉庫在行業(yè)中的數(shù)據(jù)倉庫應用案例
7.Hive數(shù)據(jù)倉庫集群的平臺體系結構、核心技術剖析
8.Hive Server的工作原理、機制與應用
9.Hive數(shù)據(jù)倉庫集群的安裝部署與配置優(yōu)化
10.Hive應用開發(fā)技巧
11.Hive SQL剖析與應用實踐
12.Hive數(shù)據(jù)倉庫表與表分區(qū)、表操作、數(shù)據(jù)導入導出、客戶端操作技巧
13.Hive數(shù)據(jù)倉庫報表設計
14.將原始的日志數(shù)據(jù)集,經(jīng)過整理后,加載至Hadoop + Hive數(shù)據(jù)倉庫集群中,用于共享訪問 利用HIVE構建大型數(shù)據(jù)倉庫項目的操作訓練實踐
Spark大數(shù)據(jù)分析挖掘平臺實踐操作訓練
15.Spark大數(shù)據(jù)分析挖掘平臺的部署配置
16.Spark數(shù)據(jù)分析庫MLlib的開發(fā)部署
17.Spark數(shù)據(jù)分析挖掘示例操作,從Hive表中讀取數(shù)據(jù)并在分布式內(nèi)存中運行
聚類分析建模與挖掘算法的實現(xiàn)原理和技術應用
18.聚類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
a)Canopy聚類(canopy clustering)
b)K均值算法(K-means clustering)
c)模糊K均值(Fuzzy K-means clustering)
d)EM聚類,即期望最大化聚類(Expectation Maximization)
e)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法,實現(xiàn)日志數(shù)據(jù)集中的用戶聚類
分類分析建模與挖掘算法的實現(xiàn)原理和技術應用
20.分類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用, 包括:
f)Spark決策樹算法實現(xiàn)
g)邏輯回歸算法(logistics regression)
h)貝葉斯算法(Bayesian與Cbeyes)
i)支持向量機(Support vector machine)
j)以上算法在Spark MLlib中的實現(xiàn)原理和實際場景中的應用案例。
21.Spark客戶資料分析與給用戶貼標簽的程序示例
22.Spark實現(xiàn)給商品貼標簽的程序示例
23.Spark實現(xiàn)用戶行為的自動標簽和深度技術
基于Spark MLlib的分類分析算法模型與應用操作
關聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術應用
24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
k)Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用
l)Spark關聯(lián)規(guī)則挖掘(Apriori)算法及其應用
m)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
25.Spark關聯(lián)分析程序示例
基于Spark MLlib的關聯(lián)分析操作
推薦分析挖掘模型與算法技術應用
26.推薦算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
a)Spark協(xié)同過濾算法程序示例
b)Item-based協(xié)同過濾與推薦
c)User-based協(xié)同過濾與推薦
d)交叉銷售推薦模型及其實現(xiàn)
推薦分析實現(xiàn)步驟與操作(重點)
回歸分析模型與預測算法
27.利用線性回歸(多元回歸)實現(xiàn)訪問量預測
28.利用非線性回歸預測成交量和訪問量的關系
29.基于R+Spark實現(xiàn)回歸分析模型及其應用操作
30.Spark回歸程序實現(xiàn)異常點檢測的程序示例
回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作
31.利用Spark GraphX實現(xiàn)網(wǎng)頁鏈接分析,計算網(wǎng)頁重要性排名
32.實現(xiàn)信息傳播的社交關系傳遞分析,互聯(lián)網(wǎng)用戶的行為關系分析任務的操作訓練 圖數(shù)據(jù)的分析挖掘操作,實現(xiàn)微博數(shù)據(jù)集的社交網(wǎng)絡建模與關系分析
神經(jīng)網(wǎng)絡與深度學習算法模型及其應用實踐
33.神經(jīng)網(wǎng)絡算法Neural Network的實現(xiàn)方法和挖掘模型應用
34.基于人工神經(jīng)網(wǎng)絡的深度學習的訓練過程
a)傳統(tǒng)神經(jīng)網(wǎng)絡的訓練方法
b)Deep Learning的訓練方法
35.深度學習的常用模型和方法
a)CNN(Convolutional Neural Network)卷積神經(jīng)網(wǎng)絡
b)RNN(Recurrent Neural Network)循環(huán)神經(jīng)網(wǎng)絡模型
c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機
36.基于Spark的深度學習算法模型庫的應用程序示例
基于Spark或TensorFlow神經(jīng)網(wǎng)絡深度學習庫實現(xiàn)文本與圖片數(shù)據(jù)挖掘
時間 內(nèi)容提要 授課詳細內(nèi)容 實踐訓練
第一天 業(yè)界主流的數(shù)據(jù)倉庫工具和大數(shù)據(jù)分析挖掘工具 1.業(yè)界主流的基于Hadoop和Spark的大數(shù)據(jù)分析挖掘項目解決方案
2.業(yè)界數(shù)據(jù)倉庫與數(shù)據(jù)分析挖掘平臺軟件工具
3.Hadoop數(shù)據(jù)倉庫工具Hive
4.Spark實時數(shù)據(jù)倉庫工具SparkSQL
5.Hadoop數(shù)據(jù)分析挖掘工具Mahout
6.Spark機器學習與數(shù)據(jù)分析挖掘工具MLlib
7.大數(shù)據(jù)分析挖掘項目的實施步驟 配置數(shù)據(jù)倉庫工具Hadoop Hive和SparkSQL
部署數(shù)據(jù)分析挖掘工具Hadoop Mahout和Spark MLlib
大數(shù)據(jù)分析挖掘項目的數(shù)據(jù)集成操作訓練 1.日志數(shù)據(jù)解析和導入導出到數(shù)據(jù)倉庫的操作訓練
2.從原始搜索數(shù)據(jù)集中抽取、集成數(shù)據(jù),整理后形成規(guī)范的數(shù)據(jù)倉庫
3.數(shù)據(jù)分析挖掘模塊從大型的集中式數(shù)據(jù)倉庫中訪問數(shù)據(jù),一個數(shù)據(jù)倉庫面向一個主題,構建兩個數(shù)據(jù)倉庫
4.同一個數(shù)據(jù)倉庫中的事實表數(shù)據(jù),可以給多個不同類型的分析挖掘任務調用
5.去除噪聲 項目數(shù)據(jù)集加載ETL到Hadoop Hive數(shù)據(jù)倉庫并建立多維模型
基于Hadoop的大型數(shù)據(jù)倉庫管理平臺—HIVE數(shù)據(jù)倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數(shù)據(jù)倉庫在行業(yè)中的數(shù)據(jù)倉庫應用案例
7.Hive數(shù)據(jù)倉庫集群的平臺體系結構、核心技術剖析
8.Hive Server的工作原理、機制與應用
9.Hive數(shù)據(jù)倉庫集群的安裝部署與配置優(yōu)化
10.Hive應用開發(fā)技巧
11.Hive SQL剖析與應用實踐
12.Hive數(shù)據(jù)倉庫表與表分區(qū)、表操作、數(shù)據(jù)導入導出、客戶端操作技巧
13.Hive數(shù)據(jù)倉庫報表設計
14.將原始的日志數(shù)據(jù)集,經(jīng)過整理后,加載至Hadoop + Hive數(shù)據(jù)倉庫集群中,用于共享訪問 利用HIVE構建大型數(shù)據(jù)倉庫項目的操作訓練實踐
Spark大數(shù)據(jù)分析挖掘平臺實踐操作訓練 15.Spark大數(shù)據(jù)分析挖掘平臺的部署配置
16.Spark數(shù)據(jù)分析庫MLlib的開發(fā)部署
17.Spark數(shù)據(jù)分析挖掘示例操作,從Hive表中讀取數(shù)據(jù)并在分布式內(nèi)存中運行
第二天 聚類分析建模與挖掘算法的實現(xiàn)原理和技術應用 18.聚類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
a)Canopy聚類(canopy clustering)
b)K均值算法(K-means clustering)
c)模糊K均值(Fuzzy K-means clustering)
d)EM聚類,即期望最大化聚類(Expectation Maximization)
e)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法,實現(xiàn)日志數(shù)據(jù)集中的用戶聚類
分類分析建模與挖掘算法的實現(xiàn)原理和技術應用 20.分類分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用, 包括:
f)Spark決策樹算法實現(xiàn)
g)邏輯回歸算法(logistics regression)
h)貝葉斯算法(Bayesian與Cbeyes)
i)支持向量機(Support vector machine)
j)以上算法在Spark MLlib中的實現(xiàn)原理和實際場景中的應用案例。
21.Spark客戶資料分析與給用戶貼標簽的程序示例
22.Spark實現(xiàn)給商品貼標簽的程序示例
23.Spark實現(xiàn)用戶行為的自動標簽和深度技術 基于Spark MLlib的分類分析算法模型與應用操作
關聯(lián)分析建模與挖掘算法的實現(xiàn)原理和技術應用 24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
k)Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用
l)Spark關聯(lián)規(guī)則挖掘(Apriori)算法及其應用
m)以上算法在Spark MLib中的實現(xiàn)原理和實際場景中的應用案例。
25.Spark關聯(lián)分析程序示例 基于Spark MLlib的關聯(lián)分析操作
第三天 推薦分析挖掘模型與算法技術應用 26.推薦算法原理及其在Spark MLlib中的實現(xiàn)與應用,包括:
a)Spark協(xié)同過濾算法程序示例
b)Item-based協(xié)同過濾與推薦
c)User-based協(xié)同過濾與推薦
d)交叉銷售推薦模型及其實現(xiàn) 推薦分析實現(xiàn)步驟與操作(重點)
回歸分析模型與預測算法 27.利用線性回歸(多元回歸)實現(xiàn)訪問量預測
28.利用非線性回歸預測成交量和訪問量的關系
29.基于R+Spark實現(xiàn)回歸分析模型及其應用操作
30.Spark回歸程序實現(xiàn)異常點檢測的程序示例 回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作 31.利用Spark GraphX實現(xiàn)網(wǎng)頁鏈接分析,計算網(wǎng)頁重要性排名
32.實現(xiàn)信息傳播的社交關系傳遞分析,互聯(lián)網(wǎng)用戶的行為關系分析任務的操作訓練 圖數(shù)據(jù)的分析挖掘操作,實現(xiàn)微博數(shù)據(jù)集的社交網(wǎng)絡建模與關系分析
神經(jīng)網(wǎng)絡與深度學習算法模型及其應用實踐 33.神經(jīng)網(wǎng)絡算法Neural Network的實現(xiàn)方法和挖掘模型應用
34.基于人工神經(jīng)網(wǎng)絡的深度學習的訓練過程
a)傳統(tǒng)神經(jīng)網(wǎng)絡的訓練方法
b)Deep Learning的訓練方法
35.深度學習的常用模型和方法
a)CNN(Convolutional Neural Network)卷積神經(jīng)網(wǎng)絡
b)RNN(Recurrent Neural Network)循環(huán)神經(jīng)網(wǎng)絡模型
c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機
36.基于Spark的深度學習算法模型庫的應用程序示例 基于Spark或TensorFlow神經(jīng)網(wǎng)絡深度學習庫實現(xiàn)文本與圖片數(shù)據(jù)挖掘
項目實踐
37.日志分析系統(tǒng)與日志挖掘項目實踐
a)Hadoop,Spark,ELK技術構建日志數(shù)據(jù)倉庫
b)互聯(lián)網(wǎng)微博日志分析系統(tǒng)項目
38.推薦系統(tǒng)項目實踐
a)電影數(shù)據(jù)分析與個性化推薦關聯(lián)分析項目
項目數(shù)據(jù)集和詳細的實驗指導手冊由講師提供
培訓總結
39.項目方案的課堂討論,討論實際業(yè)務中的分析需求,剖析各個環(huán)節(jié)的難點、痛點、瓶頸,啟發(fā)出解決之道;完成講師布置的項目案例,鞏固學過的大數(shù)據(jù)分析挖掘處理平臺技術知識以及應用技能 討論交流
第四天
學員考試與業(yè)界交流
【講師介紹】
周老師,曼頓培訓網(wǎng)(www.mdpxb.com)資深講師。中國科學院通信與信息系統(tǒng)專業(yè)博士。北京郵電大學移動互聯(lián)網(wǎng)與信息化實驗室特聘研究員、對外經(jīng)貿(mào)大學信息學院特聘兼職教師、中國移動集團高級培訓講師,長期從事大數(shù)據(jù)、4G、移動互聯(lián)網(wǎng)安全、管理及大數(shù)據(jù)精確營銷等研究方向。國內(nèi)頂級信息系統(tǒng)架構師,金牌講師,技術顧問,移動開發(fā)專家。擁有豐富的通信信息系統(tǒng)設計、開發(fā)經(jīng)驗及培訓行業(yè)經(jīng)驗,先后為全國超過15家省移動公司,超過30家地市移動公司有過項目開發(fā)合作及授課,擔任多個大型通信項目的總師。
張老師,曼頓培訓網(wǎng)(www.mdpxb.com)資深講師。阿里大數(shù)據(jù)高級專家,國內(nèi)資深的Spark、Hadoop技術專家、虛擬化專家,對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態(tài)系統(tǒng)中的技術進行了多年的深入的研究,更主要的是這些技術在大量的實際項目中得到廣泛的應用,因此在Hadoop開發(fā)和運維方面積累了豐富的項目實施經(jīng)驗。近年主要典型的項目有:某電信集團網(wǎng)絡優(yōu)化、中國移動某省移動公司請賬單系統(tǒng)和某省移動詳單實時查詢系統(tǒng)、中國銀聯(lián)大數(shù)據(jù)數(shù)據(jù)票據(jù)詳單平臺、某大型銀行大數(shù)據(jù)記錄系統(tǒng)、某大型通信運營商全國用戶上網(wǎng)記錄、某省交通部門違章系統(tǒng)、某區(qū)域醫(yī)療大數(shù)據(jù)應用項目、互聯(lián)網(wǎng)公共數(shù)
【費用及報名】
1、費用:培訓費7800元(含培訓費、講義費);如需食宿,會務組可統(tǒng)一安排,費用自理。
2、報名咨詢:4006820825 010-56133998 56028090 13810210257 鮑老師
3、報名流程:電話登記-->填寫報名表-->發(fā)出培訓確認函
4、備注:如課程已過期,請訪問我們的網(wǎng)站,查詢最新課程
5、詳細資料請訪問北京曼頓培訓網(wǎng):www.mdpxb.com (每月在全國開設四百多門公開課,歡迎報名學習)