基于Python的Spark大數據挖掘技術培訓(北京,6月12-14日)
【舉辦單位】北京曼頓培訓網 www.mdpxb.com 中國培訓資訊網 www.e71edu.com
【咨詢電話】4006820825 010-56133998 13810210257
【培訓日期】2018年6月12-14日
【培訓地點】北京
【培訓對象】
1,對大數據的前沿技術非常感興趣的人。
2,有志于成為一名數據科學家的從業(yè)人員。
3,有一定算法和編程基礎的技術愛好者。
【課程背景】
Python是數據分析最常用的語言之一,而Apache Spark是一個開源的強大的分布式查詢和處理引擎。本培訓用詳盡的案例介紹如何使用Python來調用Spark的新特性,如何處理結構化和非結構化的數據,如何使用PySpark中一些基本的可用數據類型,如何生成機器學習模型、操作圖像、閱讀串流數據以及在云上部署模型。
本培訓結合實例來介紹PySpark大數據挖掘。內容包括對Apache Spark基礎知識介紹,彈性分布式數據集RDD的內部運行方式講解,分析利用DataFrame加速PySpark,準備數據建模,檢查重復數據及異常數據,分析描述性統(tǒng)計、數據相關性,介紹MLlib數據挖掘工具應用,講解ML機器學習包功能,使用Blaze實現(xiàn)持久化,講解Tensorflow基礎,分析結構化流Streaming,以及打包Spark應用程序,提交作業(yè)和監(jiān)控執(zhí)行等。
本培訓將合實例,對Python和Spark進行講解,通過實際操作,了解云環(huán)境下,大數據處理、數據探索的基本方法。
【學員基礎】
1,對IT系統(tǒng)設計有一定的理論與實踐經驗。
2,對數據挖掘和數據處理方法有一定的基礎知識。
3,對Hadoop/Spark等大數據技術有一定的了解。
【培訓目標】
1, 學習Python和Spark的相關基礎知識。
2,學習Python和Spark的核心技術方法及應用。
3,了解Python和Spark在數據分析中的使用。
【課程大綱】
第一講 Spark基礎知識
1)什么是Apache Spark
2)Spark作業(yè)和API
3)DataFrame和Dataset
4)Spark 2.0的架構
5)SparkSession介紹
6)Tungsten Phase 2
7)結構化流
第二講 彈性分布式數據集
1)RDD的內部運行方式
2)創(chuàng)建RDD
3)全局作用域和局部作用域
4)RDD轉換
5)RDD操作
第三講 利用DataFrame加速PySpark
1)Python到RDD之間的通信
2)Catalyst優(yōu)化器刷新
3)創(chuàng)建DataFrame
4)RDD的交互操作
5)利用DataFrame API查詢
6)利用SQL查詢
7)DataFrame應用實例
第四講 準備數據建模
1)檢查重復數據及異常數據
2)描述性統(tǒng)計
3)數據相關性
4)數據可視化
5)直方圖
第五講 MLlib數據挖掘工具
1)MLlib包概述
2)加載和轉換數據
3)數據相關性和描述性統(tǒng)計
4)創(chuàng)建最終數據集
5)MLlib應用實例-預測嬰兒生存機會
第六講 ML機器學習包
1)ML包的概述
2)分類、回歸和聚類
3)使用ML預測嬰兒生存率
4)ML超參調優(yōu)
5)ML的特征提取
6)ML的其他功能
第七講 使用Blaze實現(xiàn)持久化
1)安裝Blaze
2)混合持久化
3)使用NumPy和pandas數據
4)與關系型數據庫進行交互
5)數據操作和訪問
6)數據連接
第八講 Tensorflow基礎
1)神經網絡和深度學習
2)TensorFlow介紹和安裝
3)配置和設置TensorFlow
4)使用TensorFlow進行矩陣分析
5)TensorFlow操作示例
第九講 結構化流Streaming
1)Streaming介紹
2)Streaming的基本組件
3)Streaming應用程序數據流
4)用DStream簡化Streaming應用程序
5)全局聚合
6)結構化流介紹
第十講 打包Spark應用程序
1)spark-submit命令
2)以編程方式部署應用程序
3)配置你的SparkSession
4)創(chuàng)建SparkSession
5)模塊化代碼
6)提交作業(yè)和監(jiān)控執(zhí)行
【講師介紹】
楊老師,曼頓培訓網(www.mdpxb.com)資深講師。主要研究網絡信息分析以及云計算相關技術,長期從事通信網管系統(tǒng)、網絡信息處理、商務智能(BI)以及電信決策支持系統(tǒng)的研究開發(fā)工作,主持和參與了多個國家和省部級基金項目,具有豐富的工程實踐及軟件研發(fā)經驗。
【費用及報名】
1、費用:培訓費5800元(含培訓費、講義費);如需食宿,會務組可統(tǒng)一安排,費用自理。
2、報名咨詢:4006820825 010-56133998 56028090 13810210257 鮑老師
3、報名流程:電話登記-->填寫報名表-->發(fā)出培訓確認函
4、備注:如課程已過期,請訪問我們的網站,查詢最新課程
5、詳細資料請訪問北京曼頓培訓網:www.mdpxb.com (每月在全國開設四百多門公開課,歡迎報名學習)