Python數(shù)據(jù)挖掘開發(fā)實戰(zhàn)

Python實現(xiàn)大數(shù)據(jù)挖掘技術(shù)培訓(xùn)【課程目標(biāo)】
Python已經(jīng)成為數(shù)據(jù)分析和數(shù)據(jù)挖掘的首選語言，作為除了Java、C/C++/C#外最受歡迎的語言。
本課程基于Python工具來實現(xiàn)大數(shù)據(jù)的數(shù)據(jù)分析和數(shù)據(jù)挖掘項目?；跇I(yè)務(wù)問題，在數(shù)據(jù)挖掘標(biāo)準(zhǔn)過程指導(dǎo)下，采用Python分析工具，實現(xiàn)數(shù)據(jù)挖掘項目的每一步操作，從數(shù)據(jù)預(yù)處理、數(shù)據(jù)建模、數(shù)據(jù)可視化，到最終數(shù)據(jù)挖掘結(jié)束，幫助學(xué)員掌握Python用于數(shù)據(jù)挖掘，提升學(xué)員的數(shù)據(jù)化運營及數(shù)據(jù)挖掘的能力。
通過本課程的學(xué)習(xí)，達到如下目的：
全面掌握Python語言以及其編程思想。
掌握常用擴展庫的使用，特別是數(shù)據(jù)挖掘相關(guān)庫的使用。
學(xué)會使用Python完成數(shù)據(jù)挖掘項目整個過程。
掌握利用Python實現(xiàn)可視化呈現(xiàn)。掌握數(shù)據(jù)挖掘常見算法在Python中的實現(xiàn)。
【授課時間】
2-5天時間
（要根據(jù)學(xué)員的實際情況調(diào)整重點內(nèi)容及時間）
【授課對象】
業(yè)務(wù)支持部、IT系統(tǒng)部、大數(shù)據(jù)系統(tǒng)開發(fā)部、大數(shù)據(jù)分析中心、網(wǎng)絡(luò)運維部等相關(guān)技術(shù)人員。
【學(xué)員要求】
課程為實戰(zhàn)課程，要求：
每個學(xué)員自備一臺便攜機(必須)。
便攜機中事先安裝好Python 3.6版本及以上。
安裝好Numpy,Pandas,sklearn等常用庫。
注：講師現(xiàn)場提供開源的安裝程序、擴展庫，以及現(xiàn)場分析的數(shù)據(jù)源。
【授課方式】
語言基礎(chǔ) + 挖掘模型 + 案例演練 + 開發(fā)實踐 + 可視化呈現(xiàn)
采用互動式教學(xué)，圍繞業(yè)務(wù)問題，展開數(shù)據(jù)分析過程，全過程演練操作，讓學(xué)員在分析、分享、講授、總結(jié)、自我實踐過程中獲得能力提升。
【課程大綱】
數(shù)據(jù)對象基本操作
目的：掌握數(shù)據(jù)集結(jié)構(gòu)及基本處理方法，進一步鞏固Python語言
數(shù)據(jù)挖掘常用擴展庫介紹
Numpy數(shù)組處理支持
Scipy矩陣計算模塊
Matplotlib數(shù)據(jù)可視化工具庫
Pandas數(shù)據(jù)分析和探索工具
StatsModels統(tǒng)計建模庫
Scikit-Learn機器學(xué)習(xí)庫
Keras深度學(xué)習(xí)（神經(jīng)網(wǎng)絡(luò)）庫
Gensim文本挖掘庫
數(shù)據(jù)集構(gòu)建
Index, Series, DataFrame對象
手工構(gòu)建（創(chuàng)建索引、序列、數(shù)據(jù)集）
讀取文件（CSV文件、Excel文件）
讀取數(shù)據(jù)庫
數(shù)據(jù)集保存（CSV、Excel）
數(shù)據(jù)集基本操作
基本屬性訪問
shape,ndim,index,columns,values,empty,size
數(shù)據(jù)類型處理：查看、修改、轉(zhuǎn)換
排序
排序依據(jù)：標(biāo)題、索引、字段
排序順序：升序、降序
自定義排序：按標(biāo)題、索引、字段、有序類別變量排序
基本訪問
行訪問、列訪問、值訪問
訪問方式：標(biāo)簽、位置
訪問類型：單行列、多行列、連續(xù)行列
布爾數(shù)組訪問
字段管理、新增、刪除、修改、替換、移位
數(shù)據(jù)篩選：條件篩選、多值篩選、篩選空值/非空值
演練：用Python實現(xiàn)數(shù)據(jù)的基本訪問
大數(shù)據(jù)預(yù)處理
目的：掌握數(shù)據(jù)預(yù)處理的基本環(huán)節(jié)，以及Python的實現(xiàn)。
預(yù)處理任務(wù)
數(shù)據(jù)清洗
數(shù)據(jù)集成
數(shù)據(jù)處理
變量處理
數(shù)據(jù)清洗
重復(fù)值處理
重復(fù)字段、重復(fù)標(biāo)題、重復(fù)索引
處理方式：查找、刪除、修改
錯誤值處理
查找錯誤值
置空/刪除
重新編碼/替換
離群值處理：
檢測標(biāo)題：3σ準(zhǔn)則，IQR準(zhǔn)則，K均值
處理方式：查找、置空、截尾、縮尾
基于K均值的離群值檢測
缺失值處理：
查找、刪除
插補(固定值/均值/向下填充/向上填充/插入法/拉格朗日)
數(shù)據(jù)集成
數(shù)據(jù)追加
變量合并（連接類型）
數(shù)據(jù)處理
數(shù)據(jù)篩選
數(shù)據(jù)抽樣
簡單抽樣（有放回、無放回）
分層抽樣
離散化/分箱
等寬
等頻
自定義間隔
K均值
變量處理
處理方式：變量變換、變量派生
規(guī)范化：min-max /mean-std/exp-max
啞變量化
案例：用Python實現(xiàn)數(shù)據(jù)預(yù)處理
數(shù)據(jù)可視化處理
目的：掌握作圖擴展庫，實現(xiàn)數(shù)據(jù)可視化
統(tǒng)計基礎(chǔ)
數(shù)值變量：描述統(tǒng)計
類別變量：分類計數(shù)
分類統(tǒng)計：分類匯總
常用的Python作圖庫
Matplotlib庫
Pygal庫
各種圖形的畫法
柱狀圖
直方圖
餅圖
折線圖
散點圖
…
演練：用Python庫作圖來實現(xiàn)產(chǎn)品銷量分析，并可視化
影響因素分析/特征選擇
目的：掌握判斷事物間相關(guān)性的常用方法，熟悉建模前如何進行屬性篩選/特征選擇，以實現(xiàn)降維的目的。
影響因素分析常用方法
相關(guān)分析
相關(guān)分析原理
相關(guān)系數(shù)公式種類
Pearson相關(guān)系數(shù)
Spearman等級相關(guān)系數(shù)
Kendall等級相關(guān)系數(shù)
方差分析
方差分析原理
方差分析種類
單因素方差分析
多因素方差分析
協(xié)方差分析
列聯(lián)分析/卡方檢驗
列聯(lián)分析原理
計數(shù)與期望值
卡方檢驗公式
主成分分析：降維
PCA方法原理
回歸預(yù)測模型實戰(zhàn)
常用數(shù)值預(yù)測的模型
通用預(yù)測模型：回歸模型
季節(jié)性預(yù)測模型：相加、相乘模型
新產(chǎn)品預(yù)測模型：珀爾曲線與龔鉑茲曲線
回歸分析概念
常見回歸分析類別
回歸分析常見算法
普通最小二乘法OLS
嶺回歸（RR）
套索回歸Lasso
ElasticNet回歸
回歸模型的評估
判定系數(shù)R^2
平均誤差率MAPE
分類預(yù)測模型實戰(zhàn)
常見分類預(yù)測的模型與算法
如何評估分類預(yù)測模型的質(zhì)量
正確率、查準(zhǔn)率、召回率、F1
ROC曲線
邏輯回歸分析模型
邏輯回歸的原理
邏輯回歸建模的步驟
案例：用sklearn庫實現(xiàn)銀行貸款違約預(yù)測
決策樹模型
決策樹分類的原理
決策樹的三個關(guān)鍵問題
決策樹算法與實現(xiàn)
案例：電力竊漏用戶自動識別
決策樹算法
最優(yōu)屬性選擇算法：ID3、ID4.0、ID5.0
連續(xù)變量分割算法
樹剪枝：預(yù)剪枝、后剪枝
人工神經(jīng)網(wǎng)絡(luò)模型（ANN）
神經(jīng)網(wǎng)絡(luò)概述
神經(jīng)元工作原理
常見神經(jīng)網(wǎng)絡(luò)算法（BP、LM、RBF、FNN等）
案例：神經(jīng)網(wǎng)絡(luò)預(yù)測產(chǎn)品銷量
支持向量機（SVM）
SVM基本原理
維災(zāi)難與核心函數(shù)
案例：基于水質(zhì)圖像的水質(zhì)評價
貝葉斯分析
條件概率
常見貝葉斯網(wǎng)絡(luò)
聚類分析（客戶細(xì)分）實戰(zhàn)
客戶細(xì)分常用方法
聚類分析（Clustering）
聚類方法原理介紹及適用場景
常用聚類分析算法
聚類算法的評價
案例：使用SKLearn實現(xiàn)K均值聚類
案例：使用TSNE實現(xiàn)聚類可視化
RFM模型分析
RFM模型，更深入了解你的客戶價值
RFM模型與市場策略
案例：航空公司客戶價值分析
關(guān)聯(lián)規(guī)則分析實戰(zhàn)
關(guān)聯(lián)規(guī)則概述
常用關(guān)聯(lián)規(guī)則算法
Apriori算法
發(fā)現(xiàn)頻繁集
生成關(guān)聯(lián)規(guī)則
FP-Growth算法
構(gòu)建FP樹
提取規(guī)則
時間序列分析
案例：使用apriori庫實現(xiàn)關(guān)聯(lián)分析
案例：中醫(yī)證型關(guān)聯(lián)規(guī)則挖掘
案例實戰(zhàn)
客戶流失預(yù)測和客戶挽留模型
銀行欠貸風(fēng)險預(yù)測模型
結(jié)束：課程總結(jié)與問題答疑。

尹傳亮老師的其它課程