Python機(jī)器學(xué)習(xí)算法及應(yīng)用

查看源碼
第1章在數(shù)據(jù)上的計(jì)算機(jī)學(xué)習(xí)能力
1.1轉(zhuǎn)換機(jī)器學(xué)習(xí)
1.1.1轉(zhuǎn)換機(jī)器學(xué)習(xí)簡(jiǎn)介
1.1.2轉(zhuǎn)換機(jī)器學(xué)習(xí)對(duì)比其他方法
1.1.3轉(zhuǎn)換機(jī)器學(xué)習(xí)的改進(jìn)
1.1.4轉(zhuǎn)換機(jī)器學(xué)習(xí)的可解釋性
1.1.5轉(zhuǎn)換機(jī)器學(xué)習(xí)對(duì)比深度神經(jīng)網(wǎng)絡(luò)
1.1.6構(gòu)建機(jī)器學(xué)習(xí)的生態(tài)系統(tǒng)
1.2三種不同類型的機(jī)器學(xué)習(xí)
1.2.1用監(jiān)督學(xué)習(xí)預(yù)測(cè)未來(lái)
1.2.2用強(qiáng)化學(xué)習(xí)解決交互問(wèn)題
1.2.3用無(wú)監(jiān)督學(xué)習(xí)發(fā)現(xiàn)隱藏的結(jié)構(gòu)
1.2.4分類和回歸術(shù)語(yǔ)
1.3評(píng)估機(jī)器學(xué)習(xí)模型
1.3.1簡(jiǎn)單的留出驗(yàn)證
1.3.2K折驗(yàn)證
1.3.3帶有打亂數(shù)據(jù)的重復(fù)K折驗(yàn)證
1.4數(shù)據(jù)預(yù)處理、特征工程和特征學(xué)習(xí)
1.4.1神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)預(yù)處理
1.4.2特征工程
1.5過(guò)擬合和欠擬合
1.5.1減小網(wǎng)絡(luò)大小
1.5.2添加權(quán)重正則化
1.5.3添加dropout正則化
1.6機(jī)器學(xué)習(xí)工作流程
1.6.1收集數(shù)據(jù)集
1.6.2選擇衡量成功的指標(biāo)
1.6.3確定評(píng)估法
1.6.4開發(fā)更好的模型
1.6.5擴(kuò)大模型規(guī)模
1.6.6正則化與調(diào)節(jié)超參數(shù)
1.7應(yīng)用Python解決機(jī)器學(xué)習(xí)問(wèn)題
1.7.1使用Python的原因
1.7.2Python的安裝
1.7.3Jupyter Notebook的安裝與使用
1.7.4使用pip安裝第三方庫(kù)
1.8用于機(jī)器學(xué)習(xí)的軟件包
1.8.1NumPy軟件包
1.8.2SciPy軟件包
1.8.3Pandas軟件包
第2章簡(jiǎn)單的機(jī)器學(xué)習(xí)分類算法
2.1機(jī)器學(xué)習(xí)的早期歷史——人工神經(jīng)網(wǎng)絡(luò)
2.1.1人工神經(jīng)網(wǎng)絡(luò)的定義
2.1.2感知機(jī)學(xué)習(xí)規(guī)則
2.2感知機(jī)分類鳶尾
2.3自適應(yīng)神經(jīng)學(xué)習(xí)
2.4大規(guī)模機(jī)器學(xué)習(xí)與隨機(jī)梯度下降
2.4.1梯度下降算法概述
2.4.2批量梯度下降算法
2.4.3隨機(jī)梯度下降算法
2.4.4小批量梯度下降算法
2.4.5梯度下降算法的調(diào)優(yōu)
第3章sklearn機(jī)器學(xué)習(xí)分類器
3.1分類器的選擇
3.2訓(xùn)練感知器
3.3基于邏輯回歸的分類概率建模
3.3.1幾個(gè)相關(guān)定義
3.3.2邏輯代價(jià)函數(shù)的權(quán)重
3.3.3正則化解決過(guò)擬合問(wèn)題
3.4支持向量機(jī)最大化分類間隔
3.4.1超平面
3.4.2函數(shù)間隔和幾何間隔
3.4.3間隔最大化
3.5核SVM解決非線性分類問(wèn)題
3.5.1處理非線性不可分?jǐn)?shù)據(jù)的核方法
3.5.2核函數(shù)實(shí)現(xiàn)高維空間的分離超平面
3.6決策樹
3.6.1何為決策樹
3.6.2決策樹生成
3.6.3決策樹的剪枝
3.6.4使用sklearn預(yù)測(cè)個(gè)人情況
3.7K近鄰算法
3.7.1K近鄰算法的原理
3.7.2K近鄰算法的實(shí)現(xiàn)
3.8貝葉斯算法
3.8.1貝葉斯算法的基本思想 
3.8.2貝葉斯算法的模型
3.8.3用sklearn實(shí)現(xiàn)貝葉斯分類
第4章數(shù)據(jù)預(yù)處理
4.1數(shù)據(jù)清洗
4.1.1缺失值處理
4.1.2異常值分析
4.2對(duì)某一列編碼
4.3劃分訓(xùn)練集與測(cè)試集
4.3.1偽隨機(jī)數(shù)劃分
4.3.2交叉驗(yàn)證
4.4數(shù)據(jù)特征縮放
4.4.1特征標(biāo)準(zhǔn)化/方差縮放
4.4.2特征歸一化
4.5特征選擇
4.5.1Filter
4.5.2Wrapper
4.5.3基于L1的正則化
第5章降維實(shí)現(xiàn)數(shù)據(jù)壓縮
5.1數(shù)據(jù)降維
5.2主成分降維
5.2.1主成分分析步驟
5.2.2PCA算法實(shí)現(xiàn)
5.2.3降維映射PCA的實(shí)現(xiàn)與應(yīng)用
5.3線性判別分析監(jiān)督數(shù)據(jù)壓縮
5.3.1線性判別分析基本思想
5.3.2LDA公式推導(dǎo)
5.3.3拉格朗日函數(shù)問(wèn)題
5.3.4LDA實(shí)現(xiàn)數(shù)據(jù)降維
5.3.5基于sklearn的線性判別分析
5.4非線性映射核主成分降維
5.4.1核函數(shù)與核技巧
5.4.2KPCA與PCA降維實(shí)現(xiàn)
第6章不同模型的集成學(xué)習(xí)
6.1集成學(xué)習(xí)
6.2多投票機(jī)制組合分類器
6.3Bagging算法
6.4Boosting模型
6.4.1Boosting的基本思路
6.4.2AdaBoost算法
6.4.3Gradient Boosting算法
6.5Stacking模型
6.5.1Stacking原理
6.5.2Stacking模型實(shí)現(xiàn)
第7章連續(xù)變量的回歸分析
7.1線性回歸
7.1.1簡(jiǎn)單線性回歸
7.1.2多元線性回歸
7.1.3相關(guān)矩陣查看關(guān)系
7.1.4協(xié)方差與相關(guān)性
7.2最小二乘線性回歸
7.2.1梯度下降法
7.2.2通過(guò)sklearn估計(jì)回歸模型的系數(shù)
7.3使用RANSAC算法擬合健壯回歸模型
7.4線性回歸模型性能的評(píng)估
7.4.1線性回歸算法的衡量標(biāo)準(zhǔn)
7.4.2線性回歸算法應(yīng)用實(shí)例
7.5利用正則化方法進(jìn)行回歸
7.5.1嶺回歸
7.5.2Lasso回歸
7.5.3彈性網(wǎng)絡(luò)
7.6將線性回歸模型轉(zhuǎn)換為多項(xiàng)式回歸
7.7用隨機(jī)森林處理非線性關(guān)系
7.7.1決策樹
7.7.2隨機(jī)森林回歸
第8章數(shù)據(jù)的聚類分析
8.1KMeans算法
8.1.1KMeans算法原理
8.1.2KMeans算法步驟
8.1.3KMeans算法的缺陷
8.1.4使用sklearn進(jìn)行KMeans聚類
8.1.5肘法與輪廓法
8.1.6KMeans 算法
8.2層次聚類
8.3DBSCAN算法
8.3.1DBSCAN算法相關(guān)概念
8.3.2DBSCAN算法的優(yōu)缺點(diǎn)
8.3.3DBSCAN算法實(shí)現(xiàn)
第9章從單層到多層的人工神經(jīng)網(wǎng)絡(luò)
9.1人工神經(jīng)網(wǎng)絡(luò)建模復(fù)雜函數(shù)
9.1.1單隱層神經(jīng)網(wǎng)絡(luò)概述
9.1.2多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
9.1.3前向傳播激活神經(jīng)網(wǎng)絡(luò)
9.1.4反向傳播
9.2識(shí)別手寫數(shù)字
9.2.1神經(jīng)網(wǎng)絡(luò)算法實(shí)現(xiàn)數(shù)字的識(shí)別
9.2.2實(shí)現(xiàn)多層感知器
第10章使用深度卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)圖像分類
10.1構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)
10.1.1深度學(xué)習(xí)
10.1.2CNN的原理
10.1.3使用CNN實(shí)現(xiàn)手寫體識(shí)別
10.2使用LeNet5實(shí)現(xiàn)圖像分類
10.3使用AlexNet實(shí)現(xiàn)圖片分類
10.3.1AlexNet結(jié)構(gòu)分析
10.3.2AlexNet的分類實(shí)現(xiàn)
10.4VGG16的遷移學(xué)習(xí)實(shí)現(xiàn)
10.5使用OpenCV實(shí)現(xiàn)人臉識(shí)別
10.5.1人臉檢測(cè)
10.5.2車牌檢測(cè)
10.5.3目標(biāo)檢測(cè)
10.6使用OpenCV實(shí)現(xiàn)網(wǎng)絡(luò)遷移
第11章使用循環(huán)神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)序列建模
11.1RNN
11.1.1RNN的發(fā)展歷史
11.1.2什么是RNN
11.1.3LSTM結(jié)構(gòu)和GRU結(jié)構(gòu)
11.1.4序列模型實(shí)現(xiàn)
11.2雙向循環(huán)神經(jīng)網(wǎng)絡(luò)
11.3Seq2Seq模型序列分析
11.3.1Seq2Seq模型
11.3.2如何訓(xùn)練Seq2Seq模型
11.3.3利用Seq2Seq進(jìn)行時(shí)間序列預(yù)測(cè)
第12章使用生成對(duì)抗網(wǎng)絡(luò)合成新數(shù)據(jù)
12.1GAN原理
12.2GAN應(yīng)用
12.3強(qiáng)化學(xué)習(xí)
12.3.1強(qiáng)化學(xué)習(xí)的方式
12.3.2強(qiáng)化學(xué)習(xí)系統(tǒng)與特點(diǎn)
12.3.3GAN損失函數(shù)
12.3.4馬爾可夫決策
12.3.5Qlearning算法
12.3.6策略梯度
12.3.7強(qiáng)化學(xué)習(xí)的經(jīng)典應(yīng)用