機(jī)器學(xué)習(xí)實(shí)踐：測(cè)試驅(qū)動(dòng)的開發(fā)方法

目錄
前言 xi
第1章　測(cè)試驅(qū)動(dòng)的機(jī)器學(xué)習(xí) 1
1.1　TDD的歷史 2
1.2　TDD與科學(xué)方法 2
1.2.1　TDD可構(gòu)建有效的邏輯命題 3
1.2.2　TDD要求你將假設(shè)以文字或代碼的形式記錄下來(lái) 5
1.2.3　TDD和科學(xué)方法的閉環(huán)反饋機(jī)制 5
1.3　機(jī)器學(xué)習(xí)中的風(fēng)險(xiǎn) 5
1.3.1　數(shù)據(jù)的不穩(wěn)定性 6
1.3.2　欠擬合 6
1.3.3　過(guò)擬合 7
1.3.4　未來(lái)的不可預(yù)測(cè)性 8
1.4　為降低風(fēng)險(xiǎn)應(yīng)采用的測(cè)試 8
1.4.1　利用接縫測(cè)試減少數(shù)據(jù)中的不穩(wěn)定因素 8
1.4.2　通過(guò)交叉驗(yàn)證檢驗(yàn)擬合效果 9
1.4.3　通過(guò)測(cè)試訓(xùn)練速度降低過(guò)擬合風(fēng)險(xiǎn) 10
1.4.4　檢測(cè)未來(lái)的精度和查全率漂移情況 11
1.5　小結(jié) 11
第2章　機(jī)器學(xué)習(xí)概述 13
2.1　什么是機(jī)器學(xué)習(xí) 13
2.1.1　有監(jiān)督學(xué)習(xí) 13
2.1.2　無(wú)監(jiān)督學(xué)習(xí) 14
2.1.3　強(qiáng)化學(xué)習(xí) 15
2.2　機(jī)器學(xué)習(xí)可完成的任務(wù) 15
2.3　本書采用的數(shù)學(xué)符號(hào) 16
2.4　小結(jié) 16
第3章　K 近鄰分類 17
3.1　K近鄰分類的歷史 18
3.2　基于鄰居的居住幸福度 18
3.3　如何選擇K 21
3.3.1　猜測(cè)K的值 21
3.3.2　選擇K的啟發(fā)式策略 21
3.3.3　K的選擇算法 24
3.4　何謂“近” 24
3.4.1　Minkowski距離 25
3.4.2　Mahalanobis距離 26
3.5　各類別的確定 27
3.6　利用KNN算法和OpenCV實(shí)現(xiàn)胡須和眼鏡的檢測(cè) 29
3.6.1　類圖 29
3.6.2　從原始圖像到人臉圖像 30
3.6.3　Face類 33
3.6.4　Neighborhood類 36
3.7　小結(jié) 43
第4章　樸素貝葉斯分類 45
4.1　利用貝葉斯定理找出欺詐性訂單 45
4.1.1　條件概率 46
4.1.2　逆條件概率 47
4.2　樸素貝葉斯分類器 48
4.2.1　鏈?zhǔn)椒▌t 48
4.2.2　貝葉斯推理中的樸素性49
4.2.3　偽計(jì)數(shù) 50
4.3　垃圾郵件過(guò)濾器 51
4.3.1　類圖 51
4.3.2　數(shù)據(jù)源 52
4.3.3　Email類 52
4.3.4　符號(hào)化與上下文 55
4.3.5　SpamTrainer類 56
4.3.6　通過(guò)交叉驗(yàn)證將錯(cuò)誤率最小化 63
4.4　小結(jié) 66
第5章　隱馬爾可夫模型 67
5.1　利用狀態(tài)機(jī)跟蹤用戶行為 67
5.1.1　隱含狀態(tài)的輸出和觀測(cè) 69
5.1.2　利用馬爾可夫假設(shè)簡(jiǎn)化問(wèn)題 70
5.1.3　利用馬爾可夫鏈而非有限狀態(tài)機(jī) 71
5.1.4　隱馬爾可夫模型 71
5.2　評(píng)估：前向-后向算法 72
5.3　利用維特比算法求解解碼問(wèn)題 75
5.4　學(xué)習(xí)問(wèn)題 76
5.5　利用布朗語(yǔ)料庫(kù)進(jìn)行詞性標(biāo)注 76
5.5.1　詞性標(biāo)注器的首要問(wèn)題：CorpusParser 77
5.5.2　編寫詞性標(biāo)注器 79
5.5.3　通過(guò)交叉驗(yàn)證獲取模型的置信度 86
5.5.4　模型的改進(jìn)方案 88
5.6　小結(jié) 88
第6章　支持向量機(jī) 89
6.1　求解忠誠(chéng)度映射問(wèn)題 89
6.2　SVM的推導(dǎo)過(guò)程 91
6.3　非線性數(shù)據(jù) 92
6.3.1　核技巧 92
6.3.2　軟間隔 96
6.4　利用SVM進(jìn)行情緒分析 97
6.4.1　類圖 98
6.4.2　Corpus類 99
6.4.3　從語(yǔ)料庫(kù)返回一個(gè)無(wú)重復(fù)元素的單詞集 102
6.4.4　CorpusSet類 103
6.4.5　SentimentClassifier類 107
6.4.6　隨時(shí)間提升結(jié)果 111
6.5　小結(jié) 111
第7章　神經(jīng)網(wǎng)絡(luò) 113
7.1　神經(jīng)網(wǎng)絡(luò)的歷史 113
7.2　何為人工神經(jīng)網(wǎng)絡(luò) 114
7.2.1　輸入層 115
7.2.2　隱含層 116
7.2.3　神經(jīng)元 117
7.2.4　輸出層 122
7.2.5　訓(xùn)練算法 122
7.3　構(gòu)建神經(jīng)網(wǎng)絡(luò) 125
7.3.1　隱含層數(shù)目的選擇 126
7.3.2　每層中神經(jīng)元數(shù)目的選擇 126
7.3.3　誤差容限和最大epoch的選擇 126
7.4　利用神經(jīng)網(wǎng)絡(luò)對(duì)語(yǔ)言分類 127
7.4.1　為語(yǔ)言編寫接縫測(cè)試 129
7.4.2　網(wǎng)絡(luò)類的交叉驗(yàn)證 132
7.4.3　神經(jīng)網(wǎng)絡(luò)的參數(shù)調(diào)校 135
7.4.4　收斂性測(cè)試 136
7.4.5　神經(jīng)網(wǎng)絡(luò)的精度和查全率 136
7.4.6　案例總結(jié) 136
7.5　小結(jié) 136
第8章　聚類 137
8.1　用戶組 138
8.2　K均值聚類 139
8.2.1　K均值算法 139
8.2.2　K均值聚類的缺陷 140
8.3　EM聚類算法 141
8.4　不可能性定理 142
8.5　音樂歸類 142
8.5.1　數(shù)據(jù)收集 143
8.5.2　用K均值聚類分析數(shù)據(jù) 144
8.5.3　EM聚類 146
8.5.4　爵士樂的EM聚類結(jié)果 149
8.6　小結(jié) 151
第9章　核嶺回歸 153
9.1　協(xié)同過(guò)濾 153
9.2　應(yīng)用于協(xié)同過(guò)濾的線性回歸 154
9.3　正則化技術(shù)與嶺回歸 157
9.4　核嶺回歸 158
9.5　理論總結(jié) 158
9.6　用協(xié)同過(guò)濾推薦啤酒風(fēng)格 159
9.6.1　數(shù)據(jù)集 159
9.6.2　我們所需的工具 159
9.6.3　評(píng)論者 162
9.6.4　編寫代碼確定某人的偏好 164
9.6.5　利用用戶偏好實(shí)現(xiàn)協(xié)同過(guò)濾 166
9.7　小結(jié) 167
第10章　模型改進(jìn)與數(shù)據(jù)提取 169
10.1　維數(shù)災(zāi)難問(wèn)題 169
10.2　特征選擇 171
10.3　特征變換 173
10.4　主分量分析 175
10.5　獨(dú)立分量分析 177
10.6　監(jiān)測(cè)機(jī)器學(xué)習(xí)算法 179
10.6.1　精度與查全率：垃圾郵件過(guò)濾 179
10.6.2　混淆矩陣 181
10.7　均方誤差 182
10.8　產(chǎn)品環(huán)境的復(fù)雜性 183
10.9　小結(jié) 183
第11章　結(jié)語(yǔ) 185
11.1　機(jī)器學(xué)習(xí)算法回顧 185
11.2　如何利用這些信息來(lái)求解問(wèn)題 186
11.3　未來(lái)的學(xué)習(xí)路線 187
作者介紹 188
封面介紹 188