Python遷移學(xué)習(xí)

第 1部分　深度學(xué)習(xí)基礎(chǔ)
第 1章　機(jī)器學(xué)習(xí)基礎(chǔ)\t2
1．1　什么是機(jī)器學(xué)習(xí)\t3
1．1．1　機(jī)器學(xué)習(xí)的正式定義\t4
1．1．2　淺層學(xué)習(xí)和深度學(xué)習(xí)\t4
1．2　機(jī)器學(xué)習(xí)算法\t5
1．2．1　監(jiān)督學(xué)習(xí)\t6
1．2．2　無(wú)監(jiān)督學(xué)習(xí)\t9
1．3　CRISP-DM\t11
1．3．1　業(yè)務(wù)理解\t12
1．3．2　數(shù)據(jù)理解\t12
1．3．3　數(shù)據(jù)準(zhǔn)備\t13
1．3．4　建模\t13
1．3．5　評(píng)估\t13
1．3．6　部署\t14
1．4　標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)工作流\t14
1．4．1　數(shù)據(jù)檢索\t15
1．4．2　數(shù)據(jù)準(zhǔn)備\t15
1．4．3　建模\t16
1．4．4　模型評(píng)估和調(diào)優(yōu)\t17
1．4．5　部署和監(jiān)控\t21
1．5　探索性數(shù)據(jù)分析\t22
1．6　特征提取和特征工程\t29
1．7　特征選擇\t33
1．8　總結(jié)\t34
第 2章　深度學(xué)習(xí)精要\t35
2．1　什么是深度學(xué)習(xí)\t35
2．2　深度學(xué)習(xí)框架\t37
2．3　創(chuàng)建一個(gè)支持GPU的云端深度學(xué)習(xí)環(huán)境\t40
2．3．1　選擇一個(gè)云供應(yīng)商\t41
2．3．2　設(shè)置虛擬服務(wù)器\t41
2．3．3　配置虛擬服務(wù)器\t45
2．3．4　安裝和升級(jí)深度學(xué)習(xí)依賴項(xiàng)\t47
2．3．5　訪問(wèn)深度學(xué)習(xí)云環(huán)境\t52
2．3．6　在深度學(xué)習(xí)環(huán)境中驗(yàn)證啟用GPU\t53
2．4　創(chuàng)建一個(gè)支持GPU的、健壯的內(nèi)部深度學(xué)習(xí)環(huán)境\t55
2．5　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)\t55
2．5．1　一個(gè)簡(jiǎn)單的線性神經(jīng)元\t55
2．5．2　基于梯度的最優(yōu)化問(wèn)題\t56
2．5．3　雅可比矩陣和海森矩陣\t60
2．5．4　導(dǎo)數(shù)的鏈?zhǔn)椒▌t\t61
2．5．5　隨機(jī)梯度下降法\t61
2．5．6　非線性神經(jīng)單元\t64
2．5．7　學(xué)習(xí)一個(gè)簡(jiǎn)單的非線性單元——邏輯單元\t66
2．5．8　損失函數(shù)\t67
2．5．9　數(shù)據(jù)表示\t68
2．5．10　多層神經(jīng)網(wǎng)絡(luò)\t71
2．5．11　反向傳播——訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)\t73
2．5．12　神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中的挑戰(zhàn)\t75
2．5．13　模型參數(shù)初始化\t78
2．5．14　提升SGD\t80
2．5．15　神經(jīng)網(wǎng)絡(luò)的過(guò)擬合和欠擬合\t81
2．5．16　神經(jīng)網(wǎng)絡(luò)的超參數(shù)\t84
2．6　總結(jié)\t85
第3章　理解深度學(xué)習(xí)架構(gòu)\t86
3．1　神經(jīng)網(wǎng)絡(luò)架構(gòu)\t86
3．2　各種神經(jīng)網(wǎng)絡(luò)架構(gòu)\t88
3．2．1　多層感知機(jī)和深度神經(jīng)網(wǎng)絡(luò)\t88
3．2．2　自編碼神經(jīng)網(wǎng)絡(luò)\t88
3．2．3　變分自編碼器\t89
3．2．4　生成式對(duì)抗網(wǎng)絡(luò)\t91
3．2．5　卷積神經(jīng)網(wǎng)絡(luò)\t93
3．2．6　膠囊網(wǎng)絡(luò)\t103
3．2．7　遞歸神經(jīng)網(wǎng)絡(luò)\t107
3．2．8　記憶神經(jīng)網(wǎng)絡(luò)\t114
3．2．9　神經(jīng)圖靈機(jī)\t117
3．2．10　基于注意力的神經(jīng)網(wǎng)絡(luò)模型\t121
3．3　總結(jié)\t122
第 2部分　遷移學(xué)習(xí)精要
第4章　遷移學(xué)習(xí)基礎(chǔ)\t124
4．1　遷移學(xué)習(xí)簡(jiǎn)介\t124
4．2　遷移學(xué)習(xí)策略\t127
4．3　遷移學(xué)習(xí)和深度學(xué)習(xí)\t129
4．3．1　遷移學(xué)習(xí)方法論\t130
4．3．2　預(yù)訓(xùn)練模型\t131
4．3．3　應(yīng)用\t131
4．4　深度遷移學(xué)習(xí)類型\t132
4．4．1　領(lǐng)域適應(yīng)\t132
4．4．2　領(lǐng)域混淆\t132
4．4．3　多任務(wù)學(xué)習(xí)\t133
4．4．4　一次性學(xué)習(xí)\t133
4．4．5　零樣本學(xué)習(xí)\t134
4．5　遷移學(xué)習(xí)的挑戰(zhàn)\t134
4．5．1　負(fù)向遷移\t134
4．5．2　遷移邊界\t135
4．6　總結(jié)\t135
第5章　釋放遷移學(xué)習(xí)的威力\t136
5．1　遷移學(xué)習(xí)的必要性\t137
5．1．1　闡述現(xiàn)實(shí)世界問(wèn)題\t137
5．1．2　構(gòu)建數(shù)據(jù)集\t138
5．1．3　描述方法\t140
5．2　從零開始構(gòu)建CNN模型\t140
5．2．1　基本CNN模型\t143
5．2．2　正則化的CNN模型\t146
5．2．3　圖像增強(qiáng)的CNN模型\t148
5．3　使用預(yù)訓(xùn)練的CNN模型利用遷移學(xué)習(xí)\t153
5．3．1　理解VGG-16模型\t154
5．3．2　作為特征提取器的預(yù)訓(xùn)練CNN模型\t156
5．3．3　作為特征提取器并使用圖像增強(qiáng)的預(yù)訓(xùn)練CNN模型\t162
5．3．4　使用微調(diào)和圖像增強(qiáng)的預(yù)訓(xùn)練CNN模型\t164
5．4　評(píng)估我們的深度學(xué)習(xí)模型\t168
5．4．1　模型在一個(gè)樣本測(cè)試圖像上進(jìn)行預(yù)測(cè)\t168
5．4．2　將CNN模型的感知可視化\t170
5．4．3　在測(cè)試數(shù)據(jù)上評(píng)估模型性能\t174
5．5　總結(jié)\t177
第3部分　遷移學(xué)習(xí)案例研究
第6章　圖像識(shí)別和分類\t180
6．1　基于深度學(xué)習(xí)的圖像分類\t180
6．2　基準(zhǔn)數(shù)據(jù)集\t181
6．3　最先進(jìn)的深度圖像分類模型\t182
6．4　圖像分類和遷移學(xué)習(xí)\t183
6．4．1　CIFAR-10數(shù)據(jù)集\t183
6．4．2　犬種鑒定數(shù)據(jù)集\t189
6．5　總結(jié)\t199
第7章　文本文檔分類\t200
7．1　文本分類\t201
7．1．1　傳統(tǒng)文本分類\t201
7．1．2　BoW模型的缺點(diǎn)\t202
7．1．3　基準(zhǔn)數(shù)據(jù)集\t203
7．2　單詞表示形式\t204
7．2．1　Word2vec模型\t204
7．2．2　使用gensim框架的Word2vec模型\t205
7．2．3　GloVe模型\t208
7．3　CNN文檔模型\t210
7．3．1　構(gòu)建一個(gè)評(píng)論情感分類器\t216
7．3．2　哪些單詞嵌入變化最大\t220
7．3．3　遷移學(xué)習(xí)在IMDB數(shù)據(jù)集中的應(yīng)用\t220
7．3．4　使用Wordvec嵌入在完整的IMDB數(shù)據(jù)集上進(jìn)行訓(xùn)練\t223
7．3．5　使用CNN模型創(chuàng)建文檔摘要\t224
7．3．6　使用CNN模型進(jìn)行多類別分類\t228
7．3．7　文檔嵌入可視化\t231
7．4　總結(jié)\t233
第8章　音頻事件識(shí)別和分類\t234
8．1　理解音頻事件分類\t235
8．2　音頻事件的探索性分析\t236
8．3　音頻事件的特征工程和表示方法\t245
8．4　使用遷移學(xué)習(xí)進(jìn)行音頻事件分類\t249
8．4．1　根據(jù)基本特征構(gòu)建數(shù)據(jù)集\t250
8．4．2　利用遷移學(xué)習(xí)進(jìn)行特征提取\t251
8．4．3　構(gòu)建分類模型\t253
8．4．4　評(píng)估分類器的性能\t257
8．5　構(gòu)建一個(gè)深度學(xué)習(xí)音頻事件識(shí)別器\t260
8．6　總結(jié)\t263
第9章　DeepDream\t264
9．1　介紹\t264
9．1．1　計(jì)算機(jī)視覺(jué)中的算法幻想性視錯(cuò)覺(jué)\t265
9．1．2　可視化特征圖\t267
9．2　DeepDream算法\t273
9．3　總結(jié)\t277
第 10章　風(fēng)格遷移\t278
10．1　理解神經(jīng)風(fēng)格遷移\t279
10．2　圖像預(yù)處理方法\t280
10．3　構(gòu)建損失函數(shù)\t282
10．3．1　內(nèi)容損失\t282
10．3．2　風(fēng)格損失\t283
10．3．3　總變差損失\t283
10．3．4　總體損失函數(shù)\t284
10．4　創(chuàng)建一個(gè)自定義優(yōu)化器\t285
10．5　風(fēng)格遷移實(shí)戰(zhàn)\t286
10．6　總結(jié)\t290
第 11章　自動(dòng)圖像掃描生成器\t291
11．1　理解圖像描述\t292
11．2　明確目標(biāo)\t293
11．3　理解數(shù)據(jù)\t294
11．4　構(gòu)建自動(dòng)圖像描述系統(tǒng)的方法\t295
11．4．1　概念方法\t295
11．4．2　實(shí)際動(dòng)手的方法\t299
11．5　使用遷移學(xué)習(xí)的圖像特征提取\t301
11．6　為描述構(gòu)建一個(gè)詞匯表\t306
11．7　構(gòu)建一個(gè)圖像描述數(shù)據(jù)集生成器\t308
11．8　構(gòu)建圖像語(yǔ)言編碼器-解碼器深度學(xué)習(xí)模型\t314
11．9　訓(xùn)練圖像描述深度學(xué)習(xí)模型\t316
11．10　評(píng)估圖像描述深度學(xué)習(xí)模型\t320
11．10．1　加載數(shù)據(jù)和模型\t320
11．10．2　理解貪婪搜索和集束搜索\t321
11．10．3　實(shí)現(xiàn)一個(gè)基于集束搜索的描述生成器\t321
11．10．4　理解并實(shí)現(xiàn)BLEU分?jǐn)?shù)\t323
11．10．5　在測(cè)試數(shù)據(jù)上評(píng)估模型性能\t324
11．11　自動(dòng)圖像描述實(shí)戰(zhàn)\t327
11．11．1　戶外場(chǎng)景樣本圖像描述\t329
11．11．2　流行運(yùn)動(dòng)樣本圖像描述\t332
11．11．3　未來(lái)的改進(jìn)空間\t334
11．12　總結(jié)\t334
第 12章　圖像著色\t335
12．1　問(wèn)題陳述\t336
12．2　彩色圖像\t336
12．2．1　顏色理論\t337
12．2．2　顏色模型和顏色
空間\t337
12．2．3　重審問(wèn)題陳述\t339
12．3　構(gòu)建一個(gè)著色深度神經(jīng)網(wǎng)絡(luò)\t341
12．3．1　預(yù)處理\t341
12．3．2　損失函數(shù)\t342
12．3．3　編碼器\t343
12．3．4　遷移學(xué)習(xí)——特征提取\t344
12．3．5　融合層\t344
12．3．6　解碼器\t345
12．3．7　后處理\t347
12．3．8　訓(xùn)練和結(jié)果\t348
12．4　挑戰(zhàn)\t350
12．5　進(jìn)一步改進(jìn)\t350
12．6　總結(jié)\t350