PyTorch深度學(xué)習(xí)

第 1章　PyTorch與深度學(xué)習(xí) 1
1．1　人工智能　1
1．2　機(jī)器學(xué)習(xí)　3
1．3　深度學(xué)習(xí)　4
1．3．1　深度學(xué)習(xí)的應(yīng)用　4
1．3．2　深度學(xué)習(xí)的浮夸宣傳　6
1．3．3　深度學(xué)習(xí)發(fā)展史　6
1．3．4　為何是現(xiàn)在　7
1．3．5　硬件可用性　7
1．3．6　數(shù)據(jù)和算法　8
1．3．7　深度學(xué)習(xí)框架　9
1．4　小結(jié)　10
第　2章 神經(jīng)網(wǎng)絡(luò)的構(gòu)成　11
2．1　安裝PyTorch　11
2．2　實(shí)現(xiàn)第 一個(gè)神經(jīng)網(wǎng)絡(luò)　12
2．2．1　準(zhǔn)備數(shù)據(jù)　13
2．2．2　為神經(jīng)網(wǎng)絡(luò)創(chuàng)建數(shù)據(jù)　20
2．2．3　加載數(shù)據(jù)　24
2．3　小結(jié)　25
第3章　深入了解神經(jīng)網(wǎng)絡(luò)　26
3．1　詳解神經(jīng)網(wǎng)絡(luò)的組成部分　26
3．1．1　層—神經(jīng)網(wǎng)絡(luò)的基本組成　27
3．1．2　非線性激活函數(shù)　29
3．1．3　PyTorch中的非線性激活函數(shù)　32
3．1．4　使用深度學(xué)習(xí)進(jìn)行圖像分類　36
3．2　小結(jié)　46
第4章　機(jī)器學(xué)習(xí)基礎(chǔ)　47
4．1　三類機(jī)器學(xué)習(xí)問題　47
4．1．1　有監(jiān)督學(xué)習(xí)　48
4．1．2　無監(jiān)督學(xué)習(xí)　48
4．1．3　強(qiáng)化學(xué)習(xí)　48
4．2　機(jī)器學(xué)習(xí)術(shù)語　49
4．3　評(píng)估機(jī)器學(xué)習(xí)模型　50
4．4　數(shù)據(jù)預(yù)處理與特征工程　54
4．4．1　向量化　54
4．4．2　值歸一化　54
4．4．3　處理缺失值　55
4．4．4　特征工程　55
4．5　過擬合與欠擬合　56
4．5．1　獲取更多數(shù)據(jù)　56
4．5．2　縮小網(wǎng)絡(luò)規(guī)?！?7
4．5．3　應(yīng)用權(quán)重正則化　58
4．5．4　應(yīng)用dropout　58
4．5．5　欠擬合　60
4．6　機(jī)器學(xué)習(xí)項(xiàng)目的工作流　60
4．6．1　問題定義與數(shù)據(jù)集創(chuàng)建　60
4．6．2　成功的衡量標(biāo)準(zhǔn)　61
4．6．3　評(píng)估協(xié)議　61
4．6．4　準(zhǔn)備數(shù)據(jù)　62
4．6．5　模型基線　62
4．6．6　大到過擬合的模型　63
4．6．7　應(yīng)用正則化　63
4．6．8　學(xué)習(xí)率選擇策略　64
4．7　小結(jié)　65
第5章　深度學(xué)習(xí)之計(jì)算機(jī)視覺　66
5．1　神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介　66
5．2　從零開始構(gòu)建CNN模型　69
5．2．1　Conv2d　71
5．2．2　池化　74
5．2．3　非線性激活—ReLU　75
5．2．4　視圖　76
5．2．5　訓(xùn)練模型　77
5．2．6　狗貓分類問題—從零開始構(gòu)建CNN　80
5．2．7　利用遷移學(xué)習(xí)對(duì)狗貓分類　82
5．3　創(chuàng)建和探索VGG16模型　84
5．3．1　凍結(jié)層　85
5．3．2　微調(diào)VGG16模型　85
5．3．3　訓(xùn)練VGG16模型　86
5．4　計(jì)算預(yù)卷積特征　88
5．5　理解CNN模型如何學(xué)習(xí)　91
5．6　CNN層的可視化權(quán)重　94
5．7　小結(jié)　95
第6章　序列數(shù)據(jù)和文本的深度學(xué)習(xí)　96
6．1　使用文本數(shù)據(jù)　96
6．1．1　分詞　98
6．1．2　向量化　100
6．2　通過構(gòu)建情感分類器訓(xùn)練詞向量　104
6．2．1　下載IMDB數(shù)據(jù)并對(duì)文本分詞　104
6．2．2　構(gòu)建詞表　106
6．2．3　生成向量的批數(shù)據(jù)　107
6．2．4　使用詞向量創(chuàng)建網(wǎng)絡(luò)模型　108
6．2．5　訓(xùn)練模型　109
6．3　使用預(yù)訓(xùn)練的詞向量　110
6．3．1　下載詞向量　111
6．3．2　在模型中加載詞向量　112
6．3．3　凍結(jié)embedding層權(quán)重　113
6．4　遞歸神經(jīng)網(wǎng)絡(luò)（RNN）　113
6．5　LSTM　117
6．5．1　長(zhǎng)期依賴　117
6．5．2　LSTM網(wǎng)絡(luò)　117
6．6　基于序列數(shù)據(jù)的卷積網(wǎng)絡(luò)　123
6．7　小結(jié)　125
第7章　生成網(wǎng)絡(luò)　126
7．1　神經(jīng)風(fēng)格遷移　126
7．1．1　加載數(shù)據(jù)　129
7．1．2　創(chuàng)建VGG模型　130
7．1．3　內(nèi)容損失　131
7．1．4　風(fēng)格損失　131
7．1．5　提取損失　133
7．1．6　為網(wǎng)絡(luò)層創(chuàng)建損失函數(shù)　136
7．1．7　創(chuàng)建優(yōu)化器　136
7．1．8　訓(xùn)練　137
7．2　生成對(duì)抗網(wǎng)絡(luò)（GAN）　138
7．3　深度卷機(jī)生成對(duì)抗網(wǎng)絡(luò)　139
7．3．1　定義生成網(wǎng)絡(luò)　140
7．3．2　定義判別網(wǎng)絡(luò)　144
7．3．3　定義損失函數(shù)和優(yōu)化器　145
7．3．4　訓(xùn)練判別網(wǎng)絡(luò)　145
7．3．5　訓(xùn)練生成網(wǎng)絡(luò)　146
7．3．6　訓(xùn)練整個(gè)網(wǎng)絡(luò)　147
7．3．7　檢驗(yàn)生成的圖片　148
7．4　語言建模　150
7．4．1　準(zhǔn)備數(shù)據(jù)　151
7．4．2　生成批數(shù)據(jù)　152
7．4．3　定義基于LSTM的模型　153
7．4．4　定義訓(xùn)練和評(píng)估函數(shù)　155
7．4．5　訓(xùn)練模型　157
7．5　小結(jié)　159
第8章　現(xiàn)代網(wǎng)絡(luò)架構(gòu)　160
8．1　現(xiàn)代網(wǎng)絡(luò)架構(gòu)　160
8．1．1　ResNet　160
8．1．2　Inception　168
8．2　稠密連接卷積網(wǎng)絡(luò)（DenseNet）　175
8．2．1　DenseBlock　175
8．2．2　DenseLayer　176
8．3　模型集成　180
8．3．1　創(chuàng)建模型　181
8．3．2　提取圖片特征　182
8．3．3　創(chuàng)建自定義數(shù)據(jù)集和數(shù)據(jù)加載器　183
8．3．4　創(chuàng)建集成模型　184
8．3．5　訓(xùn)練和驗(yàn)證模型　185
8．4　encoder-decoder架構(gòu)　186
8．4．1　編碼器　188
8．4．2　解碼器　188
8．5　小結(jié)　188
第9章　未來走向　189
9．1　未來走向　189
9．2　回顧　189
9．3　有趣的創(chuàng)意應(yīng)用　190
9．3．1　對(duì)象檢測(cè)　190
9．3．2　圖像分割　191
9．3．3　PyTorch中的OpenNMT　192
9．3．4　Allen NLP　192
9．3．5　fast．a(chǎn)i—神經(jīng)網(wǎng)絡(luò)不再神秘　192
9．3．6　Open Neural Network Exchange　192
9．4　如何跟上前沿　193
9．5　小結(jié)　193