深度學(xué)習(xí)嵌入式應(yīng)用開(kāi)發(fā)：基于RK3399Pro和RK3588

前言
第1章　深度學(xué)習(xí)基礎(chǔ)　1
1.1　深度學(xué)習(xí)的現(xiàn)實(shí)應(yīng)用　2
1.1.1　計(jì)算機(jī)視覺(jué)　2
1.1.2　自然語(yǔ)言處理　2
1.1.3　推薦系統(tǒng)　3
1.1.4　語(yǔ)音處理　3
1.1.5　其他領(lǐng)域　3
1.2　回歸問(wèn)題和分類(lèi)問(wèn)題　4
1.2.1　線性回歸　5
1.2.2　Softmax分類(lèi)　6
1.3　梯度下降算法　8
1.3.1　優(yōu)化算法概述　8
1.3.2　隨機(jī)梯度下降算法　10
1.3.3　小批量梯度下降算法　13
1.3.4　Momentum梯度下降
算法　14
1.3.5　Adam優(yōu)化算法　15
1.4　神經(jīng)網(wǎng)絡(luò)　16
1.4.1　神經(jīng)網(wǎng)絡(luò)的表示　16
1.4.2　激活函數(shù)及其導(dǎo)數(shù)　19
1.4.3　前向傳播和反向傳播　23
1.4.4　神經(jīng)網(wǎng)絡(luò)的梯度下降　26
1.5　本章小結(jié)　27
第2章　卷積神經(jīng)網(wǎng)絡(luò)　28
2.1　卷積基礎(chǔ)知識(shí)　28
2.1.1　卷積操作　29
2.1.2　池化　33
2.1.3　卷積的變種　34
2.2　深度卷積神經(jīng)網(wǎng)絡(luò)　37
2.2.1　卷積神經(jīng)網(wǎng)絡(luò)的整體
結(jié)構(gòu)　37
2.2.2　殘差結(jié)構(gòu)和1×1卷積　38
2.2.3　經(jīng)典卷積網(wǎng)絡(luò)　41
2.3　卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用　44
2.3.1　圖像分類(lèi)　44
2.3.2　目標(biāo)檢測(cè)　45
2.3.3　其他應(yīng)用　49
2.4　本章小結(jié)　49
第3章　循環(huán)神經(jīng)網(wǎng)絡(luò)　50
3.1　深度循環(huán)神經(jīng)網(wǎng)絡(luò)　50
3.1.1　循環(huán)神經(jīng)網(wǎng)絡(luò)概述　51
3.1.2　基于時(shí)間的反向傳播　52
3.1.3　循環(huán)神經(jīng)網(wǎng)絡(luò)的長(zhǎng)期依賴(lài)
問(wèn)題　54
3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)變體　55
3.2.1　長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)　55
3.2.2　門(mén)控循環(huán)神經(jīng)網(wǎng)絡(luò)　60
3.3　序列模型和注意力機(jī)制　61
3.3.1　Seq2Seq序列模型　62
3.3.2　注意力機(jī)制　64
3.3.3　Transformer結(jié)構(gòu)　69
3.4　循環(huán)神經(jīng)網(wǎng)絡(luò)的應(yīng)用　74
3.4.1　自然語(yǔ)言處理　74
3.4.2　語(yǔ)音識(shí)別　84
3.4.3　喚醒詞檢測(cè)　87
3.5　本章小結(jié)　88
第4章　深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練　90
4.1　深度學(xué)習(xí)的學(xué)習(xí)策略　90
4.1.1　數(shù)據(jù)集劃分和評(píng)估指標(biāo)　90
4.1.2　偏差、方差和誤差　94
4.1.3　神經(jīng)網(wǎng)絡(luò)的權(quán)重初始化　95
4.2　深度學(xué)習(xí)的訓(xùn)練技巧　96
4.2.1　梯度消失和梯度爆炸　96
4.2.2　正則化和隨機(jī)失活　97
4.2.3　歸一化　99
4.2.4　自適應(yīng)學(xué)習(xí)率　100
4.2.5　超參數(shù)優(yōu)化　101
4.3　改善模型表現(xiàn)　102
4.3.1　解決數(shù)據(jù)不匹配問(wèn)題　102
4.3.2　遷移學(xué)習(xí)　103
4.4　動(dòng)手訓(xùn)練神經(jīng)網(wǎng)絡(luò)　104
4.4.1　Jupyter Notebook的
使用　104
4.4.2　訓(xùn)練MNIST手寫(xiě)數(shù)字識(shí)別模型　106
4.4.3　TensorBoard的使用　112
4.5　本章小結(jié)　115
第5章　RK3399Pro芯片功能與
架構(gòu)　116
5.1　RK3399Pro芯片的整體架構(gòu)　116
5.2　神經(jīng)網(wǎng)絡(luò)處理單元　121
5.2.1　神經(jīng)網(wǎng)絡(luò)處理單元的
4個(gè)模塊　122
5.2.2　RKNN-Toolkit開(kāi)發(fā)
套件　123
5.2.3　RKNN-API開(kāi)發(fā)套件　126
5.3　視頻處理單元　126
5.4　圖形處理加速單元　128
5.5　本章小結(jié)　128
第6章　TB-RK3399Pro開(kāi)發(fā)板　130
6.1　開(kāi)發(fā)板硬件環(huán)境介紹　130
6.1.1　硬件總覽　130
6.1.2　硬件規(guī)格　131
6.2　開(kāi)發(fā)板開(kāi)發(fā)環(huán)境搭建　134
6.2.1　開(kāi)發(fā)板的啟動(dòng)和網(wǎng)絡(luò)
配置　134
6.2.2　終端與軟件包安裝　138
6.3　本章小結(jié)　144
第7章　基于TB-RK3399Pro進(jìn)行卷積神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn)　145
7.1　TB-RK3399Pro圖像采集　145
7.1.1　原理　145
7.1.2　實(shí)戰(zhàn)　146
7.2　TB-RK3399Pro手寫(xiě)數(shù)字
識(shí)別　147
7.2.1　原理　147
7.2.2　實(shí)戰(zhàn)　150
7.3　TB-RK3399Pro YOLO目標(biāo)
檢測(cè)　152
7.3.1　原理　153
7.3.2　實(shí)戰(zhàn)　154
7.4　TB-RK3399Pro人臉識(shí)別　156
7.4.1　原理　156
7.4.2　實(shí)戰(zhàn)　162
7.5　本章小結(jié)　163
第8章　TB-RK3399Pro神經(jīng)網(wǎng)絡(luò)
運(yùn)算加速　165
8.1　神經(jīng)網(wǎng)絡(luò)運(yùn)算加速引擎介紹　165
8.2　神經(jīng)網(wǎng)絡(luò)模型部署和推理　166
8.2.1　模型部署　167
8.2.2　模型推理　169
8.3　神經(jīng)網(wǎng)絡(luò)模型量化　170
8.4　本章小結(jié)　173
第9章　基于TB-RK3399Pro開(kāi)發(fā)板進(jìn)行循環(huán)神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn)　174
9.1　TB-RK3399Pro開(kāi)發(fā)板聲音
采集　174
9.1.1　必備環(huán)境安裝　174
9.1.2　聲音采集　175
9.2　語(yǔ)音識(shí)別模型介紹　176
9.2.1　特征提取　177
9.2.2　語(yǔ)音識(shí)別網(wǎng)絡(luò)　180
9.2.3　評(píng)價(jià)指標(biāo)　182
9.3　TB-RK3399Pro語(yǔ)音識(shí)別
實(shí)戰(zhàn)　182
9.3.1　實(shí)戰(zhàn)目的　182
9.3.2　實(shí)戰(zhàn)數(shù)據(jù)　182
9.3.3　實(shí)戰(zhàn)環(huán)境　183
9.3.4　實(shí)戰(zhàn)步驟　183
9.3.5　實(shí)戰(zhàn)結(jié)果　187
9.4　本章小結(jié)　188
第10章　基于Rock-X API的深度
學(xué)習(xí)案例　189
10.1　Rock-X SDK介紹　189
10.2　Rock-X環(huán)境部署　190
10.3　目標(biāo)檢測(cè)　190
10.4　車(chē)牌識(shí)別