人工智能安全

第1章 概述 1
1.1 人工智能的發(fā)展、應用及其安全性 1
1.1.1 人工智能的發(fā)展 1
1.1.2 人工智能的應用 4
1.1.3 人工智能帶來的安全問題 6
1.2 人工智能安全的范疇 9
1.2.1 人工智能安全的范疇與特征 9
1.2.2 人工智能安全的分類 12
1.3 人工智能安全治理 18
1.3.1 人工智能安全與技術標準 22
1.3.2 人工智能安全與法律 23
1.3.3 人工智能安全倫理道德 24
1.3.4 人工智能安全評估評測 24
1.4 本章小結 24
參考文獻 25
本章執(zhí)筆人 29
第2章 可信計算保障人工智能安全 30
2.1 可信計算技術 30
2.1.1 可信計算簡介 30
2.1.2 可信計算相關技術 31
2.1.3 可信計算標準體系 35
2.2 基于可信計算構建安全可信的人工智能計算環(huán)境 36
2.2.1 人工智能系統(tǒng)啟動環(huán)境度量保護 37
2.2.2 人工智能系統(tǒng)運行環(huán)境度量保護 40
2.2.3 人工智能計算環(huán)境可信報告 44
2.2.4 人工智能數(shù)據(jù)可信存儲 45
2.2.5 人工智能系統(tǒng)可信審計 48
2.3 基于可信計算實現(xiàn)人工智能數(shù)據(jù)可信交互 50
2.3.1 人工智能數(shù)據(jù)可信交互連接架構 50
2.3.2 人工智能數(shù)據(jù)可信交互過程 53
2.4 本章小結 54
參考文獻 54
本章執(zhí)筆人 55
第3章 無人系統(tǒng)安全 56
3.1 無人駕駛安全 56
3.1.1 無人駕駛安全研究概述 56
3.1.2 現(xiàn)狀與發(fā)展趨勢 58
3.1.3 研究內容 60
3.1.4 我國無人駕駛的人工智能安全方案和風險應對策略 73
3.2 多無人系統(tǒng)協(xié)同 76
3.2.1 發(fā)展方向與進展 76
3.2.2 安全要素分析 78
3.2.3 技術保障措施 88
3.3 本章小結 91
參考文獻 91
本章執(zhí)筆人 94
第4章 基于類腦計算的強人工智能及其安全 95
4.1 概念界定及其技術實現(xiàn)途徑 95
4.1.1 相關基本概念 95
4.1.2 關于強人工智能發(fā)展與實現(xiàn)的觀點 98
4.1.3 基于類腦計算的強人工智能 99
4.2 時間預測及潛在安全問題分析 104
4.2.1 發(fā)展階段預測 104
4.2.2 時間點預測 109
4.2.3 理論及技術研究階段的潛在安全問題 113
4.2.4 應用階段的潛在安全問題 116
4.3 安全風險對策與風險預防策略研究 118
4.3.1 安全風險評估及風險對策研究 118
4.3.2 理論及技術研究階段的風險預防策略 121
4.3.3 應用階段的風險預防策略研究 126
4.4 本章小結 128
參考文獻 129
本章執(zhí)筆人 133
第5章 智能制造和智能城市中的人工智能應用安全 134
5.1 智能制造中的人工智能應用安全 134
5.1.1 發(fā)展現(xiàn)狀 135
5.1.2 應用場景 143
5.1.3 安全風險分析 145
5.1.4 安全技術體系 150
5.1.5 重點產(chǎn)業(yè)與應用發(fā)展方向 150
5.2 智能城市中的人工智能應用安全 152
5.2.1 發(fā)展現(xiàn)狀 152
5.2.2 應用場景 157
5.2.3 安全風險分析 160
5.2.4 安全技術體系 163
5.2.5 重點產(chǎn)業(yè)與應用發(fā)展方向 163
5.3 本章小結 165
參考文獻 165
本章執(zhí)筆人 167
第6章 網(wǎng)絡安全 168
6.1 概述 168
6.2 應用現(xiàn)狀與趨勢 169
6.2.1 在網(wǎng)絡攻擊中的應用 169
6.2.2 在網(wǎng)絡防御中的應用 176
6.3 應用引發(fā)的安全問題與應對 187
6.3.1 應用引發(fā)的安全問題與應對措施綜述 187
6.3.2 對抗樣本問題 190
6.3.3 對抗樣本問題的應對措施 191
6.4 值得深入研究的內容 193
6.4.1 基于人工智能技術的網(wǎng)絡攻擊 194
6.4.2 基于人工智能技術的網(wǎng)絡防御 195
6.4.3 針對人工智能技術的網(wǎng)絡攻擊 195
6.4.4 針對人工智能技術的網(wǎng)絡防御 197
6.5 本章小結 198
參考文獻 199
本章執(zhí)筆人 204
第7章 人工智能安全可控的產(chǎn)業(yè)生態(tài)建設 205
7.1 安全可控的產(chǎn)業(yè)生態(tài)建設的概念與內涵 205
7.2 我國人工智能安全可控水平分析 206
7.2.1 國內外人工智能應用技術發(fā)展研究 206
7.2.2 我國人工智能安全可控需要解決的主要問題 221
7.3 我國人工智能產(chǎn)業(yè)生態(tài)建設現(xiàn)狀分析 228
7.3.1 人工智能產(chǎn)業(yè)生態(tài)現(xiàn)狀分析 229
7.3.2 我國人工智能產(chǎn)業(yè)生態(tài)建設存在的主要問題 232
7.4 我國人工智能安全可控與產(chǎn)業(yè)生態(tài)建設 233
7.4.1 人工智能產(chǎn)業(yè)生態(tài)建設與安全可控水平的關系 233
7.4.2 我國安全可控的人工智能軟硬件發(fā)展目標 234
7.4.3 我國安全可控的人工智能產(chǎn)業(yè)生態(tài)發(fā)展目標 234
7.4.4 我國IT產(chǎn)業(yè)發(fā)展對安全可控的人工智能產(chǎn)業(yè)生態(tài)建設的
啟示 235
7.5 建設安全可控的人工智能產(chǎn)業(yè)生態(tài)的措施 236
7.5.1 加強對人工智能安全可控發(fā)展的頂層設計 236
7.5.2 加強人工智能應用技術的安全可控能力 237
7.5.3 強化安全可控的人工智能產(chǎn)業(yè)生態(tài)建設 238
7.5.4 人工智能應用產(chǎn)業(yè)鏈要素安全可控 239
7.6 本章小結 241
參考文獻 241
本章執(zhí)筆人 242
第8章 人工智能安全標準與風險評估預警 243
8.1 人工智能安全標準 243
8.1.1 人工智能安全標準的理論和實踐意義 243
8.1.2 人工智能安全標準研制概況 244
8.1.3 ISO/IEC JTC1人工智能技術安全相關標準 248
8.1.4 ITU-T人工智能應用安全相關標準 249
8.1.5 IEEE人工智能倫理道德安全相關標準 249
8.1.6 NIST組織研制人工智能安全相關標準 251
8.1.7 我國的人工智能安全標準 251
8.1.8 基于模塊劃分的人工智能安全標準體系分類 254
8.2 人工智能安全風險評估 264
8.2.1 風險評估的概念 264
8.2.2 人工智能安全風險評估原則、流程與方法 265
8.2.3 人工智能安全風險評估指標體系構建 267
8.3 人工智能安全風險預警 278
8.3.1 人工智能安全風險預警方法 278
8.3.2 安全風險預警等級劃分及閾值確定 280
8.4 本章小結 281
參考文獻 281
本章執(zhí)筆人 282
第9章 人工智能法律倫理 283
9.1 人工智能倫理 283
9.2 強人工智能倫理 290
9.2.1 人工智能的倫理風險與治理現(xiàn)狀 291
9.2.2 強人工智能的倫理風險 294
9.2.3 強人工智能體的倫理身份與新型倫理關系 302
9.2.4 向善的強人工智能——優(yōu)化共生設計 307
9.2.5 強人工智能倫理治理的初步思考 309
9.3 人工智能法律治理 310
9.3.1 人工智能應用引發(fā)的法律問題 310
9.3.2 人工智能法律治理原則、機制與規(guī)律 312
9.4 本章小結 317
參考文獻 318
本章執(zhí)筆人 319