大規(guī)模數(shù)據(jù)管理

目錄
序 1
前言 3
第1 章 數(shù)據(jù)管理的變革 . 11
1.1 數(shù)據(jù)管理12
1.2 分析正在分割數(shù)據(jù)景觀 .15
1.3 軟件交付的速度正在發(fā)生變化 17
1.4 網(wǎng)絡變得更加快捷 18
1.5 隱私和安全性是重中之重 19
1.6 運營和事物系統(tǒng)需要被整合 20
1.7 數(shù)據(jù)商業(yè)化需要生態(tài)系統(tǒng)到生態(tài)系統(tǒng)的架構(gòu) 20
1.8 企業(yè)受困于過時的數(shù)據(jù)架構(gòu) 21
1.8.1 企業(yè)數(shù)據(jù)倉庫和商業(yè)智能 21
1.8.2 數(shù)據(jù)湖 24
1.8.3 中心化視角 26
1.9 小結(jié) .27
第2 章 初窺可拓展架構(gòu)：大規(guī)模數(shù)據(jù)管理 .29
2.1 普遍認可的起點 30
2.1.1 每一個應用程序都有一個應用程序數(shù)據(jù)庫 30
2.1.2 應用程序都是特定的而且有獨特的上下文 30
2.1.3 黃金數(shù)據(jù)源 31
2.1.4 無法擺脫的數(shù)據(jù)集成困境 31
2.1.5 應用程序既是數(shù)據(jù)提供者也是數(shù)據(jù)消費者 32
2.2 關鍵的理論考量 33
2.2.1 面向?qū)ο蟮木幊淘瓌t.33
2.2.2 領域驅(qū)動設計 35
2.2.3 業(yè)務架構(gòu) .38
2.3 通信和集成模式 45
2.3.1 點對點 46
2.3.2 孤島 46
2.3.3 輪輻模型 .47
2.4 可擴展架構(gòu) 48
2.4.1 黃金數(shù)據(jù)源和域數(shù)據(jù)存儲 49
2.4.2 數(shù)據(jù)交付契約和數(shù)據(jù)共享協(xié)議 .51
2.4.3 擺脫孤島方案 52
2.4.4 企業(yè)規(guī)模的領域驅(qū)動設計 53
2.4.5 讀優(yōu)化的數(shù)據(jù) 56
2.4.6 從整體的視角看數(shù)據(jù)層 58
2.4.7 元數(shù)據(jù)和目標運營模式 61
2.5 小結(jié) .63
第3 章 管理海量數(shù)據(jù)：只讀數(shù)據(jù)存儲架構(gòu) .65
3.1 RDS 架構(gòu)簡介 65
3.2 命令和查詢職責分離 66
3.2.1 什么是CQRS 66
3.2.2 規(guī)模化的CQRS 68
3.3 只讀數(shù)據(jù)存儲組件和服務 73
3.3.1 元數(shù)據(jù) 74
3.3.2 數(shù)據(jù)質(zhì)量 .75
3.3.3 RDS 層級 77
3.3.4 數(shù)據(jù)攝取 .78
3.3.5 集成商業(yè)化現(xiàn)成解決方案 81
3.3.6 從外部API 和SaaS 提取數(shù)據(jù) 82
3.3.7 歷史數(shù)據(jù)服務 82
3.3.8 設計的變化 86
3.3.9 數(shù)據(jù)復制 .88
3.3.10 訪問層 .89
3.3.11 文件操作服務 90
3.3.12 交付通知服務 .91
3.3.13 匿名服務 91
3.3.14 分布式編排92
3.4 智能消費服務 .93
3.5 按需填充RDS 96
3.6 直接使用RDS 的考量 97
3.7 小結(jié) .98
第4 章 API 架構(gòu)的服務和API 管理 99
4.1 API 架構(gòu)簡介 99
4.2 什么是面向服務的架構(gòu) 100
4.2.1 企業(yè)應用集成 104
4.2.2 服務編排 106
4.2.3 服務編舞 110
4.2.4 公共服務和私有服務 111
4.2.5 服務模型和規(guī)范數(shù)據(jù)模型 111
4.2.6 SOA 與企業(yè)數(shù)據(jù)倉庫架構(gòu)的相似之處 . 112
4.3 SOA 的現(xiàn)代觀點 114
4.3.1 API 網(wǎng)關 114
4.3.2 責任模式 116
4.3.3 企業(yè)服務總線的新職責 . 118
4.3.4 服務合約 119
4.3.5 服務發(fā)現(xiàn) 119
4.4 微服務 .120
4.4.1 API 網(wǎng)關在微服務中的作用 122
4.4.2 函數(shù) .122
4.4.3 服務網(wǎng)格 124
4.4.4 微服務的邊界 .125
4.4.5 在API 參考架構(gòu)內(nèi)的微服務 126
4.5 生態(tài)系統(tǒng)通信 127
4.6 基于API 的通信渠道 129
4.6.1 GraphQL 130
4.6.2 為前端服務的后端 131
4.7 元數(shù)據(jù) .131
4.8 利用RDS 進行實時和密集讀取 .133
4.9 小結(jié) 134
第5 章 事件和響應管理：流式架構(gòu) . 137
5.1 流式架構(gòu)簡介 137
5.2 異步事件模型與眾不同 138
5.3 事件驅(qū)動架構(gòu)是什么樣的 .139
5.3.1 調(diào)停者拓撲 .140
5.3.2 代理者拓撲 .141
5.3.3 事件處理風格 .142
5.4 Apache Kafka 簡易入門 143
5.4.1 分布式事件數(shù)據(jù) 145
5.4.2 Apache Kafka 的功能 .147
5.5 流式架構(gòu).148
5.5.1 事件生產(chǎn)者 .148
5.5.2 事件消費者 .151
5.5.3 事件平臺 153
5.5.4 事件溯源和命令溯源154
5.5.5 治理模型 157
5.5.6 業(yè)務流 158
5.5.7 流式數(shù)據(jù)消費模式 161
5.5.8 事件攜帶狀態(tài)轉(zhuǎn)移 163
5.5.9 扮演RDS 的角色 .164
5.5.10 使用流式處理來填充RDS 164
5.5.11 用來指導領域的控制措施和政策 165
5.6 作為運營支撐的流式處理 .166
5.7 保證與一致性 167
5.7.1 一致性水平 .167
5.7.2 “至少一次、恰好一次和至多一次”的處理 167
5.7.3 消息順序 168
5.7.4 死信隊列 168
5.7.5 流式處理的互操作性169
5.8 用于治理和自助服務模型的元數(shù)據(jù)170
5.9 小結(jié) 171
第6 章 將知識串聯(lián)起來 173
6.1 架構(gòu)回顧.173
6.1.1 RDS 架構(gòu) .174
6.1.2 API 架構(gòu) 174
6.1.3 流式架構(gòu) 175
6.1.4 強化模式 175
6.2 企業(yè)互操作性標準 .177
6.2.1 穩(wěn)定的數(shù)據(jù)端點 .178
6.2.2 數(shù)據(jù)交付契約 .181
6.2.3 可訪問和可尋址的數(shù)據(jù) .182
6.2.4 跨網(wǎng)絡原則 .182
6.3 企業(yè)數(shù)據(jù)標準 188
6.3.1 消費優(yōu)化原則 .189
6.3.2 元數(shù)據(jù)的可發(fā)現(xiàn)性 192
6.3.3 語義一致性 .196
6.3.4 提供相應的元數(shù)據(jù) 200
6.3.5 數(shù)據(jù)來源與移動 200
6.4 參考架構(gòu).203
6.5 小結(jié) 204
第7 章 可持續(xù)的數(shù)據(jù)治理與數(shù)據(jù)安全 207
7.1 數(shù)據(jù)治理.207
7.1.1 組織：數(shù)據(jù)治理的角色 .209
7.1.2 流程：數(shù)據(jù)治理的活動 .212
7.1.3 人員：信任與道德、社會和經(jīng)濟的考量 214
7.1.4 技術：黃金數(shù)據(jù)源，所有權(quán)和應用程序管理 214
7.1.5 數(shù)據(jù)：黃金數(shù)據(jù)源，黃金源數(shù)據(jù)集和分類 .216
7.2 數(shù)據(jù)安全.224
7.2.1 時下的孤島方法 225
7.2.2 架構(gòu)的統(tǒng)一數(shù)據(jù)安全225
7.2.3 身份提供者 .227
7.2.4 安全參考架構(gòu)和數(shù)據(jù)上下文方法 .228
7.2.5 安全處理流程 .230
7.3 實踐指南.234
7.3.1 RDS 架構(gòu) .234
7.3.2 API 架構(gòu) 236
7.3.3 流式架構(gòu) 240
7.3.4 智能學習引擎 .241
7.4 小結(jié) 242
第8 章 從數(shù)據(jù)獲取價值 243
8.1 消費模式.244
8.1.1 直接使用只讀數(shù)據(jù)存儲 .244
8.1.2 領域數(shù)據(jù)存儲 .245
8.2 目標運營模式 247
8.3 作為目標用戶群體的數(shù)據(jù)專業(yè)人員248
8.4 業(yè)務需求.250
8.5 非功能性需求 250
8.6 創(chuàng)建數(shù)據(jù)管道和數(shù)據(jù)模型 .252
8.7 分發(fā)集成數(shù)據(jù) 259
8.8 商業(yè)智能能力 260
8.9 自助服務能力 262
8.10 分析能力 265
8.10.1 自動化部署的標準基礎設施 266
8.10.2 無狀態(tài)模型266
8.10.3 預設和配置好的工作臺 266
8.10.4 模型集成模式的標準化 267
8.10.5 自動化 .268
8.10.6 模型元數(shù)據(jù)268
8.11 高級分析參考架構(gòu) 270
8.12 小結(jié) 273
第9 章 掌握企業(yè)數(shù)據(jù)資產(chǎn) 275
9.1 揭秘主數(shù)據(jù)管理 .276
9.2 主數(shù)據(jù)管理風格 .276
9.3 主數(shù)據(jù)管理參考架構(gòu) 278
9.3.1 設計主數(shù)據(jù)管理解決方案 279
9.3.2 MDM 的分發(fā) 281
9.3.3 主標識號 281
9.3.4 參考數(shù)據(jù)與主數(shù)據(jù) 282
9.4 確定企業(yè)數(shù)據(jù)的范圍 283
9.5 MDM 和數(shù)據(jù)質(zhì)量即服務 286
9.6 精選數(shù)據(jù).286
9.6.1 元數(shù)據(jù)交換 .287
9.6.2 集成視圖 288
9.6.3 可復用組件和集成邏輯 .288
9.6.4 數(shù)據(jù)重新發(fā)布 .289
9.7 與數(shù)據(jù)治理的關系 .290
9.8 小結(jié) 290
第10 章 通過元數(shù)據(jù)實現(xiàn)數(shù)據(jù)民主化 293
10.1 元數(shù)據(jù)管理 .294
10.2 企業(yè)元數(shù)據(jù)模型 295
10.3 企業(yè)知識圖譜 303
10.4 元數(shù)據(jù)管理的架構(gòu)方法 307
10.4.1 元數(shù)據(jù)互操作性 .308
10.4.2 元數(shù)據(jù)存儲庫 310
10.5 能提供快速訪問授權(quán)數(shù)據(jù)的市場 313
10.6 小結(jié) 316
第11 章 結(jié)論 317
11.1 交付模式 318
11.1.1 完全去中心化方案 319
11.1.2 部分去中心化方案 320
11.1.3 構(gòu)建團隊 320
11.1.4 內(nèi)部開源策略 321
11.2 文化 322
11.3 技術選擇 323
11.4 傳統(tǒng)企業(yè)架構(gòu)的沒落 .324
11.4.1 藍圖和圖表 324
11.4.2 現(xiàn)代技能 325
11.4.3 控制和管理 325
11.5 最后的話 326
術語 . 327