且构网

分享程序员开发的那些事...
且构网 - 分享程序员编程开发的那些事

《大数据原理:复杂信息的准备、共享和分析》一一导读

更新时间:2022-09-16 22:53:59

前  言

我们不能用导致问题的方法去解决问题。
——Albert Einstein
数以百万计的电脑每时每刻都有数据注入。在全球范围内,所有计算机上存储的数据总量约为3000EB(约3000亿GB),并正以每年28%的速度增加。尽管如此,与未被存储的数据量相比,存储下来的数据量仍是微不足道的。据统计,每年约有1.9ZB的数据传输量(约19 000亿GB;见术语表,Binary sizes)1。日益纷繁复杂的数字化信息将引发新一代数据资源的涌现。
现在,我们有能力从各类资源中得到众多不同类型的数据对象,也能够获取来自未来或遥远过去的数据,这要求我们找到能够准确描述每个数据片段的方法,这样就不至于将数据项混淆,进而能够在需要的时候搜索和追踪对应的数据项。精明的信息学专家明白一个道理:如果要在我们的星球上精确地描述每一件事,必然需要一个“辅助星球”来掌控所有信息,同时后者也必然要比我们的物理星球大很多。
急于获取和分析数据时,往往容易忽视数据的准备工作。如果大数据资源中的数据没有得到有效的组织、综合和准确的描述,那么这些数据资源将毫无价值。本书的首要目标是解释大数据资源建立的原理。大数据资源中的所有数据必须具备某种形式以支持搜索、检索和分析,分析方法必须可再现,分析结果必须可验证。
大数据潜在的最大益处也许是它能够连接一些看似无关的学科,从而开发和测试那些无法通过单个学科领域知识完成的假设性想法。

目录

第0章 引  言 这是数据。 ―Jim Gray
0.1 大数据的定义
0.2 大数据VS小数据
0.3 大数据在哪里
0.4 大数据最常见的目的是产生小数据
0.5 机会
0.6 大数据成为信息宇宙的中心
第1章 为非结构化数据提供结构
1.1 背景
1.2 机器翻译
1.3 自动编码 格物致知。
1.4 索引
1.5 术语提取
第2章
2.1 背景
[2.2 标识符系统的特征]()
2.3 注册唯一对象标识符
2.4 糟糕的标识方法
2.5 在标识符中嵌入信息:不推荐
2.6 单向哈希函数
2.7 案例:医院登记
2.8 去标识化
2.9 数据清洗
2.10 重标识
2.11 经验教训