大数据知识
1、大数据概念：
大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。
2、大数据简介：
“大数据”作为时下最火热的IT行业的词汇，随之而来的数据仓库、数据安全、数据分析、数据挖掘等等围绕大数据的商业价值的利用逐渐成为行业人士争相追捧的利润焦点。
早在1980年，著名未来学家阿尔文·托夫勒便在《第三次浪潮》一书中，将大数据热情地赞颂为“第三次浪潮的华彩乐章”。不过，大约从2009年开始，“大数据”才成为互联网信息技术行业的流行词汇。美国互联网数据中心指出，互联网上的数据每年将增长50%，每两年便将翻一番，而目前世界上90%以上的数据是最近几年才产生的。此外，数据又并非单纯指人们在互联网上发布的信息，全世界的工业设备、汽车、电表上有着无数的数码传感器，随时测量和传递着有关位置、运动、震动、温度、湿度乃至空气中化学物质的变化，也产生了海量的数据信息。
大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。且中国物联网校企联盟认为，物联网的发展离不开大数据，依靠大数据可以提供足够有利的资源。
随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。《著云台》的分析师团队认为，大数据（Big data）通常用来形容一个公司创造的大量非结构化和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。
3、大数据的领域：
大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域。目前人们谈论最多的是大数据技术和大数据应用。
大数据的4个“V”，或者说特点有四个层面：
第一，数据体量巨大。从TB级别，跃升到PB级别。
第二，数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。
第三，价值密度低，商业价值高。以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。
第四，处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。
业界将其归纳为4个“V”——Volume，Variety，Value，Velocity。
4、大数据技术：
大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘电网、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。
大数据技术分为整体技术和关键技术两个方面。
（1）整体技术
数据采集：ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。
数据存取：关系数据库、NOSQL、SQL等。
基础架构：云存储、分布式文件存储等。
数据处理：自然语言处理(NLP，NaturalLanguageProcessing)是研究人与计算机交互的语言问题的一门学科。处理自然语言的关键是要让计算机"理解"自然语言，所以自然语言处理又叫做自然语言理解(NLU，NaturalLanguage Understanding)，也称为计算语言学(Computational Linguistics。一方面它是语言信息处理的一个分支，另一方面它是人工智能(AI, Artificial Intelligence)的核心课题之一。
统计分析：假设检验、显著性检验、差异分析、相关分析、T检验、方差分析、卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析（最优尺度分析）、bootstrap技术等等。
数据挖掘：分类（Classification）、估计（Estimation）、预测（Prediction）、相关性分组或关联规则（Affinity grouping or association rules）、聚类（Clustering）、描述和可视化、Description and Visualization）、复杂数据类型挖掘(Text, Web ,图形图像，视频，音频等)
模型预测：预测模型、机器学习、建模仿真。
结果呈现：云计算、标签云、关系图等。
（2）关键技术
大数据处理关键技术一般包括：大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用（大数据检索、大数据可视化、大数据应用、大数据安全等）。
大数据采集技术：数据是指通过RFID射频数据、传感器数据、社交网络交互数据及移动互联网数据等方式获得的各种类型的结构化、半结构化（或称之为弱结构化）及非结构化的海量数据，是大数据知识服务模型的根本。重点要突破分布式高速高可靠数据爬取或采集、高速数据全映像等大数据收集技术；突破高速数据解析、转换与装载等大数据整合技术；设计质量评估模型，开发数据质量技术。
大数据采集一般分为大数据智能感知层：主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统，实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。基础支撑层：提供大数据服务平台所需的虚拟服务器，结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存储技术，大数据获取、存储、组织、分析和决策操作的可视化接口技术，大数据的网络传输与压缩技术，大数据隐私保护技术等。
大数据预处理技术：主要完成对已接收数据的辨析、抽取、清洗等操作。
1）抽取：因获取的数据可能具有多种结构和类型，数据抽取过程可以帮助我们将这些复杂的数据转化为单一的或者便于处理的构型，以达到快速分析处理的目的。
2）清洗：对于大数据，并不全是有价值的，有些数据并不是我们所关心的内容，而另一些数据则是完全错误的干扰项，因此要对数据通过过滤“去噪”从而提取出有效数据。
大数据存储及管理技术：大数据存储与管理要用存储器把采集到的数据存储起来，建立相应的数据库，并进行管理和调用。重点解决复杂结构化、半结构化和非结构化大数据管理与处理技术。主要解决大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。开发可靠的分布式文件系统（DFS）、能效优化的存储、计算融入存储、大数据的去冗余及高效低成本的大数据存储技术；突破分布式非关系型大数据管理与处理技术，异构数据的数据融合技术，数据组织技术，研究大数据建模技术；突破大数据索引技术；突破大数据移动、备份、复制等技术；开发大数据可视化技术。
开发新型数据库技术，数据库分为关系型数据库、非关系型数据库以及数据库缓存系统。其中，非关系型数据库主要指的是NoSQL数据库，分为：键值数据库、列存数据库、图存数据库以及文档数据库等类型。关系型数据库包含了传统关系数据库系统以及NewSQL数据库。
开发大数据安全技术。改进数据销毁、透明加解密、分布式访问控制、数据审计等技术；突破隐私保护和推理控制、数据真伪识别和取证、数据持有完整性验证等技术。
大数据分析及挖掘技术：大数据分析技术。改进已有数据挖掘和机器学习技术；开发数据网络挖掘、特异群组挖掘、图挖掘等新型数据挖掘技术；突破基于对象的数据连接、相似性连接等大数据融合技术；突破用户兴趣分析、网络行为分析、情感语义分析等面向领域的大数据挖掘技术。
数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘涉及的技术方法很多，有多种分类法。根据挖掘任务可分为分类或预测模型发现、数据总结、聚类、关联规则发现、序列模式发现、依赖关系或依赖模型发现、异常和趋势发现等等；根据挖掘对象可分为关系数据库、面向对象数据库、空间数据库、时态数据库、文本数据源、多媒体数据库、异质数据库、遗产数据库以及环球网Web；根据挖掘方法分，可粗分为:机器学习方法、统计方法、神经网络方法和数据库方法。机器学习中，可细分为:归纳学习方法(决策树、规则归纳等)、基于范例学习、遗传算法等。统计方法中，可细分为:回归分析(多元回归、自回归等)、判别分析(贝叶斯判别、费歇尔判别、非参数判别等)、聚类分析(系统聚类、动态聚类等)、探索性分析(主元分析法、相关分析法等)等。神经网络方法中，可细分为:前向神经网络(BP算法等)、自组织神经网络(自组织特征映射、竞争学习等)等。数据库方法主要是多维数据分析或OLAP方法，另外还有面向属性的归纳方法。
从挖掘任务和挖掘方法的角度，着重突破：1.可视化分析。数据可视化无论对于普通用户或是数据分析专家，都是最基本的功能。数据图像化可以让数据自己说话，让用户直观的感受到结果。2.数据挖掘算法。图像化是将机器语言翻译给人看，而数据挖掘就是机器的母语。分割、集群、孤立点分析还有各种各样五花八门的算法让我们精炼数据，挖掘价值。这些算法一定要能够应付大数据的量，同时还具有很高的处理速度。3.预测性分析。预测性分析可以让分析师根据图像化分析和数据挖掘的结果做出一些前瞻性判断。4.语义引擎。语义引擎需要设计到有足够的人工智能以足以从数据中主动地提取信息。语言处理技术包括机器翻译、情感分析、舆情分析、智能输入、问答系统等。5.数据质量和数据管理。数据质量与管理是管理的最佳实践，透过标准化流程和机器对数据进行处理可以确保获得一个预设质量的分析结果。
大数据展现与应用技术：大数据技术能够将隐藏于海量数据中的信息和知识挖掘出来，为人类的社会经济活动提供依据，从而提高各个领域的运行效率，大大提高整个社会经济的集约化程度。在我国，大数据将重点应用于以下三大领域：商业智能、政府决策、公共服务。例如：商业智能技术，政府决策技术，电信数据信息处理与挖掘技术，电网数据信息处理与挖掘技术，气象信息分析技术，环境监测技术，警务云应用系统（道路监控、视频
监控、网络监控、智能交通、反电信诈骗、指挥调度等公安信息系统），大规模基因序列分析比对技术，Web信息挖掘技术，多媒体数据并行化处理技术，影视制作渲染技术，其他各种行业的云计算和海量数据处理应用技术等。
5、大数据的换算关系
大数据的最小基本单位是Byte，按顺序给出所有单位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、NB、DB，
它们按照进率1024（2的十次方）来计算：
1 Byte = 8 bit 1 KB = 1,024 Bytes
1 MB = 1,024 KB = 1,048,576 Bytes 1 GB = 1,024 MB = 1,048,576 KB
1 TB = 1,024 GB = 1,048,576 MB 1 PB = 1,024 TB = 1,048,576 GB
1 EB = 1,024 PB = 1,048,576 TB 1 ZB = 1,024 EB = 1,048,576 PB
1 YB = 1,024 ZB = 1,048,576 EB 1 NB = 1,024 YB = 1,048,576 ZB
1 DB = 1,024 NB = 1,048,576 YB
6、大数据的应用：
网络日志，RFID，传感器网络，社会网络，社会数据（由于数据革命的社会），互联网文本和文件;互联网搜索索引;呼叫详细记录，天文学，大气科学，基因组学，生物地球化学，生物，和其他复杂和/或跨学科的科研，军事侦察，医疗记录;摄影档案馆视频档案;和大规模的电子商务。
7、大数据的应用案例分析：
（1）PDI是一家领先的医疗商业化公司，Informatica Cloud加强了该公司的销售、客户报告、洞察力和合规性。
Informatica通过确保交付及时和相关的信息，帮助PDI取得高额数据回报，同时减少了企业的应用程序、数据和 CRM 备份成本，更在不到一个月的时间就部署完毕。
解决方案将PDI的Salesforce .com CRM数据复制到基于云的报表系统中，使数据完整且保持最新，完成报表周期所用的时间只是以前所需时间的零头。可以每周、每日甚至实时生成报告，而从前则是30天的周期。
数据集成和CRM备份成本也大幅降低，同时PDI销售团队可以共享他们的业绩视图，跟踪生物医药销售指标和其他促进销售的信息。
PDI的首席信息官Jo AnnSaitta 表示：“离了 Informatica Cloud ，PDI的销售团队就会抓瞎。这种灵活易用、基于 SaaS 的集成服务正帮助公司实现数据的巨大回报，推动本来向下的销售上行，最终提高IT 利润。”
新西兰最大的金融机构 Westpac Life将Informatica 部署在其雄心勃勃的保险项目中，这个项目是一个商业智能环境，帮助金融机构增加收入、留住更多客户、增加交叉销售的潜在客户并降低风险。
系统提供了一个可信业务和保险客户数据的单一来源，有望交出240 %以上的投资回报，保单的生命周期收入提高至少一个百分点。
Informatica 还助力Westpac的社交媒体项目，利用客户所说的话，从而将客户放在Westpac 活动的前沿和中心。
超过120 万客户每月进行三百万的在线交易，庞大的数据集带来了复杂的挑战。但是通过
部署Informatica 平台，避免了在孤岛上作出决策。可基于具有高级报告和可视化的全盘信息，在保密情况下通过强大数据治理作出战略决策。
Westpac Life新西兰有限公司的保险负责人KevinCrowley说：“在财务不确定性的环境中，更快作出决策所需的财务效率和业务洞察是Westpac 已经解决的挑战。因为有Informatica ，我们有更好的定位，对更大透明度的需求作出响应，并将公司的客户保险数据资产转化为业务洞察力。”
实现最大回报
Informatica深知，对于很多企业来说，向数据回报模型的转变不会一蹴而就。管理数据并将其成本降低的短期要求将会是首要焦点，同样还需要打破障碍以了解数据。企业只有这时才可以开始从传统和新兴数据集获得更多价值。Informatica可提供数据集成平台和领导力，为企业提供全程帮助。
（2）、15IBM战略，IBM的大数据战略以其在2012年5月发布智慧分析洞察“3A5步”动态路线图作为基础。所谓“3A5步”，指的是在“掌握信息”（Align）的基础上“获取洞察”（Anticipate），进而采取行动（Act），优化决策策划能够救业务绩效。除此之外，还需要不断地“学习”（Learn）从每一次业务结果中获得反馈，改善基于信息的决策流程，从而实现“转型”（Transform）。
基于“3A5步”动态路线图，IBM提出了“大数据平台”架构。该平台的四大核心能力包括Hadoop系统、流计算（StreamComputing）、数据仓库（Data Warehouse）和信息整合与治理（Information Integration and Governance）。如下图所示。
在大数据处理领域，IBM于2012年10月推出了IBMPureSystems专家集成系统的新成员——IBM PureData系统。这是IBM在数据处理领域发布的首个集成系统产品系列。PureData 系统具体包含三款产品，分别为PureDataSystem for Transactions、PureData System forAnalytics和PureData System for Operational Analytics，可分别应用于OLTP（联机事务处理）、OLAP（联机分析处理）和大数据分析操作。与此前发布的IBMPureSystems 系列产品一样，IBM PureData系统提供内置的专业知识、源于设计的集成，以及在其整个生命周期中的简化体验。
（3）、大数据时代的热潮，微软公司生产了一款数据驱动的软件，主要是为工程建设节约资源提高效率。在这个过程里可以为世界节约40%的能源。抛开这个软件的前景不看，从微软团队致力于研究开始，可以看他们的目标不仅是为了节约了能源，更加关注智能化运营。通过跟踪取暖器、空调、风扇以及灯光等积累下来的超大量数据，捕捉如何杜绝能源浪费。“给我提供一些数据，我就能做一些改变。如果给我提供所有数据，我就能拯救世界。”微软史密斯这样说。而智能建筑正是他的团队专注的事情。
8、大数据在国内的应用环境：
国内的企业跟美国比较，有一个很重要的特性就是人口基数的区别，中国消费群体所产生的，我们需要的是以数据为中心的SOA还是以SOA为中心的数据？
SOA编程模型
答案取决于如何处理的SOA-数据关系的三个不同模型来管理大数据、云数据和数据层次结构。在越来越多的虚拟资源中，将这些模型之间所有类型的数据进行最优拟合是SOA 所面临的巨大挑战之一。本文详细介绍了每个SOA模型管理数据的优点、选择和选项。
SOA的三个数据中心模型分别是数据即服务(DaaS)模型、物理层次结构模型和架构组件模型。DaaS数据存取的模型描述了数据是如何提供给SOA组件的。物理模型描述了数据是如何存储的以及存储的层次图是如何传送到SOA数据存储器上的。最后，架构模型描述了数据、数据管理服务和SOA组件之间的关系。
SOA和数据企业的例子
也许以极限情况为开始是理解SOA数据问题的最好方式：一个企业的数据需求完全可以由关系数据库管理系统(RDBMS)中的条款来表示。这样一个企业可能会直接采用数据库设备或者将专用的数据库服务器和现有的查询服务连接到SOA组件（查询即服务，或QaaS）上。这种设计理念之前已经被人们所接受。该设计之所以成功是因为它平衡了上述三个模型之间的关系。QaaS服务模型不是机械地连接到存储器上；而是通过一个单一的架构——RDBMS（关系型数据库管理系统）。数据去重和完整性便于管理单一的架构。
通过大数据的例子可以更好地理解为什么这个简单的方法却不能在更大的范围内处理数据。多数的大数据是非关系型的、非交易型的、非结构化的甚至是未更新的数据。由于缺乏数据结构因此将其抽象成一个查询服务并非易事，由于数据有多个来源和形式因此很少按序存储，并且定义基础数据的完整性和去重过程是有一些规则的。当作为大数据引入到SOA 的应用程序中时，关键是要定义三种模型中的最后一种模型，SOA数据关系中的架构模型。有两种选择：水平方向和垂直方向。
SOA和各类数据模型
在水平集成数据模型中，数据收集隐蔽于一套抽象的数据服务器，该服务器有一个或多个接口连接到应用程序上，也提供所有的完整性和数据管理功能。组件虽不能直接访问数据，但作为一种即服务形式，就像他们在简单情况下的企业，其数据的要求是纯粹的RDBMS模型。应用程序组件基本上脱离了RDBMS与大数据之间数据管理的差异。尽管由于上述原因这种方法不能创建简单的RDBMS查询模型，但是它至少复制了我们上面提到的简单的RDBMS模型。垂直集成的数据模型以更多应用程序特定的方式连接到数据服务上，该方式使得客户关系管理、企业资源规划或动态数据认证的应用程序数据很大程度在服务水平上相互分离，这种分离直接涉及到数据基础设施。在某些情况下，这些应用程序或许有可以直接访问存储/数据服务的SOA组件。为了提供更多统一的数据完整性和管理，管理服务器可以作为SOA组件来操作各种数据库系统，以数据库特定的方式执行常见的任务，如去重和完整性检查。这种方法更容易适应于遗留应用和数据结构, 但它在问数据何访方式上会破坏SOA即服务原则，也可能产生数据管理的一致性问题。
SOA和水平数据模型
毫无疑问水平模型更符合SOA原则，因为它更彻底地从SOA组件中抽象出了数据服务。不过，为了使其有效，有必要对非关系型数据库进行抽象定义和处理低效率与抽象有关的流程——SOA架构师知道除非小心的避免此类事情否则这将会成为不可逾越的障碍。
水平的SOA数据策略已经开始应用于适用大数据的抽象数据。解决这个问题最常见的方法是MapReduce，可以应用于Hadoop形式的云构架。Hadoop以及类似的方法可以分发、管理和访问数据，然后集中查询这一分布式信息的相关结果。实际上，SOA组件应将MapReduce和类似数据分析功能作为一种查询功能应用。
上述问题的一个解决方案是现代分层存储模式。数据库不是磁盘，而是一组相互连接的高速缓存点，其存储于本地内存中，也可能转向固态硬盘，然后到本地磁盘，最后到云存储。缓存算法处理这些缓存点之间的活动，从而来平衡存储成本（同时也是平衡同步地更新成本）和性能。
对于大数据，它也是经常可以创建适用于大多数分析的汇总数据。例如一个计算不同地点车辆数量的交通遥测应用。这中方法可以产生大量的数据，但是如果汇总数据最后一分钟还存储在内存中，最后一小时存储在闪存中，最后一天存在磁盘上，那么控制应用程序所需的实际时间可以通过快速访问资源得到满足,然而假设分析时我们可以使用一些更便宜、更慢的应用程序是会怎样。
SOA都是抽象的，但当抽象隐藏了底层影响性能和响应时间的复杂性时，这种抽象的危险程
度会提高。数据访问也是这样的，因此,SOA架构师需要认真地考虑抽象与性能之间的平衡关系，并为其特定的业务需求优化它。
9、大数据对我们生活的影响：
“大数据”的影响，增加了对信息管理专家的需求，甲骨文，IBM，微软和SAP花了超过15亿美元的在软件智能数据管理和分析的专业公司。这个行业自身价值超过1000亿美元，增长近10%，每年两次，这大概是作为一个整体的软件业务的快速。
大数据已经出现，因为我们生活在一个社会中有更多的东西。有46亿全球移动电话用户有1亿美元和20亿人访问互联网。基本上，人们比以往任何时候都与数据或信息交互。 1990年至2005年，全球超过1亿人进入中产阶级，这意味着越来越多的人，谁收益的这笔钱将成为反过来导致更多的识字信息的增长。思科公司预计，到2013年，在互联网上流动的交通量将达到每年667艾字节。
大数据，其影响除了经济方面的，它同时也能在政治、文化等方面产生深远的影响，大数据可以帮助人们开启循“数”管理的模式，也是我们当下“大社会”的集中体现，三分技术，七分数据，得数据者得天下。
大数据是时下最火热的IT行业的词汇，全球知名咨询公司麦肯锡称：“数据，已经渗透
到当今每一个行业和业务职能领域，成为重要的生产因素。
人们对于海量数据的挖掘和运用，预示着新一波生产率增长和消费者盈余浪潮的到来”。“大数据”在物理学、生物学、环境生态学等领域以及军事、金融、通讯等行业存在已有时日，却因为近年来互联网和信息行业的发展而引起人们关注。越来越多的政府、企业等机构开始意识到数据正在成为组织最重要的资产，数据分析能力正在成为组织的核心竞争力。百度知道对大数据的定义是：大数据（bigdata)，或称巨量资料，指的是所涉及的资料
量规模距达到无法透过目前主流软件工具在合理时间内达到撷取，管理，处理、并整理成为帮助企业经营决策更积极目的的资讯。
著名研究机构Gartner是这样定义大数据的。"
大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
从数据的类别上看，大数据指的是无法使用传统流程或工具处理或分析的信息。它定义了那些超出正常处理范围和大小、迫使用户采用非传统处理方法的数据集。
亚马逊网络服务（AWS）、大数据科学家JohnRauser提到一个简单的定义：大数据就是任何超过了一台计算机处理能力的庞大数据量。
研发小组对大数据的定义："大数据是最大的宣传技术、是最时髦的技术，当这种现象出现时，定义就变得很混乱。" Kelly
说：大数据是可能不包含所有的信息，但我觉得大部分是正确的。对大数据的一部分认知在于，它是如此之大，分析它需要多个工作负载，这是AWS的定义。当你的技术达到极限时，也就是数据的极限。
大数据不是关于如何定义，最重要的是如何使用。最大的挑战在于哪些技术能更好的使用数据以及大数据的应用情况如何。这与传统的数据库相比，开源的大数据分析工具的如Hadoop的崛起，这些非结构化的数据服务的价值在哪里。
入门大数据,需要学习哪些基础知识
大数据的发展历程总体上可以划分为三个重要阶段，萌芽期、成熟期和大规模应用期，20世纪90年至21世纪初，为萌芽期，随着，一批商业智能工具和知识管理技术的开始和应用，度过了数据萌芽。21世纪前十年则为成熟期，主要标志为，大数据解决方案逐渐走向成熟，形成了并行计算与分布式系统两大核心技，谷歌的GFS和MapReduce等大数据技术受到追捧，Hadoop平台开始大行期道，2010年以后，为大规模应用期，标志为，数据应用渗透各行各业，数据驱动决策，信息社会智能化程度快速提高。 数据时代的到来，也推动了数据行业的发展，包括企业使用数据获取价值，促使了大量人员从事于数据的学习，学习大数据需要掌握基础知识，接下从我的角度，为大家做个简要的阐述。 学习大数据需要掌握的知识，初期了解概念，后期就要学习数据技术，主要包括： 1.大数据概念 2.大数据的影响
3.大数据的影响 4.大数据的应用 5.大数据的产业 6.大数据处理架构Hadoop 7.大数据关键技术 8.大数据的计算模式 后三个牵涉的数据技技术，就复杂一点了，可以细说一下： 1.大数据处理架构Hadoop：Hadoop的特性、Hadoop生态系统、Hadoop 的安装与使用； 2.大数据关键技术技术：数据采集、数据存储与管理、数据处理与分析、数据隐私与安全； 3.大数据处理计算模式：批处理计算、流计算、图计算、查询分析计算
数据的核心技术就是获取数据价值，获取数据前提是，先要有数据，这就牵涉数据挖掘了。 本文内容由北大青鸟佳音校区老师于网络整理，学计算机技术就选北大青鸟佳音校区！了解校区详情可进入https://www.sodocs.net/doc/7515460004.html,网站，学校地址位于北京市西城区北礼士路100号！
云计算和大数据知识简介.
云计算和大数据知识简介 一、关于云计算和大数据 （一）云计算 云计算是基于互联网的相关服务的增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。因此，云计算甚至可以让你体验每秒10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据中心，按自己的需求进行运算。对云计算的定义有多种说法。对于到底什么是云计算，至少可以找到100种解释。目前广为接受的是美国国家标准与技术研究院（NIST）定义：云计算是一种按使用量付费的模式，这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池（资源包括网络，服务器，存储，应用软件，服务），这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应商进行很少的交互。简单来说，云计算就是政府和企业将需要计算的信息，通过网络交由云计算平台来计算，然后通过广泛的数据和信息共享，得到针对性比较强的统计信息、数据分析结果。比如，通过云计算平台，分析全国全省的
市场运行趋势，这个信息是无法在一台计算机中完成的，一是没有数据量，二是计算量太大，而通过云计算平台，就可以在较短时间甚至是实时得到信息，然后就可以针对市场的情况、潜在的企业投资商、潜在的客户来进行招商引资、生产产品。再比如，淘宝网目前根据网购客户的购买倾向、评价信息来进行数据分析，然后与美的等电器生产商进行大数据信息共享、交换，从而根据用户的需求和爱好，生产出更加适合市场的产品。下一步的工业4.0，就是生产商和用户点对点的生产销售模式，这样的生产方式，必须通过大数据来完成，否则，一台电脑或者几台服务器都无法无成分析、设计、生产的过程。 （二）大数据 大数据，又可以称作巨量数据、海量数据，指的是所涉及的数据量级规模巨大到目前无法通过人工在合理时间内达到截取、管理、处理、并整理成为人类所能解读的信息。简单的例子：每天乃至每年全国所有移动电话的通话记录就是常见的所谓大数据，这一庞大的数据是人力所根本无法解读的。而通过运营商的服务器整合数据后进行分析，就能得到一些人们感兴趣的信息，例如：中秋节期间长途电话的比例远高于平常，除夕夜短信数量是平常每一天的上万倍等等，都是大数据处理技术所能带给人们的对于庞大数据的独特解读。 大数据有着以下四个显著的特征：
大数据知识竞赛试题
大数据知识竞赛试题 学院队名 一、单选题（每题1分） 1、小米摄像头记录下来的10分钟视频属于哪类数据： A、结构化数据 B、半结构化数据 C、非结构化数据 2、结构化数据具备哪种特征： A、具备明确逻辑关系 B、不具备明确逻辑关系 C、不一定具备明确逻辑关系 3、指纹打卡的数据属于哪些数据： A、传感数据 B、交互数据 C、交易数据 4、大数据擅长处理哪个级别的数据？ A、MB B、GB C、TB D、PB 5、电子邮件是什么类型数据： A、非结构化数据 B、结构化数据 C、半结构化数据 6、网络新闻是什么类型数据： A、非结构化数据 B、结构化数据 C、半结构化数据 7、下列属于结构化数据的是： A、图片 B、一卡通学生信息 C、简历
8、表1属于几维列表? 姓名性别学号年级成绩张三男2016130133 2016 80 李四女2016131038 2016 60 表1 A、二维 B、三维 C、四维 D、五维 9、图1中的警衔级别属于哪种属性？ 图1 A、标称属性 B、二元属性 C、序数属性 D、数值属性 10、关系型数据库中所谓的“关系”是指什么 A、数据库中的数据彼此间存在任意关联 B、数据模型满足一定条件的二维表格式 C、两个数据库之间有一定的关联 11、下列哪种数据类型不适合MySQL存储： A、EXCEL报表 B、图片和声音 C、数据库里的财务数据 12、以下不属于ACID原则的是： A、原子性 B、相对性 C、隔离性 D、持久性
13、淘宝自主设计的自动化分布式存储系统是： A、MongoDB B、HBase C、Oceanbase 14、BeansDB 是一个由我国哪个公司网站自主开发的： A、淘宝 B、豆瓣社区 C、优酷 D、视觉中国 15、下列不是NewSQL数据库的是： A、Sybase B、MemSQL C、TokuDB 16、下列不是NoSQL数据库的是： A、Bigtable B、Dynamo C、DB2 17、下列不是传统关系型数据库的是： A、MySQL B、HBase C、Sybase 18、下面关于数据挖掘的说法哪些是错误的： A、数据挖掘涉及数据融合、数据分析和决策分析和决策支持等内容 B、数据源必须是真实的、大量的、含有噪声的和用户感兴趣的数据 C、所有发现的知识都是绝对的 19、下列不属于数据挖掘知识的方法 A、数学方法 B、归纳方法 C、实验方法 20、一般情况下，舆情监测内容不包含： A、对主流门户网站、国内外主流论坛、主流媒体、主流搜索引擎等站点进行全景扫描 B、对单位相关刑事、民事、行政案件与信息进行全面收集、精确分析、清晰归类和个性统计 C、对个人或家成员庭银行帐户及个人财产情况进行全面收集、分析和统计 21、科学可视化、信息可视化和可视分析三者之间如何区分： A、三者从属关系 B、三者属于递进关系 C、三者之间没有清晰边界
大数据知识
1、大数据概念： 大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。 2、大数据简介： “大数据”作为时下最火热的IT行业的词汇，随之而来的数据仓库、数据安全、数据分析、数据挖掘等等围绕大数据的商业价值的利用逐渐成为行业人士争相追捧的利润焦点。 早在1980年，著名未来学家阿尔文·托夫勒便在《第三次浪潮》一书中，将大数据热情地赞颂为“第三次浪潮的华彩乐章”。不过，大约从2009年开始，“大数据”才成为互联网信息技术行业的流行词汇。美国互联网数据中心指出，互联网上的数据每年将增长50%，每两年便将翻一番，而目前世界上90%以上的数据是最近几年才产生的。此外，数据又并非单纯指人们在互联网上发布的信息，全世界的工业设备、汽车、电表上有着无数的数码传感器，随时测量和传递着有关位置、运动、震动、温度、湿度乃至空气中化学物质的变化，也产生了海量的数据信息。 大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。且中国物联网校企联盟认为，物联网的发展离不开大数据，依靠大数据可以提供足够有利的资源。 随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。《著云台》的分析师团队认为，大数据（Big data）通常用来形容一个公司创造的大量非结构化和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。 3、大数据的领域： 大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域。目前人们谈论最多的是大数据技术和大数据应用。 大数据的4个“V”，或者说特点有四个层面： 第一，数据体量巨大。从TB级别，跃升到PB级别。 第二，数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。 第三，价值密度低，商业价值高。以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。 第四，处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。 业界将其归纳为4个“V”——Volume，Variety，Value，Velocity。 4、大数据技术： 大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘电网、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。 大数据技术分为整体技术和关键技术两个方面。
云计算和大数据基础知识培训课件
云计算与大数据基础知识 一、云计算是什么? 云计算就是统一部署的程序、统一存储并由相关程序统一管理着的数据！ 云计算cloud computing是一种基于因特网的超级计算模式，在远程的数据中心里，成千上万台电脑和服务器连接成一片电脑云。因此，云计算甚至可以让你体验每秒超过10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据 中心，按自己的需求进行运算。 云计算是一种按使用量付费的模式，这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池（资源包括网络，服务器，存储，应用软件，服务），这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应商进行很少的交互。 通俗的理解是，云计算的“云”就是存在于互联网上的服务器集群上的资源，它包括硬件资源（服务器、存储器、CPU等）和软件资源（如应用软件、集成开发环境等），所有的处理都在云计算提供商所提供的计算机群来完成。 用户可以动态申请部分资源，支持各种应用程序的运转，无需为繁琐的细节而烦恼，能够更加专注于自己的业务，有利于提高效率、降低成本和技术创新。 云计算的核心理念是资源池。 二、云计算的基本原理 云计算的基本原理是，在大量的分布式计算机集群上，对这些硬件基础设施通过虚拟化技术构建不同的资源池。如存储资源池、网络资源池、计算机资源池、数据资源池和软件资源池，对这些资源实现自动管理，部署不同的服务供用户应用，这使得企业能够将资源切换成所需要的应用，根据需求访问计算机和存储系统。 打个比方，这就好比是从古老的单台发电机模式转向了电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通，就像煤气、水电一样，取用方便，费用低廉。最大的不同在于，它是通过互联网进 行传输的。 三、云计算的特点 1、支持异构基础资源 云计算可以构建在不同的基础平台之上，即可以有效兼容各种不同种类的硬件和软件基础资源。硬件基础资源，主要包括网络环境下的三大类设备，即：计算(服务器)、存储(存储设备)和网络(交换机、路由器等设备);软件基础资源，则包括单机操作系统、中间件、数据库等。 2、支持资源动态扩展 支持资源动态伸缩，实现基础资源的网络冗余，意味着添加、删除、修改云计算环境的任一资源节点，或者任一资源节点异常宕机，都不会导致云环境中的各类业务的中断，也不会导致用户数据的丢失。这里的
大数据即服务DaaS以及大大数据
大数据技术发展态势跟踪 ——关于大数据的几个重要观点和产业技术路线发展 2014-8-14 11:50:31 文章来源：科技发展研究杂志 大数据（Big Data），普遍认为是指在特定行业中，超出常规处理能力、实时生成、类型多样化的数据集合体，具有海量（Volume）、快速（Velocity）、多样（Variety）和价值（Value）的4V 特征。 最早提出大数据特征的是2001 年麦塔集团（后被Gartner 公司收购）分析师道格?莱尼（Douglas Laney）发布的《3D 数据管理：控制数据容量、处理速度及数据种类》（3D Data Management: ControllingData Volume, Velocity and Variety），提出了4V 特征中的3V。最早提出词汇“Big Data”的是2011 年麦肯锡全球研究院发布的《大数据：下一个创新、竞争和生产力的前沿》研究报告。之后，经Gartner 技术炒作曲线和2012 年维克托?舍恩伯格《大数据时代：生活、工作与思维的大变革》的宣传推广，大数据概念开始风靡全球。 一、关于大数据的几个重要观点 大数据发展至今，伴随着很多争议。有人称之为“新瓶装旧酒”，也有人认为大数据的机遇被过于夸大，企业就是在这种怀疑和忐忑中抓紧推进大数据应用。客观上看，大数据在研究式、企业战略层面具有变革的潜力，但不宜过于强调其新颖性，不应同过去的数据学科领域割裂开来；21 世纪以来，大数据技术发生了革命性突破，主要体现在对3V 特性的“适应”和“运用”上，目前受益最大的是云计算产业，对其他产业和社会发展的变革作用尚未落地。 有如下几个重要判断和观点： 1、大数据的核心思想本质是数据挖掘。数据挖掘（Data Mining）借助计算机从海量数据中发现隐含的知识和规律，是一门融合了计算机、统计等领域知识的交叉学科，其核心的人工智能、机器学习、模式识别等理论在上世纪90 时代推行知识管理时已有显著进展。从本质上看，大数据带来的“思维大变革”以及一些数据驱动类的商业智能（Business Intelligence）模式创新，都是数据挖掘理论的延伸，表达为“数据挖掘相对于数理统计带来的思维变革”或许更加准确。比如，因果关系是数理统计中的重要容，基于完善的数学理论，代表是回归模型；而相关关系是数据挖掘中的重要容，基于强大的机器运算能力，代表是神经网络、决策树算法，这使得人们不需要了解背后复杂的因果逻辑也可以获得良好的分析和预测结果。从某种程度上说，必须感谢大数据的宣传者，正是这样的热炒才让数据挖掘这样一门小众却极具价值的科学展现在大众眼前，起到了很好的科普作用。 2、突破主要来自技术上的“能力拓展”。表现在对多样（Variety）、海量（Volume）、快速（Velocity）特征的“适应”和“运用”上：一是存储数据从结构化向半结构化、非结构化拓展，如基于Web 异构环境下的网页、文档、报表、多媒体等，导致了一批基于非结构化数据的专有挖掘算法的产生和发展。二是数据库从关系型向非关系型、分布式拓展，关系型数据库是以行和列的形式组织起来的结构化数据表，如Excel 表格，缺点在于存储容量小、数据扩展性和多样性差，而新的非关系型、分布式数据库可以弥补上述不足。三是数据处理从静态向实时交互拓展，新的大规模分布式并行数据处理技术能够实时处理社交媒体和物联网应用产生的大量交互数据，有效应对多样（Variety）和海量（Volume）带来的复
云计算和大数据基础知识12296
精心整理 云计算与大数据基础知识 一、云计算是什么? 云计算就是统一部署的程序、统一存储并由相关程序统一管理着的数据！ 云计算cloudcomputing是一种基于因特网的超级计算模式，在远程的数据中心里，成千上万台电脑和服务器连接成一片电脑云。因此，云计算甚至可以让你体验每秒超过10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据中心，按自己的需求进行运算。 二、 三、 1 );软件2 任一资源节点异常宕机，都不会导致云环境中的各类业务的中断，也不会导致用户数据的丢失。这里的资源节点可以是计算节点、存储节点和网络节点。而资源动态流转，则意味着在云计算平台下实现资源调度机制，资源可以流转到需要的地方。如在系统业务整体升高情况下，可以启动闲置资源，纳入系统中，提高整个云平台的承载能力。而在整个系统业务负载低的情况下，则可以将业务集中起来，而将其他闲置的资源转入节能模式，从而在提高部分资源利用率的情况下，达到其他资源绿色、低碳的应用效果。 3、支持异构多业务体系 在云计算平台上，可以同时运行多个不同类型的业务。异构，表示该业务不是同一的，不是已有的或事先定义好的，而应该是用户可以自己创建并定义的服务。这也是云计算与网格计算的一个重要差异。 4、支持海量信息处理 云计算，在底层，需要面对各类众多的基础软硬件资源;在上层，需要能够同时支持各类众多的异构的业务;
而具体到某一业务，往往也需要面对大量的用户。由此，云计算必然需要面对海量信息交互，需要有高效、稳定的海量数据通信/存储系统作支撑。 5、按需分配，按量计费 按需分配，是云计算平台支持资源动态流转的外部特征表现。云计算平台通过虚拟分拆技术，可以实现计算资源的同构化和可度量化，可以提供小到一台计算机，多到千台计算机的计算能力。按量计费起源于效用计算，在云计算平台实现按需分配后，按量计费也成为云计算平台向外提供服务时的有效收费形式。 四、云计算按运营模式分类 1、公有云 公有云通常指第三方提供商为用户提供的能够使用的云，公有云一般可通过Internet使用，可能是免费或成本低廉的。 烦。B 2 3 五、 六、 1、传统的IT部署架构是“烟囱式”的，或者叫做“专机专用”系统。 图2传统IT基础架构 这种部署模式主要存在的问题有以下两点： 硬件高配低用。考虑到应用系统未来3～5年的业务发展，以及业务突发的需求，为满足应用系统的性能、容量承载需求，往往在选择计算、存储和网络等硬件设备的配置时会留有一定比例的余量。但硬件资源上线后，应用系统在一定时间内的负载并不会太高，使得较高配置的硬件设备利用率不高。 整合困难。用户在实际使用中也注意到了资源利用率不高的情形，当需要上线新的应用系统时，会优先考虑部署在既有的基础架构上。但因为不同的应用系统所需的运行环境、对资源的抢占会有很大的差异，更重要的是考虑到可靠性、稳定性、运维管理问题，将新、旧应用系统整合在一套基础架构上的难度非常大，更多的用户往往选择新增与应用系统配套的计算、存储和网络等硬件设备。
大数据服务平台功能简介
大数据服务平台简介 1.1建设目标 大数据服务平台以“整合资源、共享数据、提供服务”为指导思想，构建满足学校各部门信息化建设需求，进而更好为广大师生、各级管理人员、院领导等角色提供集中、统一的综合信息服务。因此， 要建设大数据服务平台 主要包括综合查询，教学、科研、人事、学生、图书、消费、资产、财务等数据统计分析和数据采集终端（含数据录入及数据导入）。通过此平台为学校的校情展示提供所需的基础数据，为学校的决策支持积累所需的分析数据，为广大师生、各级管理人员、校领导的综合信息服务提供所需的开发数据，为学校的应用系统建设提供所需的公共数据。 1.2建设效益 协助领导决策、提供智能分析手段 通过建设大数据服务平台： 为校领导提供独特、集中的综合查询数据，使校领导能够根据自身需要随时查询广大师生的个人情况，有助于校领导及时处理广大师生的各种诉求。 为校领导提供及时、准确的辅助决策支持信息，使校领导能够全面掌握多方面的信息，有助于校领导提高决策的科学性和高效性（以往各部门向校领导提供的信息往往只从部门角度考虑，而校领导无法及时获取多方面的信息，无法及时做出决策）。 为校领导提供丰富、全面的校情展示数据，使校领导能够实时掌握教学、科研、人事、学生、图书、消费、资产、财务等情况，有助于校领导制定学校未来发展战略。 为校领导提供教育部《普通高等学校基本办学条件指标》检测报表，包括具有高级职务教师占专任教师的比例、生均占地面积、生均宿舍面积、百名学生配教学用计算机台数、百名学生配多媒体教室和语音实验室座位数、新增教学科研仪器设备所占比例、生均年进书量。对提高教学质量和高等学校信息化程度等具有积极的指导作用。 1.3建设内容 基于中心数据库，将学校长期以来积累的大量管理数据以一种多维的形式进行重新组织，多层次、多维度的整合、挖掘和分析，从各个层面、各个角度充分展示学校的办学理念、教学质量、科研水平、师资队伍、学生风貌、后勤保障、办学条件等，为各级管理人员、校领导科学决策提供强有力的技术保障与数据支持。
云计算和大数据基础知识
* 1: 100. 云计算 （一）大数据(BigData) 1. 定义：海量数据或巨量数据，其规模巨大到无法用当前主流的计算机系统在合理时间内获取、存储、管理、处理并提取以帮助使用者决策。 2. 特点：1）数据量大（Volume）----- PB 级以上 2）快速（Velocity）----- 数据增长快 3）多样（Variety）----- 数据来源及格式多样 4）价值密度低（Value ）----- 从大量、多样数据中提取价值的体系结构 5）复杂度（Complexity）-----对数据处理和分析的难度大 3.大数据与云计算的关系： 从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。 它的特色在于对海量数据的挖掘，但它必须依托云计算的分布式处理、分布式数据库、云存储和虚拟化技术。 （二）云计算(Cloud Computing) 1.定义：1）云计算是一种商业计算模型。它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。 //分布式计算 2）云计算是通过网络按需提供可动态伸缩的廉价计算服务。 2. 特点：1）超大规模 2）虚拟化 3）高可靠性 4）通用性 5）高可伸缩性 6）按需服务 7）极其廉价 3. 服务类型分类： 1）SaaS （软件即服务:：Software as a Service) //针对性更强，它将某些特定应用软件功能封装成服务如：Salesforce online CRM
2）PaaS （平台即服务：Platform as a Service）//对资源的抽象层次更进一步，提供用户应用程序运行环境如：Google App Engine ,Microsoft Windows Azure 3）IaaS （基础设施作为服务：Infrastructure as a Service）//将硬件设备等基础资源封装成服务供用户使用，如：Amazon EC2/S3 4. 云计算的实现机制（体系结构） 1）SOA （面向服务的体系结构）：它将应用程序的不同功能单元（称为服务）通过这些服务之间定义良好的接口和契约联系起来。使得其服务能以一种统一的、通用的方式进行交互。 SOA可以看作是B/S模型、XML/Web Service技术之后的自然延伸。 2）管理中间件：（关键部分） 3）资源池层：将大量相同类型的资源构成同构或接近同构的资源池。 4）物理资源层：计算机、存储器、网络设施、数据库和软件等 5. 云计算与网格计算 1）网格是基于SOA、使用互操作、按需集成等技术，将分散在不同地理位置的资源虚拟化为一个整体。 2）关系类似于TCP/IP 协议之于OSI 模型 6. 云计算与物联网 1）物联网有全面感知，可靠传递、智能处理三个特征。云计算提供对智能处理所需要的海量信息的分析和处理支持。 2）云计算架构与互联网之上，而物联网依赖于互联网来提供有效延伸。因而，云计算模式是物理网的后端支撑关键。 * 1.1: 1. Google 云计算原理 （一）文件系统GFS 1）系统架构 2）实现机制:
大数据知识服务平台构建关键技术研究
大数据知识服务平台构建关键技术研究 * 李晨晖崔建明陈超泉(桂林理工大学现代教育技术中心广西 541004) 摘要文章分析了大数据知识服务模式的运行机理,建立了大数据知识服务平台构建体系架构,阐 述了大数据知识服务平台构建过程中所涉及的主要关键技术,并对实施大数据知识服务模式的思路和发展提出了建议。 关键词大数据知识服务关键技术大数据生态系统 Studies in the Ke y Technolo gy of the Bi g Data Knowled g e Service Platform Construction Li Chenhui Cui Jianming Chen Chaoquan (Guilin Universit y of Technolo gy ,Modern Education Technolo gy Center ,Guan g xi ,541004) Abstract This paper analyzes the mechanism of big data knowledge service mode ,establishes the system schema of big data knowledge service platfor m ,describes the key technologies dur ing constructing the big data knowledge service p latform ,and p uts forward the ideas and su gg estion for im p lement and develo p ment of bi g data knowled g e service . Ke y words bi g data ,knowled g e service ,ke y technolo gy ,bi g data eco -s y stem *本文系2013年广西教育厅科研项目“物联网关联表征与机理模型的理论研究”(编号:桂科教201306L X157)及2011年度广西教育厅科研项目“云计算环境下大规模数据处理关键技术的研究”(编号:桂科教201106L X256)的研究成果之一。 1 引言 基于目前信息管理领域面临的挑战与机遇,文献[1-2]提出了一种面向智慧服务和自主需求的、关系型数据处理技术与非关系型数据处理技术嵌套融合的、基于大数据的知识服务新模式———大数据生态系统,为我国信息服务业由知识生产型向知识服务型转变,实现大数据信息化增效和知识服务增值,以及大数据知识资源和知识服务能力的共享、交易和协作,提供了一种思路、原则和方法。 大数据知识服务融合现有物联网、云计算、传感网、移动互联网等信息技术,通过对现有网络化信息管理和知识服务技术进行拓展和变革,将各类大数据资源、软硬件资源、网络资源、知识服务资源和能力虚拟化、物联化、服务化,并将大数据获取、存储、组织、分析、决策和显示等过程进行个性化、自主化、虚拟化、智能化、透明化和体验化的集中管理和经营,从而有效实现大数据生态系统中数据、知识、资源、能力、服务、过程和任务等要素的共享和协同,通过网络(包 括电信网、广播电视网、互联网、移动互联网等)为大 数据全生命周期(包括大数据获取阶段、存储阶段、组 织阶段、分析阶段、决策阶段及显示阶段等过程)提供按需使用、按需付费、基于群体创新、绿色环保、随时获取的知识服务。 大数据知识服务是大数据生态系统的核心,本文在文献[3]的基础上,结合物联网、云计算、传感网、移动互联网等相关信息技术及大数据知识服务的实际需求,深入剖析大数据知识服务平台构建过程,并对构建过程中所涉及的关键技术进行更深层次的探讨。2 大数据知识服务模式运行机理 大数据知识服务是为适应信息服务业智慧化、协作化、绿色化、先觉化和泛在化的发展趋势而衍生的一种基于网络(包括电信网、广播电视网、互联网、移动互联网等)的,用以解决结构化、半结构化及非结构化数据多维度处理的信息服务新模式,是在大数据获取、存储、组织、分析和决策过程中产生的,体现了大数据生态系统对知识、服务、资源和过程等的知识服 专题研究
知识咨询_大数据时代图书馆的知识服务增长点_王天泥
·图书馆与图书馆事业· 信息社会的快速发展与大量智能终端的广泛应用，使得数据的产生、来源、类型变得简单而丰富，越来越多的非结构化数据、半结构化数据呈爆发式增长趋势，且其组成结构、类型格式、存在形态等都愈加复杂，整个社会发展进入到了一个大数据时代。大数据时代，数据将成为社会资源的一部分被加以重视，基于数据的处理、分析、挖掘等服务都将被信息服务机构所应用和开展，这对承载着知识存储、组织、开发与传播重任的图书馆及以文献信息分析为基础的图书馆咨询服务工作造成了强烈冲击。基于以上考虑，笔者从图书馆咨询服务发展的角度，论述了大数据为图书馆知识咨询带来的机遇，重点对大数据时代图书馆知识咨询的两大发展驱动因素即数据资源与人才建设进行了分析，以引起业界学者对相关问题的共同关注与探讨。 1知识咨询是大数据时代图书馆咨询服务的新模式 1.1知识咨询服务：有别于传统咨询服务的创新型服务 知识咨询与参考咨询及信息咨询相比，在诸多方面均存在着差异：首先，从定义来看，知识咨询是针对用户在工作、学习、生活中的知识选择、吸收、利用需求，以图书馆员的图书馆学、情报学、信息学等专业知识为基础，利用先进的技术对相关信息进行提取、组织、优化，融入用户知识获取的全过程，为用户决策与创新提供丰富的知识、有效的答案；参考咨询是图书馆员根据用户需求而进行的文献搜集、检索、揭示、传递并提供知识产品的过程；信息咨询则是向用户提供有关数据、资料的服务过程［1］。其次，从服务的专业化、知识化水平来看，参考咨询和信息咨询都只限于所能提供的数据或信息，而知识咨询更在意是否能提供解决用户问题的知识［2］。再次，从服务类型来看，知识咨询服务的提供方式可以是参考咨询、信息咨询的服务提供方式，如将结构化(或标准化)文献信息、数据、线索提供给用户，或将进行了一定数据分析加工的知识产品提供给用户。但知识咨询服务更注重用户的专业化、知识化、个性化需求，提供解决用户实际问题的知识，以及与用户协同合作创造的知识服务和面向用户的知识管理等。 知识咨询：大数据时代图书馆的知识服务增长点 王天泥 （辽宁省图书馆辽宁沈阳110015） 摘要：随着社交网络、云计算、移动互联网的迅猛发展，数据产生的范围、方式、途径发生了翻天覆地的变化，全球进入到了大数据时代。阐述了知识咨询是图书馆未来咨询服务的新模式，分析了大数据给图书馆知识咨询服务带来的机遇，重点探讨了大数据时代的数据资源与人才建设两大知识咨询服务发展驱动因素。 关键词：大数据图书馆知识咨询 中图分类号：G252文献标识码：A文章编号：1003-6938（2013）02-0074-05 Knowledge Consultation:the Growth Points of Libraries'Knowledge Services in the Era of Big Data Abstract Because of the rapid development of social networking,cloud computing and mobile Internet,there is being an earth-shaking changes on the scope,way and channel of data generation.It is means that the era of big data is coming.The article describes the knowledge consultation is a new model of the future’s libraries consultation services,and analyzes the opportunities of consultation services in the era of big data.It is emphasis the driving factors of knowledge consultations, which including data resources and personnel development,in the era of big data. Keywords Big data;Library;Knowledge consultation 收稿日期：2013-03-20；责任编辑：魏志鹏
大数据考试题含答案知识讲解
1 多选传统大数据质量清洗的特点有： A. 确定性 B. 强类型性 C. 协调式的 D. 非确定性 2 多选以下选项中属于数据的作用的是（）。 A. 沟通 B. 验证假设 C. 建立信心 D. 欣赏 3 多选数据建立信心的作用需具备的条件包括（）。 A. 可靠数据源 B. 多方的数据源 C. 合适的数据分析 D. 信得过的第三方单位 4 多选数据只有在与（）的交互中才能发挥作用。 A. 人 B. 物 C. 消费者 D. 企业 5 单选大数据可能带来（），但未必能够带来（）。 A. 精确度；准确度 B. 准确度；精确度 C. 精确度；多样性 D. 多样性；准确度 6 多选大数据的定义是： A. 指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合 B. 任何超过了一台计算机处理能力的数据量 C. 技术 D. 商业 7 多选大数据五大类应用方向是： A. 查询 B. 触达 C. 统计 D. 预警 E. 预测 8 多选以下哪些指标是衡量大数据应用成功的标准？ A. 成本更低 B. 质量更高 C. 速度更快 D. 风险更低 9 多选大数据有哪些价值？ A. 用户身份识别
B. 描述价值 C. 实时价值 D. 预测价值 E. 生产数据的价值 10 多选大数据的预测价值体现在： A. 预测用户的偏好、流失 B. 预测热卖品及交易额 C. 预测经营趋势 D. 评价 11 单选什么是大数据使用的最可靠方法？ A. 大数据源 B. 样本数据源 C. 规模大 D. 大数据与样本数据结合 12 多选大数据是描述（）所发生的行为。 A. 未来 B. 现在 C. 过去 D. 实时 13 多选传统研究中数据采集的方法包括： A. 网络监测 B. 电话访谈 C. 对面访谈 D. 线上互动 14 单选大数据整合要保证各个数据源之间的（）。 A. 一致性、协调性 B. 差异性、协调性 C. 一致性、差异性 D. 一致性、相容性 15 单选分类变量使用（）建立预测模型。 A. 决策树 B. 分类树 C. 离散树 D. 回归树 16 多选（）是大数据应用的步骤。 A. 数据输入 B. 建模分析 C. 使用决策支持工具输出结果 D. 验证假设 17 多选避免“数据孤岛”的方法包括： A. 关键匹配变量 B. 数据融合 C. 数据输入 D. 利用样本框
大数据可视化分析平台介绍
大数据可视化分析平台 一、背景与目标 基于邳州市电子政务建设的基础支撑环境，以基础信息资源库（人口库、法人库、宏观经济、地理库）为基础，建设融合业务展示系统，提供综合信息查询展示、信息简报呈现、数据分析、数据开放等资源服务应用。实现市府领导及相关委办的融合数据资源视角，实现数据信息资源融合服务与创新服务，通过系统达到及时了解本市发展的综合情况，及时掌握发展动态，为政策拟定提供依据。 充分运用云计算、大数据等信息技术，建设融合分析平台、展示平台，整合现有数据资源，结合政务大数据的分析能力与业务编排展示能力，以人口、法人、地理，人口与地理，法人与地理，实现基础展示与分析，融合公安、交通、工业、教育、旅游等重点行业的数据综合分析，为城市管理、产业升级、民生保障提供有效支撑。 二、政务大数据平台 1、数据采集和交换需求：通过对各个委办局的指定业务数据进行汇聚，将分散的数据进行物理集中和整合管理，为实现对数据的分析提供数据支撑。将为跨机构的各类业务系统之间的业务协同，提供统一和集中的数据交互共享服务。包括数据交换、共享和ETL 等功能。 2、海量数据存储管理需求：大数据平台从各个委办局的业务系统里抽取的数据量巨大，数据类型繁杂，数据需要持久化的存储和访问。不论是结构化数据、半结构化数据，还是非结构化数据，经过数据存储引擎进行建模后，持久化保存在存储系统上。存储系统要具备高可靠性、快速查询能力。 3、数据计算分析需求：包括海量数据的离线计算能力、高效即
席数据查询需求和低时延的实时计算能力。随着数据量的不断增加，需要数据平台具备线性扩展能力和强大的分析能力，支撑不断增长的数据量，满足未来政务各类业务工作的发展需要，确保业务系统的不间断且有效地工作。 4、数据关联集中需求：对集中存储在数据管理平台的数据，通过正确的技术手段将这些离散的数据进行数据关联，即：通过分析数据间的业务关系，建立关键数据之间的关联关系，将离散的数据串联起来形成能表达更多含义信息集合，以形成基础库、业务库、知识库等数据集。 5、应用开发需求：依靠集中数据集，快速开发创新应用，支撑实际分析业务需要。 6、大数据分析挖掘需求：通过对海量的政务业务大数据进行分析与挖掘，辅助政务决策，提供资源配置分析优化等辅助决策功能，促进民生的发展。
试卷题(大数据知识竞赛)
“曙光瑞翼杯”大数据知识竞赛试题 2018年度 一、单选题（每题1分） 1、小米摄像头记录下来的10分钟视频属于哪类数据： A、结构化数据 B、半结构化数据 C、非结构化数据 2、结构化数据具备哪种特征： A、具备明确逻辑关系 B、不具备明确逻辑关系 C、不一定具备明确逻辑关系 3、指纹打卡的数据属于哪些数据： A、传感数据 B、交互数据 C、交易数据 4、大数据擅长处理哪个级别的数据？ A、MB B、GB C、TB D、PB 5、电子邮件是什么类型数据： A、非结构化数据 B、结构化数据 C、半结构化数据 6、网络新闻是什么类型数据： A、非结构化数据 B、结构化数据 C、半结构化数据 7、下列属于结构化数据的是： A、图片 B、一卡通学生信息 C、简历 8、表1属于几维列表? 表1
精选文库 A、二维 B、三维 C、四维 D、五维 9、图1中的警衔级别属于哪种属性？ 图1 A、标称属性 B、二元属性 C、序数属性 D、数值属性 10、关系型数据库中所谓的“关系”是指什么 A、数据库中的数据彼此间存在任意关联 B、数据模型满足一定条件的二维表格式 C、两个数据库之间有一定的关联 11、下列哪种数据类型不适合MySQL存储： A、EXCEL报表 B、图片和声音 C、数据库里的财务数据 12、以下不属于ACID原则的是： A、原子性 B、相对性 C、隔离性 D、持久性 13、淘宝自主设计的自动化分布式存储系统是： A、MongoDB B、HBase C、Oceanbase 14、BeansDB 是一个由我国哪个公司网站自主开发的： A、淘宝 B、豆瓣社区 C、优酷 D、视觉中国 15、下列不是NewSQL数据库的是：
大数据知识体系大全
大数据知识体系 很多人都看过不同类型的书，也接触过很多有关大数据方面的文章，但都是很零散不 成系统，对自己也没有起到多大的作用，所以作者第一时间，带大家从整体体系思路上，了 解大数据产品设计架构和技术策略。 大数据产品，从系统性和体系思路上来做，主要分为五步： o针对前端不同渠道进行数据埋点，然后根据不同渠道的采集多维数据，也就是做大数据的第一步，没有全量数据，何谈大数据分析； o第二步，基于采集回来的多维度数据，采用ETL对其各类数据进行结构化处理及加载； o然后第三步，对于ETL处理后的标准化结构数据，建立数据存储管理子系统，归集到底层数据仓库，这一步很关键，基于数据仓库，对其内部数据分解成基础的同类数据集市； o然后基于归集分解的不同数据集市，利用各类R函数包对其数据集进行数据建模和各类算法设计，里面算法是需要自己设计，个别算法可以用R函数，这个过程产品和运营参与最多；这一步做好了，也是很多公司用户画像系统的底层。 o最后根据建立的各类数据模型及算法，结合前端不同渠道不同业务特征，根据渠道触点自动匹配后端模型自动展现用户个性化产品和服务。 建立数据采集分析指标体系是形成营销数据集市的基础，也是营销数据集市覆盖用户 行为数据广度和深度的前提，数据采集分析体系要包含用户全活动行为触点数据，用户结构 化相关数据及非结构化相关数据，根据数据分析指标体系才能归类汇总形成筛选用户条件的 属性和属性值，也是发现新的营销事件的基础。 构建营销数据指标分析模型，完善升级数据指标采集，依托用户全流程行为触点，建 立用户行为消费特征和个体属性，从用户行为分析、商业经营数据分析、营销数据分析三个
传统分析与大数据分析的对比知识讲解
传统分析与大数据分 析的对比
“大数据”是用来表示大量的没有按照传统的相关格式存储在企业数据库中的非结构化数据的总术语。以下是大数据的一般特点。 数据存储量相对于当前企业TB（TERA BYTES）字节的存储限制，定义在PB （PETA BYTES）字节，EXA字节以及更高的容量顺序。 通常它被认为是非结构化数据，并不适合企业已经习惯使用的关系型数据库之下 数据的生成使用的是数据输入非传统的手段，像无线射频识别（RFID），传感器网络等。 数据对时间敏感，且由数据的收集与相关的时区组成。 在过去，专业术语“分析”应用于商业智能（BI）世界来提供工具和智能，通过对各种各样可能的信息视角的快速的、一致的、交互式访问获得洞察力。 与分析的概念非常接近，数据挖掘已经应用于企业以保持关键监测和海量信息的分析。最大的挑战就是如何通过大量的数据挖掘出所有的隐藏信息。 传统数据仓库（DW）分析相对于大数据分析 企业数据的分析朝着在一段时间内在那种内容中的信息的有意义的洞察，是大数据分析区别于传统数据仓库分析的原因所在。下表总结了一些它们之间的差别。 大数据分析用例 基于用例，企业可以理解大数据分析的价值和在大数据分析的帮助下如何解决传统的问题。以下是一些用法。
客户满意度和保证分析：也许这是基于产品的企业所担心的最大的一个领域。在当今时代，没有一个清晰的方式来衡量产品的问题和与客户满意度相关的问题，除非他们以一个正式的方式出现在一个电子表格中。 信息质量方面，它是通过各种外部渠道收集的，而且大多数时候的数据没有清洗 因为数据是非结构化数据，无法关联相关的问题，所以长期的解决方案提供给客户 分类和分组的问题陈述都缺失了，导致企业不能对问题进行分组 从上面的讨论中，对客户满意度和保证分析使用大数据分析将帮助企业在急需的客户注意力设置中获得洞察力，并有效地解决他们的问题以及在他们的新产品线上避免这些问题。 竞争对手的市场渗透率分析：在今天高度竞争的经济环境下，我们需要通过一种实时分析对竞争者强大的区域和他们的痛点进行衡量。这种信息是可适用于各种各样的网站、社交媒体网站和其他公共领域。对这种数据的大数据分析可以向企业提供关于他们产品线的优势、劣势、机遇、威胁等非常需要的信息。 医疗保健/流行病的研究和控制：流行病和像流感这样的季节性疾病在人群中以一定的模式开始，如果没有及早发现和控制，它们就会传播到更大的区域。这对发展中以及发达的国家都是一个最大的挑战。当前绝大部分时间的问题是人们之间的症状各异，而且不同的医护人员治疗他们的方法也不同。人群中也没有一种常见的症状分类。在这种典型的非结构化数据上采用大数据分析将有助于地方ZF有效地应对疫情的情况。 产品功能和用法分析：大多数产品企业，尤其是消费品，不断在他们的产品线上增加许多功能，但有可能一些功能不会真正地被顾客所使用，而有些功能则更多地被使用，对这种通过各种移动设备和其它基于无线射频识别（RFID）输入捕捉到的数据的有效分析，可以为产品企业提供有价值的洞察力。 未来方向的分析：研究小组分析在各种业务中的趋势，而这种信息通过行业特定门户网站甚至常见的博客可以获得。对这种未来数据的不断分析将有助于企业期待未来，并将这些期待带入他们的生产线。 总结 大数据分析为企业和ZF分析非结构化的数据提供了新的途径，这些非结构化数据到目前为止在典型的企业数据仓库的情景中被数据清洗的惯例所拒绝。然而从以上用例明显看出，这些分析在改善企业的运营方面有很长的路要走。我们在未来的日子里将会看到更多的产品和应用系统在这个市场上出现。