搜档网
当前位置:搜档网 › 海量数据存储方式概述

海量数据存储方式概述

海量数据存储方式概述
海量数据存储方式概述

计算机科学与技术学院09级11班薛守来53091104

海量数据存储方式概述

随着信息技术的飞速发展,数据爆炸已成为一个突出问题,海量数据存储和管理技术已经是近几年的研究热点之一。传统的数据存储与管理方式已经很难满足海量数据存储在在容量、性能、存储效率和安全性等方面的要求。而且大部分数据采集系统,比如雷达回波信号数据采集、数字视频信号处理及高码率卫星数据信号的采集等,都要求对数据进行实时的传输与存储,这就对数据采集存储系统的采集速率、传输速度、存储速度、存储容量以及数据存储的可靠性等方面提出了更高的要求。因此,对高速海量数据存储技术的研究就越发显得重要。近年来,海量数据存储技术发展迅速,各种各样的存储系统不断涌现。下面就从存储介质、存储模式两个方面对海量数据存储技术进行简要的介绍。

海量存储介质主要有磁带、光盘、硬盘三大类,并在这三种储介质的基础上分别构成了磁带机、光盘库、磁盘阵列三种主要的存储设备。此外,固态存储和全息存储是未来高速海量数据存储的重要发展趋势。磁带机以其廉价的优势应用普遍,光盘库适用于保存多媒体数据和用于联机检索,应用也越来越广泛,磁盘阵列由于能够提供较高的存取速度和数据可靠性而成为实现高速海量数据存储的主要方式。

从数据存储的模式来看,海量存储技术可以分为DAS(Direct Attached Storage,直接附加存储)和网络存储两种,其中网络存储又可以分为NAS(Network Attached storage,网络附加存储)和SAN(Storage Area Net、Work,存储区域网络)。

(1)DAS采用的方式是外部数据存储设备直接挂接在服务器内部总线上(这样I/O会占用系统带宽),存储设备是服务器结构的一部分,这种方案是传统的存储方式,主要在个人计算机和小型服务器上使用,只能满足数据存储量较低的应用,不直接支持多机共享存储。DAS与NAS最大的不同便是,DAS通过服务器与网络连接,NAS直接与网络连

接。磁带机与磁盘阵列系统就是典型的DAS设备。

(2)NAS实际上是一个网络的附加存储设备,它通过集线器或交换机直接连接在网络上,通过TCP/IP协议进行通信,面向消息传递,以文件的方式进行数

据的传输。NAS系统由两个突出的特点,其一是,物理连接上将存储器直接连到网络上,然后再挂存服务器后端,避免了给服务器增加I/O负载;其二是,技术上通过专用软件减少磁头臂机械移动的次数,克服由此造成的延时。但从NAS的构成看,其路径在本质上仍然是传统的服务器存储设备I/O方式。

(3)SAN是以数据存储为中心,采用可伸缩的网络拓扑结构,通过具有高速光纤通道的直接连接方式,提供SAN内部任意节点之间的多路可选择的数据交换,并将数据存储管理集中在相对独立的存储区域网内,实现最大限度的数据共享和数据优化管理,以及系统的无缝扩充。

从数据存储系统的组成上看,无论是DAS、NAS还是SAN,其存储系统都可以分为三个部分:首先是磁盘阵列,它是存储系统的基础,是完成数据存储的基本保证;其次是连接和网络子系统,通过它们实现了一个或多个磁盘阵列与服务器之间的连接;最后是存储管理软件,在系统和应用级上,实现多个服务器共享、防灾等存储管理任务。

在对海量存储的研究中,下面几个方面是目前研究的重点:一是分布式存储与P2P存储,利用对等网络实现数据存储,其目标是提供高效率的、鲁棒的和负载平衡的文件存取功能;二是智能存储系统,要求存储系统具备可用性、可维护性和自进化性,能够提供主动信息采集、主动信息分析以及主动调整等功能,目标是满足服务质量QoS要求,尽量减少入工参与以及系统性能的自动提高;要是系统容灾机制,即建立异地存储系统,该系统是本地存储系统的可用副本,目的是最大限度的保障存储安全;四是数据网格,剩用网格中所有节点的能力,为网格环境中的数据文件提供高速、可靠的存储管理服务。

网格是把整个因特网整合成一台臣大的超级计算机,实现计算资源、存储资源、数据资源、信息资源、知识资源、专家资源的全面共享。当然,网格的根本特征是资源共享而不是它的规模,也可以构造地区性的网格,如企事业单位内部网格、局域网网格、甚至家庭网格和个人网格,透明而且高效率地提供各种服务。网格技术的研究目标是要实现网络虚拟环境下高性能资源的共享和协同工作,解决各种分散的资源的一致使用问题。科学计算及商业应用领域的数据呈现爆炸式增长,科学计算和商业应用越来越趋向于以计算为中心的模式,网格技术的发展为收集、组织、存储、分析、可视亿和分发大容量数据对象提供了新的实

现方法。而网格上的大量数据有必要使用数据库系统来管理,原因是许多网格应用要用到结构化的数据,并且网格本身也需要用结构化的数据来实现其运行和管理。因此,在利用数据网格解决海量数据存储问题时,有必要使用数据库对数据进行管理。这就面临着如何把数据库技术应用到网格中的问题。

目前有许多有关如何将数据库技术和数据网格技术结合起来的研究,主要有两个方向:一是网格数据库方向,即如何在网格中集成数据库系统,也就是考虑将数据库管理系统纳入到网格体系中,建立网格环境来共享数据库中的资源;另一个是数据库网格方向,即如何把数据库技术应用在网格中,也就是考虑如何在网格中使用数据库发展所积累的技术,从而构建功能更加强大的网格环境。这两个方向在网格数据库的研究方面是相辅相成的,网格数据库强调的是数据库在数据网格环境下的应用,其主要研究内容是如何将分布异构的数据库有效的集成到网格环境中,从而实现海量数据在网格环境下的高性能存储,并基于中间件技术为用户提供更好的服务。一方面使用数据网格技术,能够满足数据存储与处理在容量、性能、存储效率和安全性等方面的要求;另一方面使用数据库技术,对数据进行结构化管理,为上述问题提供了一个较好的解决方案。网格数据库已成为解决海量数据存储、访问与管理的一种重要途径。

网格的主要特点有共享性、分布性、自相似性、动态性、多样性、自治性以及管理的多重性。数据网格是网格环境下共享和管理存储资源和分布式数据资源的大规模、可扩展的框架结构,实现了安全、可靠和有效的网格环境中的数据传输以及访问、复制等操作。它适应数据密集型应用对网格环境下数据共享和处理的需要,为用户提供了透明访闯远程异构数据资源的枫制。数据网格为解决巨大的数据量存储问题提供了新的方法,例如,利用数据网格可以将欧洲空间局地面站的数据分散到整个欧洲范围进行保存,充分利用存储资源。

数据网格还提供了灵活的、基于分层的一组接口模型,使得多个实现可以共存,而每个接网的实现集中于不同的特性如性能和可维持性。数据网格的各组件具有良好的定义并且是松耦合的,因此不同的组织能够把他们自己的某个实现及时而又容易的插入其中,从而使得数据密集型的高性能计算和大量的共享数据密集型的事务处理及科学研究成为可能。它在电子商务、数据仓库和数据挖掘、高能物理、生物信息科学等科学工程领域发挥着越来越重要的作用。

数据网格主要提供存储系统及数据管理两大功能。存储系统的功能主要是为存储在存储系统上的数据提供一个基本的访问和管理机制,提供给用户一个统一的数据建立、删除、访问以及修改等操作的抽象,因此用户不必关心存储介质的异构性和它们的物理位置,从而实现海量数据的存储;而数据管理是对所存储的数据进行管理,包括数据的传送、访问和复制等操作,侧重点为数据管理,提供与数据资源有关的各种服务。

目前海量数据存储技术正在向商业应用领域推广,如商业数据分析、企业信息、人事档案管理、电子商务、电子政务等应用需要处理的数据量也非常巨大,这些应用在细节与侧重点上与科学应用又有所差别,如何针对商业及政府应用领域推广和探究海量信息存储技术,有效进行海量信息集成与管理,在动态变化的环境中灵活实现数据资源的共享是海量数据存储研究面临的机遇和挑战。

海量数据存储论文

海量数据存储 (----计算机学科前沿讲座论文 昆明理工大学信息院 计算机应用技术 2010/11 随着信息社会的发展,越来越多的信息被数据化,尤其是伴随着Internet的发展,数据呈爆炸式增长。从存储服务的发展趋势来看,一方面,是对数据的存储量的需求越来越大,另一方面,是对数据的有效管理提出了更高的要求。首先是存储容量的急剧膨胀,从而对于存储服务器提出了更大的需求;其次是数据持续时间的增加。最后,对数据存储的管理提出了更高的要求。数据的多样化、地理上的分散性、对重要数据的保护等等都对数据管理提出了更高的要求。随着数字图书馆、电子商务、多媒体传输等用的不断发展,数据从GB、TB到PB量级海量急速增长。存储产品已不再是附属于服务器的辅助设备,而成为互联网中最主要的花费所在。海量存储技术已成为继计算机浪潮和互联网浪潮之后的第三次浪潮,磁盘阵列与网络存储成为先锋。 一、海量数据存储简介 海量存储的含义在于,其在数据存储中的容量增长是没有止境的。因此,用户需要不断地扩张存储空间。但是,存储容量的增长往往同存储性能并不成正比。这也就造成了数据存储上的误区和障碍。 海量存储技术的概念已经不仅仅是单台的存储设备。而多个存储设备的连接使得数据管理成为一大难题。因此,统一平台的数据管理产品近年来受到了广大用户的欢迎。这一类型产品能够整合不同平台的存储设备在一个单一的控制界面上,结合虚拟化软件对存储资源进行管理。这样的产品无疑简化了用户的管理。 数据容量的增长是无限的,如果只是一味的添加存储设备,那么无疑会大幅增加存储成本。因此,海量存储对于数据的精简也提出了要求。同时,不同应用对于存储

(大数据)北邮大数据技术课程重点总结

(大数据)北邮大数据技术课程重点总结

5.数据化与数字化的区别 数据化:将现象转变为可制表分析的量化形式的过程; 数字化:将模拟数据转换成使用0、1表示的二进制码的过程 6.基于协同过滤的推荐机制 基于协同过滤的推荐(这种机制是现今应用最为广泛的推荐机制)——基于模型的推荐(SVM、聚类、潜在语义分析、贝叶斯网络、线性回归、逻辑回归) 余弦距离(又称余弦相似度):表示是否有相同的倾向 欧几里得距离(又称欧几里得相似度):表示绝对的距离 这种推荐方法的优缺点: 它不需要对物品或者用户进行严格的建模,而且不要求物品的描述是机器可理解的;推荐是开放的,可以共用他人的经验,很好的支持用户发现潜在的兴趣偏好。 数据稀疏性问题,大量的用户只是评价了一小部分的项目,而大多数的项目是没有进行评分;冷启动问题,新物品和新用户依赖于用户历史偏好数据的多少和准确性,一些特殊品味的用户不能给予很好的推荐。 7.机器学习:构建复杂系统的可能方法/途径 机器学习使用场景的核心三要素:存在潜在模式、不容易列出规则并编程实现、有历史的数据 8.机器学习的基础算法之PLA算法和Pocket算法(贪心PLA) 感知器——线性二维分类器,都属于二分类算法 二者的区别:迭代过程有所不同,结束条件有所不同; 证明了线性可分的情况下是PLA和Pocket可以收敛。 9.机器为什么能学习 学习过程被分解为两个问题: 能否确保Eout(g)与Ein(g)足够相似? 能否使Ein(g)足够小? 规模较大的N,有限的dVC,较低的Ein条件下,学习是可能的。 切入点:利用具体特征的,基于有监督方式的,批量学习的分析,进行二分类预测。 10.VC维: 11.噪声的种类: 12.误差函数(损失函数) 13.给出数据计算误差 14.线性回归算法:简单并且有效的方法,典型公式 线性回归的误差函数:使得各点到目标线/平面的平均距离最小! 15.线性回归重点算法部分:

大数据存储方式概述

大数据存储方式概述 随着信息社会的发展,越来越多的信息被数据化,尤其是伴随着Internet的发展,数据呈爆炸式增长。从存储服务的发展趋势来看,一方面,是对数据的存储量的需求越来越大,另一方面,是对数据的有效管理提出了更高的要求。首先是存储容量的急剧膨胀,从而对于存储服务器提出了更大的需求;其次是数据持续时间的增加。最后,对数据存储的管理提出了更高的要求。数据的多样化、地理上的分散性、对重要数据的保护等等都对数据管理提出了更高的要求。随着数字图书馆、电子商务、多媒体传输等用的不断发展,数据从GB、TB 到PB量级海量急速增长。存储产品已不再是附属于服务器的辅助设备,而成为互联网中最主要的花费所在。海量存储技术已成为继计算机浪潮和互联网浪潮之后的第三次浪潮,磁盘阵列与网络存储成为先锋。 一、海量数据存储简介 海量存储的含义在于,其在数据存储中的容量增长是没有止境的。因此,用户需要不断地扩张存储空间。但是,存储容量的增长往往同存储性能并不成正比。这也就造成了数据存储上的误区和障碍。海量存储技术的概念已经不仅仅是单台的存储设备。而多个存储设备的连接使得数据管理成为一大难题。因此,统一平台的数据管理产品近年来受到了广大用户的欢迎。这一类型产品能够整合不同平台的存储设备在一个单一的控制界面上,结合虚拟化软件对存储资源进行管理。这样的产品无疑简化了用户的管理。 数据容量的增长是无限的,如果只是一味的添加存储设备,那么无疑会大幅增加存储成本。因此,海量存储对于数据的精简也提出了要求。同时,不同应用对于存储容量的需求也有所不同,而应用所要求的存储空间往往并不能得到充分利用,这也造成了浪费。 针对以上的问题,重复数据删除和自动精简配置两项技术在近年来受到了广泛的关注和追捧。重复数据删除通过文件块级的比对,将重复的数据块删除而只留下单一实例。这一做法使得冗余的存储空间得到释放,从客观上增加了存储容量。 二、企业在处理海量数据存储中存在的问题 目前企业存储面临几个问题,一是存储数据的成本在不断地增加,如何削减开支节约成本以保证高可用性;二是数据存储容量爆炸性增长且难以预估;三是越来越复杂的环境使得存储的数据无法管理。企业信息架构如何适应现状去提供一个较为理想的解决方案,目前业界有几个发展方向。 1.存储虚拟化 对于存储面临的难题,业界采用的解决手段之一就是存储虚拟化。虚拟存储的概念实际上在早期的计算机虚拟存储器中就已经很好地得以体现,常说的网络存储虚拟化只不过是在更大规模范围内体现存储虚拟化的思想。该技术通过聚合多个存储设备的空间,灵活部署存储空间的分配,从而实现现有存储空间高利用率,避免了不必要的设备开支。 存储虚拟化的好处显而易见,可实现存储系统的整合,提高存储空间的利用率,简化系统的管理,保护原有投资等。越来越多的厂商正积极投身于存储虚拟化领域,比如数据复制、自动精简配置等技术也用到了虚拟化技术。虚拟化并不是一个单独的产品,而是存储系统的一项基本功能。它对于整合异构存储环境、降低系统整体拥有成本是十分有效的。在存储系统的各个层面和不同应用领域都广泛使用虚拟化这个概念。考虑整个存储层次大体分为应用、文件和块设备三个层次,相应的虚拟化技术也大致可以按这三个层次分类。 目前大部分设备提供商和服务提供商都在自己的产品中包含存储虚拟化技术,使得用户能够方便地使用。 2.容量扩展 目前而言,在发展趋势上,存储管理的重点已经从对存储资源的管理转变到对数据资源

常用大数据量、海量数据处理方法 (算法)总结

大数据量的问题是很多面试笔试中经常出现的问题,比如baidu goog le 腾讯这样的一些涉及到海量数据的公司经常会问到。 下面的方法是我对海量数据的处理方法进行了一个一般性的总结,当然这些方法可能并不能完全覆盖所有的问题,但是这样的一些方法也基本可以处理绝大多数遇到的问题。下面的一些问题基本直接来源于公司的面试笔试题目,方法不一定最优,如果你有更好的处理方法,欢迎与我讨论。 1.Bloom filter 适用范围:可以用来实现数据字典,进行数据的判重,或者集合求交集 基本原理及要点: 对于原理来说很简单,位数组+k个独立hash函数。将hash函数对应的值的位数组置1,查找时如果发现所有hash函数对应位都是1说明存在,很明显这个过程并不保证查找的结果是100%正确的。同时也不支持删除一个已经插入的关键字,因为该关键字对应的位会牵动到其他的关键字。所以一个简单的改进就是counting Bloom filter,用一个counter数组代替位数组,就可以支持删除了。 还有一个比较重要的问题,如何根据输入元素个数n,确定位数组m 的大小及hash函数个数。当hash函数个数k=(ln2)*(m/n)时错误率最小。在错误率不大于E的情况下,m至少要等于n*lg(1/E)才能表示任

意n个元素的集合。但m还应该更大些,因为还要保证bit数组里至少一半为0,则m应该>=nlg(1/E)*lge 大概就是nlg(1/E)1.44倍(lg 表示以2为底的对数)。 举个例子我们假设错误率为0.01,则此时m应大概是n的13倍。这样k大概是8个。 注意这里m与n的单位不同,m是bit为单位,而n则是以元素个数为单位(准确的说是不同元素的个数)。通常单个元素的长度都是有很多bit的。所以使用bloom filter内存上通常都是节省的。 扩展: Bloom filter将集合中的元素映射到位数组中,用k(k为哈希函数个数)个映射位是否全1表示元素在不在这个集合中。Counting bloom filter(CBF)将位数组中的每一位扩展为一个counter,从而支持了元素的删除操作。Spectral Bloom Filter(SBF)将其与集合元素的出现次数关联。SBF采用counter中的最小值来近似表示元素的出现频率。 问题实例:给你A,B两个文件,各存放50亿条URL,每条URL占用6 4字节,内存限制是4G,让你找出A,B文件共同的URL。如果是三个乃至n个文件呢? 根据这个问题我们来计算下内存的占用,4G=2^32大概是40亿*8大概是340亿,n=50亿,如果按出错率0.01算需要的大概是650亿个

海量数据挖掘的关键技术及应用现状

网络化时代信息膨胀成为必然,如何准确、高效地从丰富而膨胀的数据中筛选出对经营决策有用的信息已经成为企业和机构迫切需要解决的问题,针对于此,海量数据挖掘技术应运而生,并显示出强大的解决能力。Gartner的报告指出,数据挖掘会成为未来10年内重要的技术之一。 一、海量数据挖掘关键技术随时代而变化 所谓海量数据挖掘,是指应用一定的算法,从海量的数据中发现有用的信息和知识。海量数据挖掘关键技术主要包括海量数据存储、云计算、并行数据挖掘技术、面向数据挖掘的隐私保护技术和数据挖掘集成技术。 1.海量数据存储 海量存储系统的关键技术包括并行存储体系架构、高性能对象存储技术、并行I/O访问技术、海量存储系统高可用技术、嵌入式64位存储操作系统、数据保护与安全体系、绿色存储等。 海量数据存储系统为云计算、物联网等新一代高新技术产业提供核心的存储基础设施;为我国的一系列重大工程如平安工程等起到了核心支撑和保障作用;海量存储系统已经使用到石油、气象、金融、电信等国家重要行业与部门。发展具有自主知识产权、达到国际先进水平的海量数据存储系统不仅能够填补国内在高端数据存储系统领域的空白,而且可以满足国内许多重大行业快速增长的海量数据存储需要,并创造巨大的经济效益。 2.云计算 目前云计算的相关应用主要有云物联、云安全、云存储。云存储是在云计算(cloud computing)概念上延伸和发展出来的新概念,是指通过集群应用、网格技术或分布式文件系统等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个系统。

当云计算系统运算和处理的核心是大量数据的存储和管理时,云计算系统中就需要配置大量的存储设备,那么云计算系统就转变成为一个云存储系统,所以云存储是一个以数据存储和管理为核心的云计算系统。 3.并行数据挖掘技术 高效率的数据挖掘是人们所期望的,但当数据挖掘的对象是一个庞大的数据集或是许多广泛分布的数据源时,效率就成为数据挖掘的瓶颈。随着并行处理技术的快速发展,用并行处理的方法来提高数据挖掘效率的需求越来越大。 并行数据挖掘涉及到了一系列体系结构和算法方面的技术,如硬件平台的选择(共享内存的或者分布式的)、并行的策略(任务并行、数据并行或者任务并行与数据并行结合)、负载平衡的策略(静态负载平衡或者动态负载平衡)、数据划分的方式(横向的或者纵向的)等。处理并行数据挖掘的策略主要涉及三种算法:并行关联规则挖掘算法、并行聚类算法和并行分类算法。 4.面向数据挖掘的隐私保护技术 数据挖掘在产生财富的同时也随之出现了隐私泄露的问题。如何在防止隐私泄露的前提下进行数据挖掘,是信息化时代各行业现实迫切的需求。 基于隐私保护的数据挖掘是指采用数据扰乱、数据重构、密码学等技术手段,能够在保证足够精度和准确度的前提下,使数据挖掘者在不触及实际隐私数据的同时,仍能进行有效的挖掘工作。 受数据挖掘技术多样性的影响,隐私保护的数据挖掘方法呈现多样性。基于隐私保护的数据挖掘技术可从4个层面进行分类:从数据的分布情况,可以分为原始数据集中式和分布式两大类隐私保护技术;从原始数据的隐藏情况,可以分为对原始数据进行扰动、替换和匿名隐藏等隐私保护技术;从数据挖掘技术层面,可以分为针对分类挖掘、聚类挖掘、关联规则挖掘等隐私保护技术;从隐藏内容层面,可以分为原始数据隐藏、模式隐藏。

(重点学习)海量数据处理方法总结

海量数据处理方法总结 大数据量的问题是很多面试笔试中经常出现的问题,比如baidu,google,腾讯这样的一些涉及到海量数据的公司经常会问到。 下面的方法是我对海量数据的处理方法进行了一个一般性的总结,当然这些方法可能并不能完全覆盖所有的问题,但是这样的一些方法也基本可以处理绝大多数遇到的问题。下面的一些问题基本直接来源于公司的面试笔试题目,方法不一定最优,如果你有更好的处理方法,欢迎与我讨论。 1 Bloom filter 适用范围:可以用来实现数据字典,进行数据的判重,或者集合求交集。 基本原理及要点: 对于原理来说很简单,位数组+k个独立hash函数。将hash函数对应的值的位数组置1,查找时如果发现所有hash函数对应位都是1说明存在,很明显这个过程并不保证查找的结果是100%正确的。同时也不支持删除一个已经插入的关键字,因为该关键字对应的位会牵动到其他的关键字。所以一个简单的改进就是counting Bloom filter,用一个counter数组代替位数组,就可以支持删除了。 还有一个比较重要的问题,如何根据输入元素个数n,确定位数组m的大小及hash函数个数。当hash函数个数k=(ln2)*(m/n)时错误率最小。在错误率不大于E的情况下,m至少要等于n*lg(1/E)才能表示任意n个元素的集合。但m还应该更大些,因为还要保证bit 数组里至少一半为0,则m应该>=nlg(1/E)*lge 大概就是nlg(1/E)1.44倍(lg表示以2为底的对数)。 举个例子我们假设错误率为0.01,则此时m应大概是n的13倍。这样k大概是8个。 注意这里m与n的单位不同,m是bit为单位,而n则是以元素个数为单位(准确的说是不同元素的个数)。通常单个元素的长度都是有很多bit的。所以使用bloom filter内存上通常都是节省的。 扩展: Bloom filter将集合中的元素映射到位数组中,用k(k为哈希函数个数)个映射位是否全1表示元素在不在这个集合中。Counting bloom filter(CBF)将位数组中的每一位扩展为

海量空间数据存储技术研究.

海量空间数据存储技术研究作者:作者单位:唐立文,宇文静波唐立文(装备指挥技术学院试验指挥系北京 101416,宇文静波(装备指挥技术学院装备指挥系北京 101416 相似文献(10条 1.期刊论文戴海滨.秦勇.于剑.刘峰.周慧娟铁路地理信息系统中海量空间数据组织及分布式解决方案 -中国铁道科学2004,25(5 铁路地理信息系统采用分布式空间数据库系统和技术实现海量空间数据的组织、管理和共享.提出中心、分中心、子中心三层空间数据库分布存储模式,实现空间数据的全局一致和本地存放.铁路基础图库主要包括不同比例尺下的矢量和栅格数据.空间数据库的访问和同步采用复制和持久缓存.复制形成主从数据库结构,从数据库逻辑上是主数据库全部或部分的镜象.持久缓存是在本地形成对远程空间数据的部分缓存,本地所有的请求都通过持久缓存来访问. 2.学位论文骆炎民基于XML的WebGIS及其数据共享的研究 2003 随着计算机技术、网络通信技术、地球空间技术的发展,传统的GIS向着信息共享的WebGIS发展,WebGIS正成为大众化的信息工具,越来越多的 Web站点提供空间数据服务。但我们不得不面对这样的一个现实:数以万计的Web站点之间无法很好地沟通和协作,很难通过浏览器访问、处理这些分布于Web的海量空间数据;而且由于行业政策和数据安全的原因,这些空间资源

大多是存于特定的GIS系统和桌面应用中,各自独立、相对封闭,从而形成空间信息孤岛,难以满足Internet上空间信息决策所需的共享的需要。此外,从地理空间信息处理系统到地理空间信息基础设施和数字地球,地理空间信息共享是它们必须解决的核心问题之一。因此,对地理空间信息共享理论基础及其解决方案的研究迫在眉睫;表达、传输和显示不同格式空间数据,实现空间信息共享是数字地球建设的关键技术之一,GIS技术正在向更适合于Web的方向发展。本文着重于探索新的网络技术及其在地理信息领域中的应用。 3.学位论文马维峰面向Virtual Globe的异构多源空间信息系统体系结构与关键技术 2008 GIS软件技术经过30多年的发展,取得了巨大发展,但是随着GIS应用和集成程度的深入、Internet和高性能个人计算设备的普及,GIS软件技术也面临着诸多新的问题和挑战,主要表现为:GIS封闭式的体系结构与IT主流信息系统体系结构脱节,GIS与其他IT应用功能集成、数据集成困难;基于地图 (二维数据的数据组织和表现方式不适应空间信息应用发展的需求;表现方式单一,三维表现能力不足。现有GIS基础平台软件的设计思想、体系结构和数据组织已经不适应GIS应用发展的要求,尤其不能适应“数字地球”、“数字城市”、“数字区域”建设中对海量多源异构数据组织和管理、数据集成、互操作、应用集成、可视化和三维可视化的需求。 Virtual Globe 是目前“数字地球”最主要的软件实现技术,Vtrtual Globe通过三维可视化引擎,在用户桌面显示一个数字地球的可视化平台,用户可以通过鼠标、键盘操作在三维空间尺度对整个地球进行漫游、缩放等操作。随着Google Earth的普及,Virtual Globe已成为空间数据发布、可视化、表达、集成的一个重要途径和手段。 Virtual Globe技术在空间数据表达、海量空间数据组织、应用集成等方面对GIS软件技术具有重要的参考价值:从空间数据表达和可视化角度,基于Virtual Globe的空间信息可视化方式是GIS软件二维电子地图表达方式的最好替代者,其空间表达方式可以作为基于地图表达方式的数字化天然替代,对于GIS基础平台研究具有重要借鉴意义;从空间数据组织角度,Virtual Globe技术打破了以图层为基础的空间数据组织方式,为解决全球尺度海量数据的分布式存取提供了新的思路;从应用集成和空间数据互操作角度,基于VirtualGlobe的组件化GIS平台可以提供更好的与其他IT系统与应用的集成方式。论文在现有理论和技术基础上,借鉴和引入

海量数据的存储需求及概念

海量数据的存储需求及概念 海量数据的存储需求其实就是时下流行的云存储概念,使用NVR的集群技术作为基础搭建的海量数据存储系统,可称为音视频云存储系统,在此基 础上的各种新型的智能高效查询服务可以称为云查询。 云存储是以NVR为硬件基础,使用软件分布式技术搭建的一个虚拟存储服务,此方式的具体工作NVR硬件对用户透明,用户提出存储需求,云存储服务系统满足需求。此系统具有高性价比、高容错性、服务能力几乎可以无限伸缩。在云存储系统里面的单机NVR,对其可靠性要求很低,因此我们可以使用 大量廉价的NVR硬件(不带RAID功能)来搭建系统。由此大量减少了硬件成本。由于数据IO吞吐处理被分散到了很多单机上,对单机的处理器、硬盘IO的能 力要求也可变得很低,进一步降低硬件成本。另外,由于云管理系统做了大量 的智能管理工作,将使得安装维护变得更容易。 云查询就是音视频云存储系统里的云计算,由于数据是分散存储在各个 单机节点上,故大量的查询可以是并行的,使得可以实现一些以前很难做到的 密集型计算的查询应用,如视频内容检索,历史视频智能分析等。 云软件开发模式使用强大的分布式中间件平台,其开发难度可大大降低。例如,由某公司开发的分布式平台就是一款云开发的利器,它高效、易学易用、能力强大、跨平台和编程语言,内置了很多分布式开发的基本特性。 未来几年中国的家庭宽带将升级到光纤入户,企业数据网络将升级到万 兆网,在网络化高度发达的大背景下,IT行业正在改变传统的IT资源拥有模式。安防行业在完全融入IT的背景下,行业发展和IT行业的发展趋势是一致的, IT行业的主流趋势是资源正在向可运营、可服务的方向发展。视频监控在智能

物联网论文海量信息存储

数字化的存储手段 ——海量信息存储

摘要 随着信息社会的快速发展,越来越多的信息被数据化,尤其是伴随着计算机网络的发展,数据呈爆炸式增长。因此在日常生活工作中,如何安全地存放以及高效地使用海量资料,成为人们日益面临的重大困惑。随着数字图书馆、电子商务、多媒体传输等用的不断发展,存储产品已不再是附属于服务器的辅助设备,而成为互联网中最主要的花费所在。随之而来的是海量信息存储的需求不断增加,正是用户对存储空间需求的不断增加,推动海量信息存储技术的不断变化。海量存储技术已成为继计算机浪潮和互联网浪潮之后的第三次浪潮。本文从物联网对海量信息存储的需求出发,比较了三种基本的网络存储体系结构(DAS,NAS,SAN)各自特点,并讨论了数据中心的基本概念,最后以Google数据中心和Hadoop为例,简要介绍了数据中心的相关技术,指出了数据中心的研究热点,并提到了保证性能前提下降低数据中心成本的方法(服务器成本,网络设备成本,能源成本)。最后,对海量信息存储的前景做出了展望。 关键词:海量信息存储数据中心计算机网络

一、海量信息存储时代背景 随着计算机技术的发展,信息正以数据存储的方式高速增长着,不断推进着全球信息化的进程。随之而来的是海量信息存储的需求不断增加。从存储服务的发展趋势来看,一方面,是对数据的存储量的需求越来越大,另一方面,是对数据的有效管理提出了更高的要求。首先是存储容量的急剧膨胀,从而对于存储服务器提出了更大的需求;其次是数据持续时间的增加。最后,对数据存储的管理提出了更高的要求。 海量存储的含义在于,其在数据存储中的容量增长是没有止境的。因此,用户需要不断地扩张存储空间。海量存储技术的概念已经不仅仅是单台的存储设备。数据容量的增长是无限的,如果只是一味的添加存储设备,那么无疑会大幅增加存储成本。因此,海量存储对于数据的精简也提出了要求。同时,不同应用对于存储容量的需求也有所不同,而应用所要求的存储空间往往并不能得到充分利用,这也造成了浪费。 如今,物联网对海量信息存储的需求日益增加,一方面,全球信息总量迅猛增长,仅2007年产生的数据量为281EB ( 1EB=10亿GB ),而物联网中对象的数量将庞大到以百亿为单位。其次,物联网中的对象积极参与业务流程的需求也在增加,这些都导致了网络化存储和大型数据中心的诞生。 二、三种基本的网络存储体系结构 直接式存储DAS是指主机与存储设备(磁盘或磁盘阵列等)之间直接连接,存储设备通过SCSI或 ATA(目前连接方式已扩展为FC、USB等多种)作为数据接口的存储方式。网络附加存储NAS是指直接挂接在网上的存储设备,实际上就是一台专用的存储服务器,它不承担应用服务,而是通过网络接口与网络连接,数据通过网络协议进行传输,支持异构服务器间共享数据。存储区域网络SAN是独立于服务器网络之外的高速存储专用网,采用高速的光纤通道作为传输媒体,以FC(FiberChannel,光纤通道)+SCSI的应用协议作为存储访问协议,将存储子系统网络化,实现了真正高速共享存储的目标。 比较各自的特点,可以得到以下结论: 对于DAS:管理容易,结构相对简单;采用集中式体系结构,不能满足大规模数据访问的需求;存储资源利用率低,资源共享能力差,造成“信息孤岛”; 对于NAS:容易实现文件级别共享;性能严重依赖于网络流量,尤其当用户数过多、读写过频繁时性能受限; 对于SAN:存储管理简化,存储容量利用率提高;没有直接文件级别的访问能力,但可在SAN基础上建立文件系统。 三、海量数据存储技术 为了支持大规模数据的存储、传输与处理,针对海量数据存储目前主要开展如下三个方向的研究: 1、虚拟存储技术 存储虚拟化的核心工作是物理存储设备到单一逻辑资源池的映射,通过虚拟化技术,为用户和应用程序提供了虚拟磁盘或虚拟卷,并且用户可以根据需求对它进行任意分割、合并、重新组合等操作,并分配给特定的主机或应用程序,为用户隐藏或屏蔽了具体的物理设备的各种物理特性。 2、高性能I/O 集群由于其很高的性价比和良好的可扩展性,近年来在HPC领域得到了广泛的应用。数据共享是集群系统中的一个基本需求。当前经常使用的是网络文件系

“大数据时代的海量存储”总结报告

“大数据时代的海量存储”总结报告 经过几周的学习,我们逐渐了解了大数据时代的存储技术的发展,通过各小组的介绍,初步了解了各种存储器的原理、应用和发展历程。这些知识也许不是那么精深,但对我们来说是一种启蒙,在学习这些知识的过程中,我们也学会了一种学习方法,这对我们未来的学习生活将会有莫大的帮助。下面就针对这几周的学习,对所掌握的知识和自己的思考进行一个总结。 一、各存储介质 1.磁盘 磁盘的基础是一个个磁片,磁片里有扇区和磁道。扇区是存储的最小单元,一 个扇区里只能存一个文件的数据,这意味着即使文件没有占用扇区的所有空间, 也不能存放其他文件了,而大的文件可能要占用多个扇区,因此在使用磁盘的 过程中,要经常进行碎片整理,使磁盘的空间能得到有效的利用。磁道则是决 定磁盘存储量的因素。一般来说,硬盘和软盘都是磁盘。 ①软盘:由单片磁盘构成,存储量小,容易物理损坏,但作为最早的移动存储 介质,在历史上占有无法磨灭的地位,也为早期的文件转移提供便利。 ②硬盘:由多个磁片组成,因此存储量大了许多,通过磁头将数据传输出去, 在计算机系统里属于外存,需要驱动器才能被识别和使用,能永久地 存储数据,在现阶段依然被广泛的运用在各个领域。 ③移动硬盘:将硬盘小型化,通过USB接口与电脑连接,传输数据,相对U 盘来说,容量也大了许多,为当代生活提供了便利。 2.U盘 U盘,全称USB闪存盘。它是通过识别浮动栅中电子的有无来判断二进制的0 和1,以此来存储数据。因为它的电子可以长时间存在,所以数据可以保存在 U盘内。因为U盘小巧轻便、价格便宜、存储量大、性能可靠,所以受到了欢 迎,成为当代移动存储介质中的重要一员。不过因为技术和结构的限制,它在 电脑中的读写速度仍比不上移动硬盘,但抗物理损坏能力强于移动硬盘,算是 各有千秋,为人们的数据转移带来了方便。 3.固态盘 固态盘有两种,一种是基于闪存的,另一种则是基于DRAM。用闪存作为介质 的固态盘一般擦写次数为3000次左右,而因为它的平衡写入机制,在实际运 用中,它几乎是可以无限利用的,读写速度又远超机械硬盘,所以现在大多数 笔记本电脑都将光驱的位置用来放置固态盘,使电脑性能得到了提高;而利用 DRAM的固态盘虽然速度也很快,但是需要一个独立电源来保存它里面的数据, 因此相对于前者来说,它有些不便,是一种非主流的固态盘。 4.光盘 光盘是用聚碳酸酯做成基板,通过激光烧录后来进行数据记录,虽然以现在的 眼光来看,光盘的使用有着种种不便,但是在以往为半结构化和非结构化的数 据的传输做出了巨大的贡献。但近年来,大多数笔记本电脑放弃了光驱,换上 了固态盘,光盘也逐渐退出了历史的舞台。 二、海量存储器 1.磁盘存储阵列

海量数据处理小结

海量的数据处理问题,对其进行处理是一项艰巨而复杂的任务。原因有以下几个方面: 一、数据量过大,数据中什么情况都可能存在。如果说有10条数据,那么大不了每条去逐一检查,人为处理,如果有上百条数据,也可以考虑,如果数据上到千万级别,甚至过亿,那不是手工能解决的了,必须通过工具或者程序进行处理,尤其海量的数据中,什么情况都可能存在,例如,数据中某处格式出了问题,尤其在程序处理时,前面还能正常处理,突然到了某个地方问题出现了,程序终止了。 二、软硬件要求高,系统资源占用率高。对海量的数据进行处理,除了好的方法,最重要的就是合理使用工具,合理分配系统资源。一般情况,如果处理的数据过TB级,小型机是要考虑的,普通的机子如果有好的方法可以考虑,不过也必须加大CPU和内存,就象面对着千军万马,光有勇气没有一兵一卒是很难取胜的。 三、要求很高的处理方法和技巧。这也是本文的写作目的所在,好的处理方法是一位工程师长期工作经验的积累,也是个人的经验的总结。没有通用的处理方法,但有通用的原理和规则。那么处理海量数据有哪些经验和技巧呢,我把我所知道的罗列一下,以供大家参考: 一、选用优秀的数据库工具现在的数据库工具厂家比较多,对海量数据的处理对所使用的数据库工具要求比较高,一般使用Oracle或者DB2,微软公司最近发布的SQL Server 2005性能也不错。另外在BI领域:数据库,数据仓库,多维数据库,数据挖掘等相关工具也要进行选择,象好的ETL工具和好的OLAP工具都十分必要,例如Informatic,Eassbase等。笔者在实际数据分析项目中,对每天6000万条的日志数据进行处理,使用SQL Server 2000需要花费6小时,而使用SQL Server 2005则只需要花费3小时。 二、编写优良的程序代码处理数据离不开优秀的程序代码,尤其在进行复杂数据处理时,必须使用程序。好的程序代码对数据的处理至关重要,这不仅仅是数据处理准确度的问题,更是数据处理效率的问题。良好的程序代码应该包含好的算法,包含好的处理流程,包含好的效率,包含好的异常处理机制等。 三、对海量数据进行分区操作对海量数据进行分区操作十分必要,例如针对按年份存取的数据,我们可以按年进行分区,不同的数据库有不同的分区方式,不过处理机制大体相同。例如SQL Server的数据库分区是将不同的数据存于不同的文件组下,而不同的文件组存于不同的磁盘分区下,这样将数据分散开,减小磁盘I/O,减小了系统负荷,而且还可以将日志,索引等放于不同的分区下。 四、建立广泛的索引对海量的数据处理,对大表建立索引是必行的,建立索引要考虑到具体情况,例如针对大表的分组、排序等字段,都要建立相应索引,一般还可以建立复合索引,对经常插入的表则建立索引时要小心,笔者在处理数据时,曾经在一个ETL流程中,当插入表时,首先删除索引,然后插入完毕,建立索引,并实施聚合操作,聚合完成后,再次插入前还是删除索引,所以索引要用到好的时机,索引的填充因子和聚集、非聚集索引都要考虑。 五、建立缓存机制当数据量增加时,一般的处理工具都要考虑到缓存问题。缓存大小设置的好差也关系到数据处理的成败,例如,笔者在处理2亿条数据聚合操作时,缓存设置为100000条/Buffer,这对于这个级别的数据量是可行的。 六、加大虚拟内存如果系统资源有限,内存提示不足,则可以靠增加虚拟内存来解决。笔者在实际项目中曾经遇到针对18亿条的数据进行处理,内存为1GB,1个P4 2.4G的CPU,对这么大的数据量进行聚合操作是有问题的,提示内存不足,那么采用了加大虚拟内存的方法来解决,在6块磁盘分区上分别建立了6个4096M的磁盘分区,用于虚拟内存,这样虚拟的内存则增加为4096*6 + 1024 = 25600 M,解决了数据处理中的内存不足问题。 七、分批处理海量数据处理难因为数据量大,那么解决海量数据处理难的问题其中一个技巧是减少数据量。可以对海量数据分批处理,然后处理后的数据再进行合并操作,这样逐个击破,有利于小数据量的处理,不至于面对大数据量带来的问题,不过这种方法也要因时因势进行,如果不允许拆分数据,还需要另想办法。不过一般的数据按天、按月、按年等存储的,都可以采用先分后合的方法,对数据进行分开处理。八、使用临时表和中间表数据量增加时,处理中要考虑提前汇总。这样做的目的是化整为零,大表变小表,分块处理完成后,再利用一定的规则进行合并,处理过程中的临时表的使用和中间结果的保存都非常重要,如果对于超海量的数据,大表处理不了,只能拆分为多个小表。如果处理过程中需要多步汇总操作,可按

第二篇小论文--海量数据存储研究 背景意义

研究背景 随着信息科技的发展,人们进入了数字信息时代,各种电子数据产生的越来越多,学校、企业、政府机关等大量纸质的数据已经被电子化。各种处理和记录系统产生的海量的数据;各种WEB应用网站每天产生的日志数据和每天用户上传的数据等都达到TB等级,如此海量数据的存储和备份已经成为一个热点问题。大量的数据混合处理之后可能会收到不同的效果,对于某些应用,例如用户行为分析,一般算法再好也不如大量的数据带来的效果更好,而这些分析的前提是数据如何存储。从这些角度上看,数据已经成为一种财富,很多公司都很重视数据这种无形的资产。例如目前很多公司在做的一项工作就是基于用户操作日志的行为分析,从分析结果中获得潜在的商机。但是快速分析的前提是如何保存这些日志数据才能提供更快的读取速度,以便加快算法产出分析的结果,同时还要保证这些数据高效的存储。 数据的存储面临的问题是数据量增加的同时,物理储存设备的访问速度没有增加。数据的一般存储方式是使用本地化存储或者使用RAID技术,本地化存储存在着严重的硬件速度瓶颈。单机的CPU、内存和硬盘等硬件有限,存储效率都停留在很低的级别,而且不具备容灾备份的功能,不能满足^^量数据的存储的需求,RAID技术采用分布式存储,利用多台机器的性能来提高系统整体的性能,提升了系统的存储效率,同时RAID具有容错的功能。但是面对海量数据的存储,使用RAID的方式需要花费巨大的资金,同时RAID虽然具有备份的能力,但是存储策略和自动修复功能都不完善。 面对如此海量数据的存储和分析的问题,人们提出了云计算解决方案,而且越来越多的科研机构和企业开始关注云计算这种新的计算模式。云计算框架的发展,带来了商业模式和计算方式的革命性转变,完全改变了过去数据主要集中在本地存储和本地计算的传统模式,使得企业机构、学校实验室和科研机构能够方便快捷地通过网络方式提升系统的计算力和存储空间,极大地降低了这些地方的硬件等基础设施的浪费和闲置,有效的提高了人力资源的效率,为企业、学校和科研机构节约了大量的资金和人力支出。

海量冷数据存储关键技术

海量冷数据存储关键技术 近年来,移动互联网、物联网、云计算的快速发展催生并积累了大量的用户、业务数据。据市场调研机构IDC预计,未来全球数据总量年增长率将维持在50% 左右,到2020年,全球数据总量将达到40ZR据统计,这些海量数据中只有10%~15的数据是被经常访问的,而绝大部分都会在产生之后逐渐变冷。这些“冷数据”的访问率虽然很低,但用户还是希望保留这些数据,对于企业而言,还有很多数据需要进行备份和存档。 且不管数据的冷热及其冗余备份,如果将这40ZB的数据都使用目前已量产的最大容量蓝光盘来存储,按照单盘容量300GB计算,则需要1300多亿张盘; 如果使用10TB的机械硬盘来存储,需要40亿个硬盘;如果采用磁带库来存储, 目前也有量产的10TB磁带,按照这个存储能力计算,也需要40亿个磁带。这不 仅为数据存储行业带来了巨大的市场空间,同时也对海量数据的存储、处理和管理能力提出了前所未有的挑战。 海量冷数据存储面临诸多挑战 首先,面对快速增长的数据存储需求,成本是需研究的首要问题。如果只从物理上增加存储容量,则必然导致存储数据的成本持续、快速增加,且将受制于机房空间、供电能力等其他因素而难以为继。 其次,是冷热数据的分级。业界根据数据的访问频次将数据分为热数据、温数据和冷数据,但具体到海量的数据,哪些属于冷数据,应该相应采用什么存储策略、存储方式,则是一个需要长期研究探索、实践积累的问题。 再者,海量的已存数据的维护也成为新的挑战。一方面需要定期检测存储介质的健康情况及数据的完整性,在发现坏盘的情况下及时进行更换;另一方面是 数据的搬迁,存储介质大都有相对固定的使用寿命,在设备生命周期结束之后, 需要将数据迁移到新的存储介质上。 海量数据的价值体现是又一挑战。海量数据的存储必然占用一定的成本,而数据的存储价值并非只是为了保存,而是在需要的时候能够被尽可能快地找到。 为用户提供尽可能好的访问体验,这就要求海量数据存储具备可快速查询的能力。 最后,数据的安全也是海量冷数据存储的一大挑战。一方面是数据的可靠性, 即数据的冗余备份。数据的存储最基本的要求就是数据不丢失,目前最常用的办法就是对数据进行多副本的冗余保存,或者采用可恢复数据的校验方法。这种冗余存储在本来就海量的基础上又增加了一定比例的数据量,而海量数据的存储通常需要大量的存储设备和其他配套设备,在相同的故障概率下,可能发生故障的设备也就相应较多,因此这些设备的定期巡检、故障定位和维修更换,都因“海量”而极具挑战。另一方面是数据的隐私保护,

海量数据存储、访问与管理

海量数据存储、访问与管理 随着信息化程度的提高,数据已超出它原始的范畴,它包含各种业务操作数据、报表统计数据、办公文档、电子邮件、超文本、表格、报告以及图片、音视频等各种数据信息。人们用海量数据来形容巨大的、空前浩瀚的、还在不断增长的数据。 海量数据是当今商业面对的一个现实。任何一个企业都在面对其企业数据库由于规模扩大产生的沉重负担,提高海量数据访问能力和业务分析能力的要求也变得越来越迫切。 ·数据爆炸。如今,需要企业进行管理的数据正在以指数级速度增长。分析人员发现,公司收集、存储和分析的有关客户、财务、产品和运营的数据,其增长率达125% 之多。各个方面的因素导致了数据的爆炸,如:网络应用增加了数据的增长速度;监控点击流需要存储与以往相比越来越多的不同的数据类型;多媒体数据也增加了对存储的要求;我们存储并管理的不仅仅是数字和文字,还有视频、音频、图像、临时数据以及更多内容,这些数据的增长速度也在不断地上升;数据仓库和数据挖掘应用鼓励企业存储越来越长的时间段内越来越多的数据。这些实际情况导致的结果就是数据大量增加。 ·法规方面的要求。在会计丑闻的唤醒下,立法者和决策人施加了严格的新要求,几乎影响到全球各家大型企业。法案要求公共公司遵守严格的金融记录保持与报告法规。如果公司不能及时、可靠地访问准确的财务信息,那么它们

将面临罚款、调查、起诉、甚至更严厉的股东信心下降的威胁。这要求公司能提供对更多数据的不间断访问能力并进行更多的分析,这必然会延长数据的维护周期,增加数据容量。 ·非结构化数据应用的需要。结构化数据是指诸如企业财务账目、客户信息、业务操作数据等具有明显结构化特性的数据。非结构化数据包括扫描文档图像、传真、照片、计算机生成的报告、字处理文档、电子表格、演示文稿、语音和视频片段等。根据业界分析报告,非结构化数据占有整个信息量的85%以上,数据量及其庞大,是信息资源管理的核心。同样,企业需要对非结构化数据进行存储、检索、过滤、提取、挖掘、分析等各方面应用。 ·历史数据归档与访问的需要。一般来说业务系统是用来处理业务交易的,为了使这些关键业务系统的性能不会受到严重影响,往往业务系统只存放短周期内的业务交易数据,大量的历史数据都被备份到磁带上,或者被转移到其他存储设备上静态保存,当对它们运行SQL 查询时再把它们从档案环境中恢复出来。但是随着企业对数据的重要性越来越重视,以及数据分析、数据挖掘的应用逐渐普及,历史数据的访问将变得重要、频繁和直接。历史数据的不断积累,也对海量数据的存储、管理和访问提出了新的需求。 ·数据整合与数据分析的需要。当前,企业信息的存放具有数据结构多元化、存储异构化的特点,企业的数据可能存储在传统系统、大型数据仓库或具有计费、订购、制造、分销或其他功能的数据运营孤岛上,因此会给访问带来极大的困难。数据整合与数据分析已经成为信息管理技术的应用热点。只有在有效

云存储与传统海量数据存储技术的比较

云存储与传统海量数据存储技术的比较 孟凡淇 (盐城师范学院数学科学学院,江苏盐城224002) 摘要:日益增长的数据量迫切需要找到一种高效、高性能、低成本的数据。文章从传统海量数据存储方式的结构特点出发,进行分析,对现在主流的云计算及云存储技术与传统技术进行比较,挖掘云存储的优势。 关键词:海量数据;云计算;云存储 中图分类号:TP333文献标识码:A文章编号:1673-1131(2014)09-0151-01 1传统海量数据存储技术 1.1直连式存储DAS 直连式存储DAS(Direct Attached Storage)又被称为直接连接存储,是指将存储设备通过一些数据接口(SCSI接口或光纤通道)直接连接到某一个主机系统上的存储方式。DAS是一种简单的存储方案,技术容易实现,主要应用在早期对数据存储需求较小的计算机和服务器上。但DAS因为其采用SCSI 作为连接通道的特点,带宽和通过SCSI建立的连接都受到了一定的限制。在服务器主机端,数据的读写、备份、恢复和存储管理都依靠和影响着服务器,并且依赖性随着数据存储量增大而增大。服务器沉重的负荷,海量数据的存取效率变低和传输的实时性变差,都难以满足数字化时代的需求。 1.2网络附加存储NAS 网络附加存储NAS(Network Attached Storage)是指直接接在网上的存储设备,它不再通过I/O总线附属于某个特定的服务器,而存储系统和服务器主机是通过网络(TCP/IP、ATM、FDDI)技术和网络交换机连接,并建立了可供用户通过网络访问的存储私网来专门存储数据。但NAS通过网络来进行数据的备份和恢复,文件服务器带宽消耗的问题并没有得到解决,这是NAS的最大缺点。此外NAS与以太网直接相连,导致数据安全性存在问题,NAS的扩展性较差,扩展后的设备性能会降低,NAS技术的投入成本很高,不能得到广泛应用。 1.3存储区域网络SAN 存储区域网络SAN(Storage Area Network)是使用最广泛的计算机存储技术架构,是高速存储的专用网络。SAN独立于服务器网络之外,服务器和远程的计算机存储设备通过光纤通道连接,使数据块直接在存储设备传送,实现了高速共享存储。SAN具有高容量、高可靠性、传输速度快,扩展能力强,共享性高等优点。但SAN以DAS和NAS这两种技术为基础,造成了过高的技术实现要求,后期升级困难和高成本投资等问题。另外,它存储系统的接口不统一,导致在共享访问中出现数据不安全和不完整问题,跨平台性较差。 2云计算与云存储技术 2.1云计算 对于网络中产生的越来越多的数据量,传统存储模式已经无法应付,云的概念随之而被提出的。亚马逊是全球最早提出云计算,它是以互联网和计算机技术为基础发展形成的,是一种新的计算模式,是分布式处理、并行处理和网格计算的发展。在云计算中,云即可自我维护和管理的虚拟计算资源,可放置无数的软件和服务,用户可以通过各种设备来获得构筑于各种标准和协议之上的软件和服务。 2.2云存储 云存储也叫分布式存储,它是对云计算的一种延伸。云计算系统基于廉价或虚拟化的物理硬件上,云存储作为云计算的存储支持,利用集群应用、分布式文件系统或者负载均衡等功能,通过应用软件将网络中大量不同类型的存储设备集合起来,共同对外提供数据存储和访问功能的一个系统。云存储的使用并不涉及到具体的存储设备,而是它提供的数据访问服务。云存储是一个复杂的系统,组成部分有网络设备、存储设备、服务器等,每部分都以存储设备为核心。云存储系统的结构模型由存储层、基础管理层、应用接口层、访问层四层组成。 2.3云存储与传统存储技术的优势对比 (1)文件保存。云存储采用冗余技术,将文件复制很多份,分别存储在不同的计算机中。文件不会因为一台计算机的故障而丢失,系统能在硬件故障突然发生时,自动地将读写指令连接到其他服务器,保证正常服务,这解决了以往因硬件故障而令文件不能使用的问题。 (2)系统升级。传统的数据存储系统升级时,要对文件做备份后再停止服务器的运行,在新设备换好后,服务器才能正常运行。而云存储具有多个服务器,系统可以实现同步升级,升级时候不需停止服务,数据会被自动转移,升级结束后又被转移回来。 (3)设备扩展。传统数据存储设备在扩展时,受主客观影响,造成对存储设备空间大小的判断失误,出现浪费情况。而云存储提前分配了大于实际购买的存储设备的容量,避免了这种情况。在扩展的方式上,传统存储技术采用串行方式,这种方式扩展的存储容量是具有上限的,而云存储采用并行方式,容量几乎没有上限。 (4)设备管理。传统存储技术没有一个统一的管理标准,不同的服务商拥有不同的管理界面,数据中心的工作人员要对各种各样的存储产品做到全面了解才能更好地进行管理,管理工作困难且复杂。而使用云存储,可以在统一的管理界面上管理每一台服务器,数据中心的工作人员工作就是对在存储服务器的储存量不足时进行扩充或更换。 (5)兼容性。传统存储技术在硬盘兼容性方面要求很高,硬件的型号、容量,甚至厂牌都要相同。但云存储对硬盘没有要求,任何硬盘都能一起工作,不会出现浪费用户原有硬件投入的情况,更不会出现兼容性的问题。 3结语 本文通过介绍DAS、NAS和SAN三种传统海量数据存储技术的不足,把云存储与传统海量数据存储技术进行比较,说明云存储技术具有传统存储系统所不具有的优势,它能高效存储海量数据、提供相对高的安全性和可靠性并且成本低。 2014年第9期(总第141期) 2014 (Sum.No141)信息通信 INFORMATION&COMMUNICATIONS 151

相关主题