大数据架构和平台算是新事物,而且还在以一种非凡的速度不断发展着。商业和开源的开发团队几乎每月都在发布其平台的新功能。当今的大数据集群将会与将来我们看到的数据集群有极大不同。适应这种新困难的安全工具也将发生变化。在采用大数据的生命周期中,业界仍处于早期阶段,但公司越早开始应对大数据的安全问题,任务就越容易。如果安全成为大数据集群发展过程中的一种重要需求,集群就不容易被黑客破坏。此外,公司也能够避免把不成熟的安全功能放在关键的生产环境中。“大数据”一词常被误解。事实上,使用频率太高反而使它几乎没有什么意义了。大数据确实存储并处理
大量的数据集合,但其特性
体现远不止于此。在着手解决大数据问题时,将其看作是一种观念而不是特定的规模或技术非常有益。就其最简单的表现来说,大数据现象由三个大趋势的交集所推动:包含宝贵信息的大量数据、廉价的计算资源、几乎免费的分析工具。如今,有很多特别重视不同数据类型(
例如,地理位置数据)的大数据管理系统。这些系统使用多种不同的查询模式、不同的数据存储模式、不同的任务管理和协调、不同的资源管理工具。虽然大数据常被描述为“反关系型”的,但这个概念还无法抓住大数据的本质。为了避免性能问题,大数据确实抛弃了许多关系型数据库的核心功能,却也没犯什么错误:有些大数据环境提供关系型结构、业务连续性和结构化查询处理。由于传统的定义无法抓住大数据的本质,我们不妨根据组
成大数据环境的关键要素思考一下大数据。这些关键要素使用了许多分布式的数据存储和管理节点。这些要素存储多个数据副本,在多个节点之间将数据变成“碎片”。这意味着在单一节点发生故障时,数据查询将会转向处理资源可用的数据。正是这种能够彼此协作的分布式数据节点集群,可以解决数据管理和数据查询问题,才使得大数据如此不同。498)this.width=498;' onmousewheel = 'javascript:return big(this)' border="0" alt="大数据的安全挑战" width="461" height="269" src="http://s3.51cto.com/wyfs01/M00/11/6D/wKioOVH3FZyzaxy-AABLpQjWGhQ395.jpg" />上图显示的是一个Hadoop文件系统的架构图,显示出数据节点和客户端如何交互。节点的松散联系带来了许多性能优势,但也带来了独特的安全挑战。大数据数据库并不使用集中化的“围墙花园”模式(与“完全开放”的互联网相对而言,它指的是一个控制用户对网页内容或相关服务进行访问的环境),内部的数据库并不隐藏自己而使其它应用程序无法访问。在这儿没有“内部的”概念,而大数据并不依赖数据访问的集中点。大数据将其架构暴露给使用它的应用程序,而客户端在操作过程中与许多不同的节点进行通信。498)this.width=498;' onmousewheel = 'javascript:return big(this)' border="0" alt="大数据的安全挑战" width="308" height="447" src="http://s4.51cto.com/wyfs01/M01/11/6C/wKioJlH3FZzhuXfgAABXdq9FJ9E850.jpg" />规模、实时性和分布式处理:大数据的本质特征(使大数据解决超过以前数据管理系统的数据管理和处理需求,例如,在容量、实时性、分布式架构和并行处理等方面)使得保障这些系统的安全更为困难。大数据集群具有开放性和自我组织性,并可以使用户与多个数据节点同时通信。验证哪些数据节点和哪些客户应当访问信息是很困难的。别忘了,大数据的本质属性意味着新节点自动连接到集群中,共享数据和查询结果,解决客户任务。嵌入式安全:在涉及大数据的疯狂竞赛中,大部分的开发资源都用于
改善大数据的可升级、
易用性和分析功能上。只有很少的功能用于增加安全功能。
但是,你希望得到嵌入到大数据平台中的安全功能。你希望开发人员在设计和部署阶段能够支持所需要的功能。你希望安全功能就像大数据集群一样可升级、高性能、自组织。问题是,开源系统或多数商业系统一般都不包括安全产品。而且许多安全产品无法嵌入到Hadoop或其它的非关系型数据库中。多数系统提供最少的安全功能,但不足以包括所
有的常见威胁。在很大程度上,你需要自己构建安全策略。应用程序:面向大数据集群的大多数应用都是Web应用。它们利用基于Web的技术和无状态的基于REST的API。虽然全面讨论大数据安全的这个问题超出了本文的范围,但基于Web的应用程序和API给这些大数据集群带来了一种最重大的威胁。在遭受攻击或破坏后,它们可以提供对大数据集群中所存储数据的无限制访问。应用程序安全、用户访问管理及授权控制非常重要,与
重点保障大数据集群安全的安全措施一样都不可或缺。数据安全:存储在大数据集群中的数据基本上都保存在文件中。每一个客户端应用都可以维持其自己的包含数据的设计,但这种数据是存储在大量节点上的。存储在集群中的数据易于遭受正常文件容易感染的所有威胁,因而需要对这些文件进行保护,避免遭受非法的查看和复制。【编辑推荐】 在Hadoop中保护大数据安全的9个技巧 大数据安全意义重大 Sophos:大数据安全值得深挖【责任编辑:蓝雨泪 TEL:(010)68476606】 原文:大数据的安全挑战 返回网络安全首页
大数据的安全挑战
时间: 2025-01-30 14:49:15
大数据的安全挑战的相关文章
《大数据集成(1)》一1.2 大数据集成:挑战
1.2 大数据集成:挑战 为了更好地理解大数据集成带来的各种挑战,我们给出5个最近的案例研究,实验性地检查大数据集成中的Web数据源的各种特征,以及对这些特征自然分类的维度. "当你能度量你所说的,并能将它表示成数字,那么你就认识它一些了." --Lord Kelvin 1.2.1 "V"维度 大数据集成在多个维度上不同于传统数据集成,类似于大数据不同于传统数据库的维度. 1.海量性(Volume) 在大数据时代,不仅数据源包含大量的数据,而且数据源的数目也增长到千
Apache Storm源码阅读笔记&;OLAP在大数据时代的挑战
<一>Apache Storm源码阅读笔记 楔子 自从建了Spark交流的QQ群之后,热情加入的同学不少,大家不仅对Spark很热衷对于Storm也是充满好奇.大家都提到一个问题就是有关storm内部实现机理的资料比较少,理解起来非常费劲. 尽管自己也陆续对storm的源码走读发表了一些博文,当时写的时候比较匆忙,有时候衔接的不是太好,此番做了一些整理,主要是针对TridentTopology部分,修改过的内容采用pdf格式发布,方便打印. 文章中有些内容的理解得益于徐明明和fxjwind两
大数据面临的挑战:当大数据遭遇云计算
本文讲的是大数据面临的挑战:当大数据遭遇云计算,据IDC的报告,未来十年全球大数据将增加50倍.仅在2011年,我们就将看到1.8ZB(也就是1.8万亿GB)的大数据创建产生.这相当于每位美国人每分钟写3条Tweet,而且还是不停地写2.6976万年.在未来十年,管理数据仓库的服务器的数量将增加10倍以便迎合50倍的大数据增长. 毫无疑问,大数据将挑战企业的存储架构及数据中心基础设施等,也会引发云计算.数据仓库.数据挖掘.商业智能等应用的连锁反应.2011年企业会将更多的多TB(1TB=1000
大数据时代的挑战与需求
大数据时代的背景 近年来,随着互联网.智能手机及传感器等的普及,信息流量有了爆发性的增长,根据GreenIT协议会统计,2025年,社会的信息量将猛增至2006年的200倍.越来越多的http://www.aliyun.com/zixun/aggregation/32834.html">业内人士开始谈论"大数据",那么是否所有庞大的数据量都可以冠以"大数据"呢?其实不然,大数据的准确定义应该是采用既存技术或系统难以处理.分析的各种类型的大量数据,即大
工业大数据的三大挑战及大数据未来中国五大商业趋势
在设备运行的过程中,自然磨损本身会使产品的品质发生一定的变化.通过信息技术.物联网技术的发展,通过传感器技术,实时感知数据,知道产品出了什么故障,哪里需要配件,使得生产过程中的这些因素能够被精确控制,从而真正实现生产的智能化.一定程度上,工厂/车间的传感器所产生的大数据直接决定了"工业4.0"所要求的智能化设备的智能水平. 从生产能耗角度来看,设备生产过程中利用传感器集中监控所有的生产流程,能够发现能耗的异常或峰值情况,由此能够在生产过程中不断实时优化能源的消耗.同时,对所有流程的大数
大数据时代的挑战与未来的发展趋势
ZDNet至顶网服务器频道 01月21日 新闻消息:大数据挑战和机遇并存,大数据在未来几年的发展将从前几年的预期膨胀阶段.炒作阶段转入理性发展阶段.落地应用阶段,大数据在未来几年将逐渐步入理性发展期.未来的大数据发展依然存在诸多挑战,但前景依然非常乐观. 大数据发展的挑战 目前大数据的发展依然存在诸多挑战,包括七大方面的挑战:业务部门没有清晰的大数据需求导致数据资产逐渐流失;企业内部数据孤岛严重,导致数据价值不能充分挖掘;数据可用性低,数据质量差,导致数据无法利用;数据相关管理技术和架构落后,导
DataShuo大数据时代转挑战为商机
[声明]本文源自勤智大数据DataShuo产品数据分析师吴赟,转载请注明出处 [摘要]:随着计算机技术的快速发展,特别是大数据.云计算.社交网络.移动客户端以及信息传播技术的进步,数据正以惊人的速度快速增长.多年以前,信息界就在议论一个话题:如何处理海量数据? 尤其是需要处理大量用户数据的行业.他们的用户基本在任意时间段,随时产生数据.这些相关行业的服务器,必须将随时产生的数据忠实的记录下来.伴随着数据的快速积累,相当多的行业开始利用数据,从大量数据中发现有价值的信息.相当多的行业专家通过一些科
扬州市统计局围绕“大数据带来的挑战”开展三季度重点调研课题交流汇报
为积极应对数据革命给政府统计带来的挑战,不断增强在大数据的环境下我市全体http://www.aliyun.com/zixun/aggregation/32283.html">统计工作人员抓住数据.理解数据.分 析数据的本领, 扬州市统计局在9月份邀请国家统计局统计科学研究院丛雅静博士,来扬举办"大数据背景下政府统计的新思维"学术报告会的基础上,10月29日,又 围绕"如何迎接大数据来临的挑战"这一课题组织开展交流汇报.市局十个处室通过PPT演示从不
浪潮张东:大数据时代,挑战与解决之道
第五届中国云计算大会于2013年6月5-7日在北京国家会议中心拉开帷幕.本次大会以国际视野,洞悉全球云计算发展趋势,并从应用出发,探讨云计算与大数据.云计算与移动互联网.云安全及云计算行业应用等焦点话题.大会还特别设立了云计算服务展示区域,交流国际云计算最新研究成果,展示国内云计算试点城市发展成就,分享云计算发展经验,促进全球云计算创新合作. 浪潮集团系统软件总监.云计算产品部总经理 张东 在第五届云计算大会第二天的演讲上,浪潮集团系统软件总监.云计算产品部总经理张东给我们带来了名为<大数据时代