大数据导论之为何需要引入大数据

一、引言

  最近各种客户咨询项目中,往往涉及大数据引入必要性和价值意义的深层次挖掘,客户有数据,有平台,但是不知到底要不要上大数据为何要上大数据和大数据可以带来哪些价值和意义。本文关于大数据的必要性进行阐述,来源实际项目,算是分享吧。

二、突破技术瓶颈

  

  互联网技术催生了大数据时代的来临,大数据时代的数据形态有四大特点:首先数据体量巨大,非结构化数据的超大规模和增长占总数据量的80%至90%,比结构化数据增长快10到50倍;其次、大数据的异构和多样性,比如图片、新闻、博客、微博、微信等,比大更重要的是数据的复杂性,有时甚至大数据中的小数据如一条微博就具有颠覆性的价值;第三,价值密度低,大量的不相关信息,需要沙里淘金;第四,传播速度快,因此,需要实时分析而非批量式分析。

  在大数据时代,面对如此海量快速的信息,纯人工监测互联网已经不可行了。自动化舆情软件成为大数据环境下舆情监测和分析的引擎。监测舆情可以设立一些关键词,首先要与自己机构相关,可以包括竞争者或者是合作伙伴,然后要放在特定网络媒体进行搜集。所有“信息碎片”搜集完之后,我们开始聚合信息,判断哪些和产品相关,哪些跟区域相关,哪些跟自己相关。把这些信息进行精确地采集和过滤、炼化分析,包括传播统计和分析(媒介分析、主体传播分布、传播路径分析、传播源头追踪)、敏感(负面)舆情、舆情信息传播趋势分析,预判所收集到舆情信息的未来走势。在此基础上生成舆情简报,舆情简报由系统自动生成,以日或周为单位,对本阶段监测到的舆情进行统计和分析,包括舆情分布、热点舆情排行、负面舆情分析、正面舆情排行等情况。

  大数据时代自身的特点决定了我们既面临数据体量巨大的存储压力,同时面临海量数据信息过滤,数据加工、数据分析和平台运算瓶颈。要想突破传统技术瓶颈的约束,我们必须引入大数据技术。

三、摆脱成本枷锁

  

  基于传统模式的舆情分析和历史数据存储,是建立在高性能服务器硬件和昂贵的关系型数据基础之上的。一方面硬件技术掌握在几大IT巨头手中,服务器的性能是以高昂的成本为支撑的;另外一方面硬件基础之上操作系统、应用软件和关系型数据库同样掌握在几大巨头手中,其价格同样不菲。此外规模的扩展、软件的升级和每年的服务费用也是非常昂贵。

  基于互联网技术发展起来的大数据,以开源框架Hadoop、HBase为基础,以Hive、Sqoop、Pig、Flume等软件为工具,建立在X86-PC服务器和开源Linux操作系统之上。一方面硬件成本得以降低、另外一方面再无须为操作系统和应用软件支付高昂的Licence费用。可以说大数据技术将使我所在很大程度上摆脱传统IT厂商巨额的成本依赖。

四、促进业务创新

  

  这部分涉及具体应用,视行业而定。在此制作一个方向说明:大数据的应用可以衍生新的服务,新的产品。

  大数据实施方案咨询和技术交流群:293503507,敬请关注。

时间: 2024-09-19 04:18:58

大数据导论之为何需要引入大数据的相关文章

《大数据导论》一第一部分 大数据基础

 本节书摘来自华章出版社<大数据导论>一书中的第1章,第1.1节,作者托马斯·埃尔(Thomas Erl),瓦吉德·哈塔克(Wajid Khattak),保罗·布勒(Paul Buhler),更多章节内容可以访问"华章计算机"公众号查看. 第一部分 大数据基础 大数据具有改变企业性质的能力.事实上,有很多公司仅仅依靠着能够提出一些深刻的见解而存在,而这些见解只有通过大数据才能实现.第一部分的四章主要从商业的角度阐述了大数据的基本要素.企业需要理解大数据,不仅仅与技术相关,也

《大数据导论》——1.2节大数据特征

1.2 大数据特征大数据的数据集至少拥有一个或多个在解决方案设计和分析环境架构中需要考虑的特征.这些特征大多数由道格·兰尼早在2001年发布的一篇讨论电子商务数据的容量.速率和多样性对企业数据仓库的影响的文章中最先提出.考虑到非结构化数据的较低信噪比需要,数据真实性随后也被添加到这个特征列表中.最终,其目的还是执行能够及时向企业传递高价值.高质量结果的分析.

《大数据导论》——第1部分大数据基础

第一部分大数据基础大数据具有改变企业性质的能力.事实上,有很多公司仅仅依靠着能够提出一些深刻的见解而存在,而这些见解只有通过大数据才能实现.第一部分的四章主要从商业的角度阐述了大数据的基本要素.企业需要理解大数据,不仅仅与技术相关,也与如何通过这些技术推动公司的发展相关.第一部分由如下4章组成:第1章主要介绍一些关键性的概念和术语,定义了大数据技术中的许多基本元素,并且阐述了大数据处理复杂的商业中蕴含的深层知识的能力.同样,第1章也介绍了辨别大数据的数据集的许多特征,并且定义了很多能够作为大数据

运营商发力大数据,实现流量经营向大数据运营的创新转型

未来是一个数据驱动的世界,一切都将被数字化,数字化创新转型将成为各行业应对时代变化和市场竞争的必由之路.Gartner 数据显示,全球数据量每两年翻一倍,每年新产生和复制的数据量将从2013年的4.4ZB增长到2020年的44ZB.IDC报告预测,到2017年,数字化业务上的能力欠缺将使25%的企业失去市场位置,20%的行业领先企业将被2000年以后成立的企业取代. 电信运营商具有发展大数据的先天性优势,电信与媒体市场调研公司Informa Telecoms & Media 在2013年的调查结

《大数据导论》一2.6 案例学习

   本节书摘来自华章出版社<大数据导论>一书中的第2章,第2.6节,作者托马斯·埃尔(Thomas Erl),瓦吉德·哈塔克(Wajid Khattak),保罗·布勒(Paul Buhler),更多章节内容可以访问"华章计算机"公众号查看. 2.6 案例学习 ETI公司的高级管理委员会调查了公司衰退的财务状况,认识到公司如今的许多问题本可以早些检测到的.如果战术层的管理者们能够有更清醒的意识,他们本可以提早采取措施来避免损失.这种提前警醒能力的缺乏是由于ETI未能察觉市场

引入大数据 加强打击围标行为

"十三五"期间顺德将推上百个重大工程项目,投入上千亿元资金.如何确保这些项目健康顺利推进?6日下午,顺德区政协开展重大建设工程项目"回头看"视察.记者获悉,"信用优先随机定标法".标后管理等创新监管办法实施以来,顺德工程项目招投标投诉率下降64%,今年1月-5月省市重点工程项目完成比例为52%,居佛山五区之首.有政协委员建议,下一步可以引入大数据技术,对参与竞标的企业背景进行筛查,进一步打击围标串标等违法行为. 信用优先定标法助招标投诉率下降64

《大数据导论》——1.1节概念与术语

1.1 概念与术语 作为开端,我们首先要定义几个基本概念和术语,以便大家理解.1.1.1 数据集 我们把一组或者一个集合的相关联的数据称作数据集.数据集中的每一个成员数据,都应与数据集中的其他成员拥有相同的特征或者属性.以下是一些数据集的例子: 存储在一个文本文件中的推文(tweet) 一个文件夹中的图像文件 存储在一个CSV格式文件中的从数据库中提取出来的行数据 存储在一个XML文件中的历史气象观测数据 图1.1中显示了三种不同数据格式的数据集. 1.1.3 数据分析学 数据分析学是一个包含数

《大数据导论》一第1章 理解大数据

  本节书摘来自华章出版社<大数据导论>一书中的第1章,第1.1节,作者托马斯·埃尔(Thomas Erl),瓦吉德·哈塔克(Wajid Khattak),保罗·布勒(Paul Buhler),更多章节内容可以访问"华章计算机"公众号查看. 第1章 理解大数据 大数据是一门专注于对大量的.频繁产生于不同信息源的数据进行存储.处理和分析的学科.当传统的数据分析.处理和存储技术手段无法满足当前需求的时候,大数据的实践解决方案就显得尤为重要.具体地说,大数据能满足许多不同的需求,

《大数据导论》一1.2 大数据特征

  本节书摘来自华章出版社<大数据导论>一书中的第1章,第1.2节,作者托马斯·埃尔(Thomas Erl),瓦吉德·哈塔克(Wajid Khattak),保罗·布勒(Paul Buhler),更多章节内容可以访问"华章计算机"公众号查看. 1.2 大数据特征 大数据的数据集至少拥有一个或多个在解决方案设计和分析环境架构中需要考虑的特征.这些特征大多数由道格·兰尼早在2001年发布的一篇讨论电子商务数据的容量.速率和多样性对企业数据仓库的影响的文章中最先提出.考虑到非结构化