浅谈公安大数据的建设

ZDNet至顶网服务器频道 11月25日 新闻消息:

1公安大数据的建设需求

近年来随着信息化技术的不断发展,现有的公安警务数据中心无论是规模还是架构都很难适应在海量数据场景下的数据管理和分析,直接影响了公安形势预判和重大决策。因此,在现阶段建设新的能够匹配公安业务场景的大数据系统是公安部门的迫切需求。

新建设的公安大数据系统,将成为面向各警种的大数据管理和分析平台,通过对海量数据的收集、整理、归档、分析、预测,从复杂的数据中挖掘出各类数据背后所蕴含的、内在的、必然的因果关系,找到隐秘的规律,促使这些数据从量变到质变,实现对海量数据的深度应用、综合应用和高端应用。通过大数据的建设,使新系统能够向各警种提供集中资源、集中管理、集中监控和配套实施统一的大数据应用环境,保障在今后一个较长时期内很好地担负起对全局各警实战应用的支撑、服务、保障作用。

那么,公安需要一个什么样的大数据系统?

1.PB级数据存储管理:信息化建设在推进,数据规模随之飞速增长,为了满足大规模数据的存储和分析,大数据存储系统应支持单一系统扩展至10PB以上规模,以满足未来数据爆发的存储需要

2.多种数据类型与协议支持:公安数据形式多样,包含文档、图片、视频、栅格、矢量等,因此该系统需要能够支持结构化、半结构化、非结构化多种数据类型,提供NFS/CIFS/JDBC/ODBC等多种接口,以便业务对多种数据进行访问和操作;

3.高质量的数据整合:好的数据质量是数据分析挖掘等有效应用的基本条件,面对公安行业交互复杂而繁多的系统,势必需要将这些多源异构的数据进行抽取、转换及装载,实现数据的整合、消重,提供高质量的数据,在此基础上进行关联、建模,为实战业务提供可用的数据;

4.高效的数据分析能力:百亿条记录的检索、上千张表的碰撞、几百个小时的视频分析、大量的移动互联网和社交媒体数据处理等应用,无不对大数据系统的数据分析能力提出更高的要求;

5.可管理和开放性:可管理、开放化、标准化的大数据技术体系架构,不仅可以为公安带来更高的性价比、更出色的扩展性,更能为警务建设在大数据平台上开展新探索、新应用解除后顾之忧;

6.安全可靠,自主可控:公安系统中很多数据关系着国家安全和人民生命财产安全,因此,要求该系统具备非常高的可靠性,同时,为进一步加强数据安全性,避免数据泄露,最好选用具备完全自主知识产权的国产设备和系统。

2公安大数据的技术选型

大数据的实质是对数据的管理与开发利用,与当前以信息资源开发为核心的公安工作具有广泛的共通性,如何借助大数据技术推动公安工作的发展和变革?技术选型非常重要。在各个企业和组织纷纷助推下,大数据领域的相关技术呈现百花齐放局面,涵盖数据收集、存储、计算、挖掘、资源调度等,下面就以最核心的计算层和存储层两个维度介绍下有关技术路线和发展趋势。

数据处理:

简而言之,不管对何种应用,当数据量很大时就无法在一台服务器上解决计算问题,此时分布式计算优势就体现出来,而Hadoop MapReduce的重要创新便是当处理一个大数据集时会将其任务分解并在运行的多个节点中处理,这种批处理框架常用于离线的复杂的非结构化数据处理,如ETL、数据挖掘等场景;与Hadoop的使用硬盘来存储数据不同,Spark是基于内存的迭代计算框架,适用于需要多次操作特定数据集的应用场合;而Storm则是专门针对实时数据类型的流式计算分析框架,应用在低延迟的场景中,实现海量事件的实时分析、处理和决策。除此之外,为应对不断增长的海量结构化数据的存储和快速处理以及灵活的业务建模需求,数据库系统必将引入分布式架构、MPP处理技术。

数据存储:

上面提到了MapReduce将任务分发到多个服务器上处理大数据的能力。而对于分布式计算,每个服务器必须具备对数据的访问能力,这就是HDFS所起到的作用,HDFS有着高容错性、高吞吐量的特点,适合大数据集的应用。与此同时,业内也有许多其他类型的文件系统推出,不仅能解决了传统存储体系结构存在的难题,又能提高存储利用率和数据读写性能,可以替代HDFS作为Hadoop架构的底层文件系统/数据存储。

不同的技术思路各有偏重,由于公安业务种类繁多,大数据应用场景多样化,除了建立各类基础大数据资源库之外,还需要做到事前预测警务研判、事中实时情报分析及事后案事件分析,及可视化查询统计等,建议公安用户基于智能融合的大数据架构构建上层应用,积极引入大数据领域的先进技术,推动公安工作迈入大数据发展阶段。

3华为大数据解决方案服务公安

华为汇集国内外的大数据专家,构建世界级的大数据团队,全面覆盖大数据领域关键技术,推出了智能融合的大数据解决方案,已在全球电信市场、国内金融行业和政府涉密部门等拥有大量实践及成功案例,例如招商银行、建设银行、工商银行、上海联通和江苏移动等,并与多地公安机关和公安行业应用厂家展开紧密合作,致力于为公安用户打造服务于实战应用的大数据方案。

华为大数据方案融合了基础设施层面的OceanStor 9000大数据存储,RH2288通用X86服务器,和数据管理分析层面的FusionInsight企业级Hadoop,该方案在公安领域的价值体现包括:

建立融合海量异构多源数据的公安信息资源库,将更大规模、更多类型的数据纳入大数据平台,拓宽公安的数据掌控面;

实现更快更准的智能搜索、关联查询和碰撞比对,提高研判分析效率;

融合多种分布式计算框架,处理更复杂的分析模型和预测模型,提升案件侦破能力;

保持大数据平台100%的开放性,支持被集成,更稳健地搭载公安业务;

华为公司战略投入,强大的研发团队长期从事大数据领域发展的研究,能助力公安的大数据实践和探索。

原文发布时间为:2014年11月25日

本文来自合作伙伴至顶网,了解相关信息可以关注至顶网。

时间: 2024-08-20 17:24:35

浅谈公安大数据的建设的相关文章

浅谈开源大数据平台的演变

浅谈开源大数据平台的演变 2015-04-16 腾讯大数据一说到开源大数据处理平台,就不得不说此领域的开山鼻祖Hadoop,它是GFS和MapReduce的开源实现.虽然在此之前有很多类似的分布式存储和计算平台,但真正能实现工业级应用.降低使用门槛.带动业界大规模部署的就是Hadoop.得益于MapReduce框架的易用性和容错性,以及同时包含存储系统和计算系统,使得Hadoop成为大数据处理平台的基石之一.Hadoop能够满足大部分的离线存储和离线计算需求,且性能表现不俗:小部分离线存储和计算

浅谈医疗大数据面临的技术挑战

医疗大数据的本质是数据.在医疗行业,医生的诊治是一个过程,需要将患者疾病状态或治疗过程记录下来.由于医生对疾病的认识不同,因此所记录的"事实"会有所不同,特别是缺乏经验的医生,经常会忽略记录重要的病历信息,可能因此出现数据丢失,也可能导致所记录的数据没有准确地反映出客观的事实. 医疗大数据 大数据时代,数据来源于外部,不由自己把控.如果获取的是不真实的数据,无法得出有价值的结果,更多情况下可能是误导.所以,一定要认识到,数据并不是越多越好,数据质量非常重要,把握数据的含义也非常重要.

浅谈金融大数据

金融大数据是大数据技术在金融行业的应用,也指在经济和金融活动之中产生的海量数据.金融大数据的应用带动了金融行业的转型,成为了行业新的驱动力和增长模式. 金融大数据的行业影响 金融大数据在金融行业的应用能有效的帮助金融行业实现信息化转型,使得金融行业整体更为高效. 金融大数据的帮助下,金融信息将会以更多的方式呈现.借助大数据可视化技术,结构化和非结构化数据可以从大量的金融信息之中提取出最有用的数据,并且用最合适的方式呈现,让用户可以从更多的角度和价值模型之中获益,帮助用于金融研究以及决策.金融大数

公安大数据应用研究

信息技术革命与经济社会活动的交融催生了大数据.2015年8月,国务院印发了<促进大数据发展行动纲要>,把大数据作为基础性资源,全面实施数据强国战略,加快推动数据资源共享开放和开发应用,助力产业转型升级和社会治理创新.与此同时,我国公安信息化建设发展迅猛,公安市场大规模的信息化和装备投资产生了海量的结构化和非结构化数据,包括轨迹信息.工作信息.多媒体信息等.据不完全统计,截至2015年底,全国公安机关掌握的数据资源已达数百类.上万亿条.EB级的大数据规模.同时,数据产生汇集的速度越来越快,数据呈

DockOne微信分享(七十):浅谈Docker安全合规建设

本文讲的是DockOne微信分享(七十):浅谈Docker安全合规建设[编者的话]通过阅读网上帖子及浏览相关信息,大家可能会产生一种错觉:Docker安全性不足,对Docker导入生产环境持保守态度.不过实际情况是,虽然我们需要对容器的安全性高度关注,但只要使用得当,完全可以成为一种不低于使用虚拟机或者裸机的安全.高效生产系统. 今天和大家聊聊Docker的安全合规建设. 安全,这里我们指的是信息安全,包括数据安全和网络安全,主要是数据在处理.传输.存储等过程中的安全,它包括了信息本身的安全和防

农行赵维平:农业银行自主可控的大数据平台建设

4月27日,中国大数据峰会上,农总行赵处的讲演,引得台下掌声雷动."大数据建设只有起点,没有终点,我们一直在路上.在国产化的道路上,希望民族工业无比强大,在国际市场上挺起腰杆!" 500-333文章照片-大数据推动金融创新- 赵维平 中国农业银行软件开发中心的专家赵维平 农总行赵处的讲演的数据着实令国人振奋!农业银行以国产数据库GBase 8a为基础的国内最大的金融大数据平台采用混搭融合架构.双活数据仓库.超大规模数据库集群这些先进技术全部应用其中.56是生产环境,现在实现了56环境的

突破大数据应用建设的“最后一公里” 华为联合先进数通推出“大数据+”联合解决方案

ZD至顶网服务器频道 10月15日 新闻消息:中国企业的大数据建设,正在经历一个逐步完善.健全的过程.从数据的汇集整合管理,到上层业务创新,每一层面都在进行着改造甚至重构,且不同层面的建设交叉影响.要想真正实现"大数据+"的业务创新整体战略,如何解决对底层海量.多来源.多种结构的历史数据清洗.转换.加载.监控.管理,以及与上层业务的无缝对接成为关键,即大数据的 "最后一公里"挑战. 大数据"最后一公里"的生态建设 想要优质解决大数据"最

国内首家公安大数据交互式微信服务平台上线

网络约车的出现,给人们带来更便捷的出行方式,但也存在不可测的风险,而近日上线的哈尔滨市公安局"冰城公安"微信公众号中的"搭(乘)车自主备案"功能,对于乘车人特别是单身女性和学生的安全保障,加上了一份"保险". 近日,记者通过手机登录"冰城公安"微信公众号,体验了备案功能.在"微服务"列表选项中,点击"搭(乘)车自主备案"选项,将自己搭乘车辆的信息上报警方备案,并可发送给微信好友或分享到朋

大数据基础设施建设需要得到重视 | 记清华大数据“应用·创新”讲座

"大数据基础设施是面向数据采集.数据分析和数据应用的创新性系统工程.它一方面指支撑大数据应用和大数据产业的基础设施,另一方面指用大数据和人工智能的方法,解决基础设施运行过程中的问题. "清华-青岛数据科学研究院(以下称"数据院")大数据基础设施研究中心副主任赵强博士说到.数据时代,基础设施建设已经成为数据科学发展的瓶颈,提高人们对大数据基础设施建设重要性的认知迫在眉睫.10月26日新一期 清华大数据"应用·创新"讲座上,数据院特地邀请赵强博士做了