基于MapReduce数字图像处理研究

基于MapReduce数字图像处理研究

田进华 张韧志

随着海量图像数据的增加,使得需要处理的数据规模越来越大,为了解决在处理海量数据信息时所面临的存取容量和处理速度的问题,在深入研究MapReduce大规模数据集分布式计算模型的基础之上,本文设计了基于MapReduce实现对数字图像并行化处理。实验结果表明:运行在Hadoop集群上的基于MapReduce并行化算法具有数据节点规模易扩展、处理速度快、安全性高、容易实现等特点,能够较好地满足海量数据图像的处理的要求。

基于MapReduce数字图像处理研究

时间: 2024-11-06 03:28:35

基于MapReduce数字图像处理研究的相关文章

基于Hadoop的遥感数字图像处理方法研究

基于Hadoop的遥感数字图像处理方法研究 东北师范大学   周涛 本文基于Hadoop云计算系统,主要利用并行编程框架MapReduce实现遥感数字图像的增强处理以及对增强后图像进行聚类,并与PC串行处理进行比较研究.针对遥感数字图像的整体亮度偏低.目视效果较差的特点,传统的图像增强方法在遥感数字图像上的处理无法达到人眼舒适的目视判读的效果,以及影响后续处理的问题,本文在无损增强方法的基础上进行了改进,使得原始图像的有效图像区域的无效像素点能够参与增强,实验结果表明该方法达到了很好的目视效果.

基于MapReduce的分布式极图构造算法研究

基于MapReduce的分布式极图构造算法研究 北京交通大学 赵男 随着云计算技术的快速发展,很多与大规模数据处理相关的研究与应用都逐渐迁移到云计算环境中,如数据挖掘.网络搜索.图像处理以及生物信息分析等.对大规模的图数据处理技术也是当前高性能计算领域的研究热点.而在图论研究中,极图构造算法作为极图理论的一个重要研究内容,越来越受到人们的关注. 极图是指满足一定约定条件且边数最多的图,其构造算法产生大规模的临界图集合作为中间数据.传统的串行极图构造算法会因为需要处理的临界图数量的大幅增加而变得效

基于MapReduce的序列规则在推荐系统中的研究

基于MapReduce的序列规则在推荐系统中的研究 元二菊  郭进伟  皮建 目前常用的个性化推荐系统模型通常是基于协同过滤或者是基于内容的,也有部分基于关联规则的.这些算法没有考虑事务间的顺序,然而在很多应用中这样的顺序很重要.文章提出了一种简易的基于序列模式的推荐模型,并且考虑到大规模数据的处理,结合了 MapReduce 编程模型.这种简易的推荐模型可以用来辅助通常的个性化推荐系统. 基于MapReduce的序列规则在推荐系统中的研究

《MATLAB图像处理375例》——1.2 数字图像处理的研究内容

1.2 数字图像处理的研究内容 MATLAB图像处理375例 数字图像处理主要研究的内容有以下几方面. 1.2.1 图像变换 由于图像阵列很大,直接在空间域中进行处理,涉及计算量很大,因此往往采用各种图像变换的方法,如傅里叶变换.沃尔什变换.离散余弦变换等间接处理技术,将空间域的处理转换为变换域处理,不但可减少计算量,而且可获得更有效的处理(如傅里叶变换可在频域中进行数字滤波处理). 目前新兴研究的小波变换在时域和频域中都具有良好的局部化特性,在图像处理中也有着广泛而有效的应用.对添加噪声的图像

基于MapReduce的BP神经网络遗传算法在非线性系统辨识中的研究

基于MapReduce的BP神经网络遗传算法在非线性系统辨识中的研究 陈春萍  查雅行  钱平  龚丹丹 在工程应用中经常会遇到一些复杂s的非线性系统,这些系统状态方程复杂,难以用数学方法准确建模.三层BP神经网络能以任意精度逼近连续函数.但是BP网络具有易陷入局部最优值的缺点,在此基础上加入遗传算法.传统的串行化BP神经网络的训练方法处理海量数据时存在很大问题,例如耗时过长,甚至内存不足无法训练.为了解决这些问题,使用基于MapReduce的BP神经网络训练方法. 基于MapReduce的BP

空间数据库中基于MapReduce的kNN算法研究

空间数据库中基于MapReduce的kNN算法研究 大连海事大学  刘彪 本文首次尝试设计了一种云环境下的倒排网格索引和在该索引基础上进行的基于MapReduce的空间kNN查询.本文所做的主要工作如下:(1)针对二维空间中的数据点,本文设计了一种分布式的倒排网格索引方法,该索引方法完全符合空间数据索引的标准一动态性和简单性.由于倒排网格索引具有松耦合和无共享的特殊结构,所以该索引比较适合基于MapReduce的大规模空问数据的并行查询.(2)本文提出了一种基于MapReduce的空间倒排网格索

基于MapReduce模型的排序算法优化研究

基于MapReduce模型的排序算法优化研究 金菁 MapReduce已经发展成为大数据领域标准的并行计算模型.理想情况下,一个MapReduce系统应该使参与计算的所有节点高度负载均衡,并且最小化空间使用率.CPU和I/O的使用时长以及网络传输开销.传统的算法往往只针对上述指标中的一种进行优化.在保持算法良好并行性基础上,对多个指标同时进行优化,提出了MapReduce优化算法的设计规范.针对数据处理领域最重要的排序算法进行理论分析,给出了多指标约束下的最后算法,并证明了该优化算法满足MapR

基于MapReduce模型的生物量遥感并行反演方法研究

基于MapReduce模型的生物量遥感并行反演方法研究 付天新,刘正军,闫浩文 MapReduce 模型是一种基于云计算平台下新型的并行编程模型.文中MapReduce 并行编程模型应用到遥感影像并行化处理中,以2005-2009 年5a生长季期( 5-10 月) MODIS13Q1 数据产品为数据源,对青海省三江源地区的生物量( 草地总生物量和可食草量) 进行并行化反演,研究基于该模型的生物量遥感并行反演方法.实验分析结果表明: 基于该模型的并行生物量遥感反演结果与经过精度验证的串行反演结果一

基于MapReduce编程模型的TFIDF算法研究

基于MapReduce编程模型的TFIDF算法研究 赵伟燕  王静宇 随着Internet等技术的飞速发展,信息处理已经成为人们获取有用信息不可或缺的工具,如何在海量信息中高效地获得有用信息至关重要,因此自动文本分类技术尤为重要.现有的文本分类算法在时间复杂性和空间复杂性上遇到瓶颈,不能满足人们的需求,为此提出了基于Hadoop分布式平台的TFIDF算法,给出了算法实现的具体流程,通过MapReduce编程实现了该算法,并在单机和集群模式下进行了对比实验,同时与传统串行算法进行了对比.实验证明,