如何在已有的EAI架构下进行大数据量的传输?

问题描述

我们公司现在有AB两个不同网段的系统之间需要通过已有的EAI每天进行大约60万条数据量的数据同步,原来的方法是A将数据生成同步文件并发送JMS消息给EAI,EAI收到消息后通过FTP去A取同步文件,EAI读取完文件后通过FTP方式直接将同步文件写入B系统目录并发消息给B告知文件写入完毕,B系统再通过sqlloader将同步文件导入数据库,这样导致了多点故障和效率很低的问题,同步一次要几个小时。不知道在必需使用EAI的情况下还有什么其他好的解决办法,整天被业务部门骂,烦死了。

时间: 2024-09-26 17:36:26

如何在已有的EAI架构下进行大数据量的传输?的相关文章

NVIDIA 深度学习部门总监 Jim McHugh :AI 驱动下的大数据之路已铺好

编者按:无论是打败世界冠军的 AlphaGo,还是百度无人驾驶.阿里和腾讯的人工智能都在使用 NVIDIA 的芯片组,它在人工智能领域扮演着大脑的角色.无论软件公司研究出多么先进的算法,最终都需要处理器来进行运算,没有它们的支持,人工智能的良性发展也就无从谈起. 最近,NVIDIA 深度学习部门总经理 Jim McHugh 接受了国外媒体 InsideBigdata 的访谈.从他在 2016 年纽约 Strata + Hadoop World 大会上的发言开始谈起,Jim 讲述了他对 AI 驱动

Hadoop架构下数据挖掘与数据迁移系统的设计与实现

Hadoop架构下数据挖掘与数据迁移系统的设计与实现 上海交通大学  吕明育 通常情况下企业的信息系统会包含多个业务系统,每个业务系统包含自身的一套在线业务系统.备份系统和归档系统,系统管理复杂,易造成存储空间的浪费,并且系统扩展性较差.针对以上缺点,本文设计并实现了一个分层存储系统,采用一个大数据平台对多个业务系统数据实行统一管理,将每个业务系统的备份系统和归档系统合二为一.此分层存储系统提供基于Hadoop架构的数据挖掘和数据迁移系统的方案.具体内容如下:(1)分析了MapReduce分布式

【大数据100分】大数据架构及行业大数据应用(中级教程)

[大数据100分]南大通用CTO武新:大数据架构及行业大数据应用[大数据中级教程] 主讲嘉宾:武新 主持人:中关村大数据产业联盟 副秘书长陈新河 承办:中关村大数据产业联盟 武新,南大通用高级副总裁兼CTO,法国奥尔良大学和法国国家科研中心博士:南大通用GBASE系列数据库产品的总设计师.在著名的甲骨文公司任职12年,是世界顶级的Oracle数据库专家.2010年获得中组部实施的国家"千人计划"荣誉(海外高层次人才引进计划),是国内基础软件行业唯一入选的数据库技术专家.对目前最新兴的列

大数据量下的SQL Server数据库自身优化

1.1:增加次数据文件 从SQL SERVER 2005开始,数据库不默认生成NDF数据文件,一般情况下有一个主数据文件(MDF)就够了,但是有些大型的数据库,由于信息很多,而且查询频繁,所以为了提高查询速度,可以把一些表或者一些表中的部分记录分开存储在不同的数据文件里 由于CPU和内存的速度远大于硬盘的读写速度,所以可以把不同的数据文件放在不同的物理硬盘里,这样执行查询的时候,就可以让多个硬盘同时进行 查询,以充分利用CPU和内存的性能,提高查询速度. 在这里详细介绍一下其写入的原理,数据文件

电视台成阿里云下一个大数据重塑目标

本文讲的是电视台成阿里云下一个大数据重塑目标[IT168专稿]继空调之后,电视台成为阿里云计算的下一个大数据重塑目标.3月20日下午,阿里云宣布联手新奥特.华通云数据,打造中国最大的全媒体云计算平台.该平台可以在一周内,帮助传统电视台变成多屏网络电视台,支持电脑网站.手机APP.电视机全终端流畅播放,且可以实现大数据的收集整理和运营.今年内,全国两百家电视台将接入该云计算平台. 阿里云是中国唯一可以将5000台计算机合成一台"超级计算机"的云计算平台,将为全国广播电视媒体提供超级计算.

决胜对话百家名校 互联网教育下的大数据创新

2014年12月1日-3日,中国国际智慧教育展览会将在北京鸟巢•国家会议中心拉开序幕,展览会汇聚了218家教育信息化领域尖端企业,已有万余名横跨政.企.院校人士报名参观,一场教育信息化盛宴即将上演! 教育信息化是现代教育的本质特征之一,是社会信息化浪潮的重要组成部分.如何利用现代信息化技术提高国家教育质量,如何利用高度发达的现代网络实现校园教育跨越式发展,开始受到越来越多的关注与讨论. 以终端用户角度展示校园信息化的"首届中国智慧教育成果巡礼"活动,集合了来自清华大学等全国20所普教.

企业互联网时代下的大数据构建之道

文章讲的是企业互联网时代下的大数据构建之道,"现在企业互联网化正在迅速渗透到企业以及所处的产业链和生态圈中,借助互联网,企业可以更容易与前端供应商.服务商包括后端客户.最终客户建立密切的联系.在此过程中新的业务模式包括供应链优化.智能制造.产业链协同.电子商务等正在不断兴起并迅速发展." 用友网络科技股份有限公司助理总裁,兼集团iUAP中心副总经理谢东在接受记者采访时说道. 企业互联网化 大数据成为核心资产 企业互联网化已经成为一种趋势,它正在改变着企业的传统的业务模式,使得企业内部运

大数据量下的分页

分页|数据 对于非常大的数据模型而言,分页检索时,每次都加载整个数据源非常浪费.通常的选择是检索页面大小的块区的数据,而非检索所有的数据,然后单步执行当前行. 本文演示ASP.net的DataGrid和Sql Server 实现大数据量下的分页,为了便于实现演示,数据表采用了Northwind数据库的Orders表(830条记录). 如果数据表中有唯一的自增索引,并且这个字段没有出现断号现象.检索页面大小的块区数据就非常简单了.通过简单的Sql语句就可以实现这个功能:select * from

大数据量下的数据库查询与插入如何优化? (整理)

数据库经常要做一些查询与插入,但是如果查询和插入的数据量过大的时候就会引发数据库性能问题,降低数据库工作效率.因此性能调优是大家在工作中都能够预见的问题,大到世界五百强的核心系统,小到超市的库存系统,几乎都会有要调优的时候.面对形形色色的系统,林林总总的需求,调优的手段也是丰富多彩. 1.尽量使语句符合查询优化器的规则避免全表扫描而使用索引查询 2.避免频繁创建和删除临时表,以减少系统表资源的消耗. 3.尽量避免向客户端返回大数据量,若数据量过大,应该考虑相应需求是否合理. 4.建立高效的索引