利用Cache缓存数据DataTable数据提高大数据量访问性能

cache|访问|缓存|数据|性能

引言:
在数据量不大的情况下,程序怎么写基本上性能差别不大,但是当我们面对数以万计的数据的时候,我想性能就是个不得不考虑的问题了,每写一个方法,每填充一笔数据都要考虑到性能问题,否则服务器将承担巨大的执行开销,如果服务器性能不好可能立即就死在那里了,所以在大数据量频繁访问的页面上,我们就必须考虑如何提高页面的性能了,本文将提供一种用cache提高访问性能的方法来解决此问题,在很大程度上提高页面加载数据的性能。本文列举的是论坛版块中帖子列表页面加载数据的实例。
正文:
每个版块帖子列表信息都会对应一个cache的名字,比如,我们可以按照规律设成
#region -- CacheName Setting --
boardCacheName = "Board" + boardID.ToString();
#endregion
这里我们同样是采取数据集填充DataTable的方法创建数据的。不过,因为我们有了cache,所以,我们在第一次加载完数据后,会把数据压到cache中,然后每次填充DataTable前进行判断,如果cache为空时才加载,如果不为空,则不加载。
private DataTable BuildDataTable()
{
// 数据缓存 机制
if(Cache[boardCacheName] != null)
{
// Create DataTable From Cache
DataTable dt = (DataTable)Cache[boardCacheName];
return dt;
}
else
{
// Create DataTable From DataBase
DataTable dt = new DataTable();

#region -- Create DataTable --
dt.Columns.Add("TopicID", System.Type.GetType("System.Int32"));
//省去N个类似字段的添加
dt.Columns.Add("CoolState", System.Type.GetType("System.Int32"));
DataColumn[] keys = new DataColumn[1];
keys[0] = dt.Columns[0];
dt.PrimaryKey = keys;
#endregion

#region -- Add DataRow --
BBSTopicCollection btc = new BBSTopicCollection();
btc.BoardID = this.boardID;
btc.TopicState = 1;
if(!btc.GetInfo())
{
return dt;
}
for(int i=0;i<btc.Count;i++)
{
DataRow dr = dt.NewRow();
// 帖ID
dr["TopicID"] = btc[i].ID;
//省去N个类似字段的数据赋值
// Cool State
dr["CoolState"] = btc[i].CoolState;
dt.Rows.Add(dr);
}
#endregion

// Push DataTable To Cache
Cache[boardCacheName] = dt;
return dt;
}
}

上面的代码完成了数据填充过程,但更重要的是对数据进行管理,比如,我们改变一条住处的某些状态位来实现一些功能,比如,我们把贴子加成“酷贴”,这个时候就要对cache进行操作,特别注意一下,我们在上面的代码中还特别设置topicID这一列作为表的主值键,这样我们才能很快的定位到要管理的数据信息,方法如下。
#region -- Cache Management --
if(Cache["Board" + this.boardID.ToString()] != null)
{
DataTable dt = (DataTable)Cache["Board" + this.boardID.ToString()];
DataRow dr = dt.Rows.Find(topicID);
if(dr != null)
{
dr["CoolState"] = 1;
dr.AcceptChanges();
dt.AcceptChanges();
}
}
#endregion

一点说明:其中的topicID是通过某种途径传过来的你想操作的信息的唯一标识字段,AcceptChanges方法更新保存相应对象数据自上一次更新以来所有的更改,另外对cache进行操作后,记得要重新绑定数据,另外也要同时更新数据库中的,本文认为读者具备对数据库数据进行操作的能力,便不作贅述。
那么我们如何来删除数据记录呢?我们是不是可以直接在找到dr的那一行下面,用个
dr.Delete()来把数据删除就完事了呢?答案是否,这样操作会出现问题,经测试对cache的添加和更新操作会立即生效,但删除某条记录的动作不会立即起作用,这样就会导致数据操作异步性,这是不可以的,同时1.1版本比1.0版本要稍微好一些,但还是解决不了异步性的问题,所以我们是不是必须把cache干掉,重新填充一下呢,如果你愿意这样做,自然也无可厚非,我这里提供另外一个思路供参考。
我们的解决方案是,在创建表格的时候多加一个删除标志位,比如DeleteState,当初从数据库中加载出来的时候都一律为1,然后经过删除操作以后,将这条信息的删除标志位置0(不要忘记同时操作数据库中的数据),然后绑定的时候对DataView进行过滤,dv.RowFilter = "DeleteState==1",便可以模拟出删除效果了。
数据经过这样的处理之后,访问性能会数以百倍的提高,数据只在cache失效后才会重新加载,用户对数据的访问都是对cache的操作,而且cache是服务器变量,对所有用户共享,这样,如果同时有一百个用户访问,也都是对同一个cache进行一百次访问,而程序访问cache是非常快的,如果不使用cache,那么,我们就要去跑一百次数据库操作,性能极差,尤其是当海量用户对海量数据进行访问的时候,服务器可谓苦不堪言,所以用cache来缓解负荷是相当必要且相对优良的一种方案,只是辛苦了那位在cache失效后第一次访问页面的那个用户,不过这种牺牲换来别人的高性能也是值得的嘛。

时间: 2024-08-31 07:19:01

利用Cache缓存数据DataTable数据提高大数据量访问性能的相关文章

武汉大数据雄起 建设全国大数据“洼地”

继云计算.物联网和移动互联网之后,大数据成为新一代信息技术与电子商务.社交网络.智慧城市等新型商业应用深度融合的产物. 如何抓住其中巨大的商业价值?武汉抢先做出全盘规划,昨日,该市市政府常务会原则通过了<大数据产业发展行动计划>.该市计划重点建设光谷云村.左岭大数据产业园等两大基地和武汉市政务数据中心.国家地理空间信息云数据中心等7大中心,预计在5年内形成2000亿元的产业规模,带动相关产业销售过万亿.同时,该市计划每年投2亿元补贴重点项目. 计划 1 两大产业基地年内启动建设 据了解,此前武

大数据到底怎么学:数据科学概论与大数据学习误区

"数据科学家走在通往无所不知的路上,走到尽头才发现,自己一无所知."-Will Cukierski,Head of Competitions & Data Scientist at Kaggle 最近不少网友向我咨询如何学习大数据技术?大数据怎么入门?怎么做大数据分析?数据科学需要学习那些技术?大数据的应用前景等等问题.由于大数据技术涉及内容太庞杂,大数据应用领域广泛,而且各领域和方向采用的关键技术差异性也会较大,难以三言两语说清楚,本文从数据科学和大数据关键技术体系角度,来说

【大数据100分】大数据架构及行业大数据应用(中级教程)

[大数据100分]南大通用CTO武新:大数据架构及行业大数据应用[大数据中级教程] 主讲嘉宾:武新 主持人:中关村大数据产业联盟 副秘书长陈新河 承办:中关村大数据产业联盟 武新,南大通用高级副总裁兼CTO,法国奥尔良大学和法国国家科研中心博士:南大通用GBASE系列数据库产品的总设计师.在著名的甲骨文公司任职12年,是世界顶级的Oracle数据库专家.2010年获得中组部实施的国家"千人计划"荣誉(海外高层次人才引进计划),是国内基础软件行业唯一入选的数据库技术专家.对目前最新兴的列

新华三重磅发布大数据产品,打造大数据产业与生态体系

近日,紫光旗下新华三集团(以下简称新华三)在郑州举办了大数据产品发布会.在这场题为"数据引擎的力量"的发布会上,新华三向与会嘉宾详细汇总了在大数据领域的创新与成果,同时对新华三大数据发展战略作了进一步解读,并正式发布了包含8大引擎在内的新华三大数据产品DataEngine.此次活动是新华三郑州大数据公司成立以来第一次整体亮相,也吹响了新华三加速进军大数据领域的"号角". 新华三集团总裁兼首席执行官于英涛现场致词指出,公司致力于打造大数据产业与生态体系 大数据是新华三

大数据风向标:透视美国大数据战略

文章讲的是大数据风向标:透视美国大数据战略,"数据是一项有价值的国家资本,应对公众开放,而不是把其禁锢在政府体制内."–美国联邦政府 作为大数据的策源地和创新引领者,美国大数据发展一直走在全球最前面. 此中关键: 1.动力 首先是多年的技术沉淀和创新积累,包括从计算机革命开始以来的硅谷创新力和影响力,以及一大批的领军企业,包括谷歌.微软.EMC.SAP.微软这样的巨头,也包括像Facebook.Splunk.Teradata这些创新的公司,硅谷精神和创新力量在美国大数据发展方面的作用,

西咸新区大数据高峰论坛共话大数据产业趋势

ZDNet至顶网软件频道消息: 为抢抓大数据产业发展机遇,促进陕西省电子信息产业发展,推进"数据沣西,智慧西咸,云储中国,物联世界"发展目标的实现,迎接大数据全面应用时代的到来,由陕西省西咸新区管委会主办,沣西新城管委会承办,赛迪顾问股份有限公司.陕西省信息化工程研究院.西安未来国际信息股份有限公司.西安美林数据技术股份有限公司协办的"2014年西咸新区大数据高峰论坛"于11月10日在陕西省西安市陕西宾馆召开.论坛以"聚焦大数据产业发展,共拥信息价值新未来

Teradata“统一数据架构”引领企业大数据应用体系

ZDNET至顶网CIO与应用频道 11月17日 人物访谈(文/王聪彬):现如今,数据已经被认定为重要的企业资产,可以帮助企业体现商业价值,也就是实现常说的数据驱动业务.而就在刚刚结束的2014年 Teradata Partners全球用户大会上,Teradata天睿公司国际集团总裁赫尔曼威摩(Hermann Wimmer)从全球客户的交流中得到了一致的反馈,就是大数据已经逐步变成现实.但大数据的出现其实只是开端,还需将结构化数据和非结构化数据进行结合,充分挖掘大数据的价值,而通过统一数据架构可以

从数据治理看医疗大数据的发展

摘要:云栖TechDay活动第二十三期中,宏优信息技术(上海)有限公司王珏总经理带来了题为<从数据治理看医疗大数据的发展>的分享,他主要与大家分享医疗大数据中数据治理的重要性,并结合具体案例来讲述大数据治理的框架和应用心得. 当前IT现在最头痛的事情之一.就是业务系统显烟囱式,大多在是10到30个之间,那么很明显,医疗信息共享是一个很大的挑战. 采用医疗大数据来促动医疗信息化发展和医疗管理精细化,第一点是改善患者的就医体验.大家知道为什么阿里巴巴这么受欢迎,你们为什么上淘宝,就是因为购物体验是

国家级化学品数据中心呼之欲出,大数据实现化工行业四大变革

工业和信息化部印发<石化和化学工业发展规划(2016-2020年)>.通过大数据,紧急应对当前化工行业产能结构转变.节能环保.安全监管.两化融合等问题. 近日,工业和信息化部印发<石化和化学工业发展规划(2016-2020年)>(以下简称<规划>).<规划>提出,要推动新一代信息技术与石化和化学工业深度融合,推进以数字化.网络化.智能化为标志的智能制造. "在工业互联网开发与应用方面,建设石化和化工行业互联网标准化体系,大力推进具有自主知识产权的工