艾伟_转载:排行榜数据库设计与分析——为什么实时排行不可行?

很多网游中都有排行榜,这里就专门讨论一下这个排行榜背后的数据库设计。一开始我觉得这是一个基本的数据库设计问题。只需要有一个实体,没有实体间的关系,没有复杂的逻辑。网络上也搜索不到太多关于这类设计的问题,好像根本不值得为其写个文章。但是在公司专门做了一个月的排行榜数据库设计。才发现问题根本没有看上去那么简单。甚至一篇文章都难以讲明白。不知自己误入歧途了,还是这个问题的确就是很复杂的。所以写个文章讲给大家,或许能有人一语道破。

一开始听到要设计一个排行榜,觉得很简单,一个外键加一个分数列,排名不保存在数据库中,每次查询都实时计算。不就得了?

接下来,就来讨论一下这种方案的可行性。先来描述一下经过最简化的基本要求:

1.       参与排行的设计用户量为1000万左右。

2.       并不要求实时,一小时更新一次。(我一开始的想法很天真,实时不是更好?所以才试了这个实时的排行榜)

3.       排行榜的结果要正确。(最废话的一条,其实很关键,直接导致实时方案作废)

生产环境,数据库服务器:

CPU:双路4核,至强。

内存:32G。

开发、测试的环境:(以下运行时间数据基于此环境)

CPU:赛扬D 2.66G

内存:1G。

建表:

Create Table RealTimeCLB

(

    UserId INT NOT NULL PRIMARY KEY,

    Rating INT NOT NULL

)

放数据:一定要用Tran。

BEGIN TRAN

DECLARE @I as int

SET @I = 0

INSERTDATA:

INSERT RealTimeCLB VALUES(@I, RAND()*10000000)

SET @I = @I + 1

IF @I < 5000000

    GOTO INSERTDATA

COMMIT TRAN

插入500万数据就用了16分钟,心里有点怵了。实时计算排名会不会慢呢?不管了,试试再说,反正真正的服务器很强大的说。注意Rating值是用随机数生成的。

为Rating列加索引:

CREATE INDEX IX_RealTimeCLB_Rating ON RealTimeCLB (Rating);

加索引又用了30

查询:

SELECT TOP 100 *, RANK() OVER (ORDER BY Rating DESC) AS [rank] FROM RealTimeCLB

用时0。很快啊。会不会影响并发的数据更新呢?

UPDATE RealTimeCLB SET Rating = Rating + RAND() * 1000 where UserId = 2

运行没有影响。

这里要解释一个问题。如果查询时,有更新操作,那查询出来的不就是脏的了吗?这个是可以接受了。更新晚于查询,再正常不过了。所以这个不是个问题。

但是如果世界就这么和谐了,也就不用研究一个月了。本文只是这一个月的第一天而已。

因为查询的方式多种多样。上面只查了前100名,很快。但是如果随便一个想查一下自己的名次呢?这也是必须要实现的基本功能。

查询指定用户的名次:

SELECT *, RANK() OVER (ORDER BY Rating DESC) AS [rank]

FROM RealTimeCLB WHERE UserId = 1

如果你看到这里没有大叫,就说明你没有仔细看,或者至少对SQL不熟悉。因为上面的语句永远返回1。无论查谁,都是第1。

正确的SQL有很多写法,下面是其中一种:

SELECT * from

(SELECT *, RANK() OVER (ORDER BY Rating DESC) AS [rank] FROM RealTimeCLB) AS d

WHERE d.UserId = 1

很不幸,这条语句用了4.5。如果用1000万用户的数据量,岂不是要10秒?如果你不知道为什么查询自己很慢,就找本书看看索引是如何运作的吧。这里我就不解释了。

也许我的SQL比较低效(你有快的吗?要实时计算。)。但是QQ和MSN之类用户已经有2亿了,如果那天也要做个迅雷样的排行榜。实时?那还了得?数据库服务器天天别干别的了,光排个名就排不过来了。

把Rank做为一列放进表里,查询不就快了?那更新不就慢了?更新一个人的分数,就要给一群人重新计算排名。你SQL写得好,在500万数据量上,也要5秒运行时间。

所以结论就是,排行榜,在大用户量和当前硬件环境下,是不可能实时的。

如果有人说,我们数据量很小,就10万用户,那总可以了吧?一次查询也就0.05秒,还可以了。听上去是可以了。SQL Server 2005提供的Rank函数,让按列计算排名快了很多。但是还是不行!因为上面的方法,无法保证最基本的一个需求,正确性!

可以不管查询出来的数据是旧的,但是一定要正确啊。但是上面的方案,不能保证查询结果的正确性!

而下面的解释,才是本文的重点部分。

回到查询语句

SELECT * from

(SELECT *, RANK() OVER (ORDER BY Rating DESC) AS [rank] FROM RealTimeCLB) AS d

WHERE d.UserId = 1

UserId是外键,而且用来查询的UserId一定存在,但是就是这个语句会出问题,有看出什么问题吗?

问题就在于,这个语句返回的行数不确定!逻辑上,一个User一个Rank,但是这个语句,可能会返回两个或两个以上的结果行,甚至可能没有返回(即使UserId存在)。

出现的必要条件:

1.       在这个查询语句正确运行时,同时有数据更新。

2.       表上的Rating列建有索引。

表上有索引,就可能有这个问题,经过测试,如果把表上的索引删除,这个语句一定有一个返回行。

大家应该已经猜到问题的所在。在有索引的表上更新索引列,索引树为了保持平衡,就要同时改变索引数据的位置。如果同时有基于此索引的查询,就有可能因为索引节点在索引树上跳来跳去而遗漏或是重复读取一些节点。从而导致上面的问题。

解决方案1:查询时加表锁。既保证了正确性,又保证了时效性。但是查询的时候,就不能更新数据了。放弃。

解决方案2:不加索引。先把索引删除。

DROP INDEX IX_RealTimeCLB_Rating ON RealTimeCLB

那么在500万数据量下的查询速度如何呢?

SELECT TOP 100 *, RANK() OVER (ORDER BY Rating DESC) AS [rank] FROM RealTimeCLB

要21秒。100万数据要4秒。基本上成正比。其实时间就是花在了排序上。所以运行时间基本上只和排序算法的效率相关。因为没有了索引,所以查询一个用户的时间也和这个差不多。如果你说你们只有几千用户量,还可以试下这个方法。

解决方案3:还是别实时了~~~~~,详见下回分解。

时间: 2024-09-14 18:18:44

艾伟_转载:排行榜数据库设计与分析——为什么实时排行不可行?的相关文章

排行榜数据库设计与分析为什么实时排行不可行?

很多网游中都有排行榜,这里就专门讨论一下这个排行榜背后的数据库设计.一开始我觉得这是一个基本的数据库设计问题.只需要有一个实体,没有实体间的关系,没有复杂的逻辑.网络上也搜索不到太多关于这类设计的问题,好像根本不值得为其写个文章.但是在公司专门做了一个月的排行榜数据库设计.才发现问题根本没有看上去那么简单.甚至一篇文章都难以讲明白.不知自己误入歧途了,还是这个问题的确就是很复杂的.所以写个文章讲给大家,或许能有人一语道破. 一开始听到要设计一个排行榜,觉得很简单,一个外键加一个分数列,排名不保存

艾伟_转载:数据库设计与Linq增强使用

最近对数据库的设计有些想法,貌似一般数据都有些通用字段     public interface IData     {         ///          /// 数据ID标识         ///         decimal ID { get; set; }         ///          /// 更新时间         ///         DateTime UpdateTime { get; set; }         ///          /// 数据状

艾伟_转载:基于.NET平台的Windows编程实战(二)—— 需求分析与数据库设计

本系列文章导航 基于.NET平台的Windows编程实战(一)--前言 基于.NET平台的Windows编程实战(二)-- 需求分析与数据库设计 基于.NET平台的Windows编程实战(四)-- 数据库操作类的编写 基于.NET平台的Windows编程实战(五)-- 问卷管理功能的实现 基于.NET平台的Windows编程实战(六)-- 题目管理功能的实现 大家都知道一个系统的成败与否关键在于其所做的需求分析是否到位,数据库的设计是否合理.因为本系列文章的目的是在于提高大家对.NET Wind

艾伟_转载:基于.NET平台的Windows编程实战(四)—— 数据库操作类的编写

本系列文章导航 基于.NET平台的Windows编程实战(一)--前言 基于.NET平台的Windows编程实战(二)-- 需求分析与数据库设计 基于.NET平台的Windows编程实战(四)-- 数据库操作类的编写 基于.NET平台的Windows编程实战(五)-- 问卷管理功能的实现 基于.NET平台的Windows编程实战(六)-- 题目管理功能的实现 大家都知道本系统的正常运行少不了数据库操作这一块,且其在本系统中具有决定性作用,可以说没有它的操作系统将无法运行,故在本节课程中,专门把针

分析论坛数据库设计&amp;amp;分析

1,数据库设计 论坛数据库设计还是挺有意思的,按照业务逻辑进行拆分的数据库设计. 首先,如果是一个博客就一个post表记可以了.然后考虑到论坛数据量比较大,所以在设计上有优化. 论坛把数据库分成3个数据表,这样在访问不同页面的时候都查询很快. 数据库表参考discuz 数据库设计: 只是挑了些相关字段,没有把所有字段列出了. --论坛板块表 CREATE TABLE forum ( fid mediumint(8) unsigned NOT NULL AUTO_INCREMENT, `name`

艾伟_转载:基于.NET平台的Windows编程实战(六)—— 题目管理功能的实现

本系列文章导航 基于.NET平台的Windows编程实战(一)--前言 基于.NET平台的Windows编程实战(二)-- 需求分析与数据库设计 基于.NET平台的Windows编程实战(四)-- 数据库操作类的编写 基于.NET平台的Windows编程实战(五)-- 问卷管理功能的实现 基于.NET平台的Windows编程实战(六)-- 题目管理功能的实现 申明:本系列课程是专为新手们写来入门练习用的,目的是想通过一个完整的问卷调查管理系统的案例开发来让新手们了解.加深或是熟悉软件项目的开发流

艾伟_转载:基于.NET平台的Windows编程实战(五)—— 问卷管理功能的实现

本系列文章导航 基于.NET平台的Windows编程实战(一)--前言 基于.NET平台的Windows编程实战(二)-- 需求分析与数据库设计 基于.NET平台的Windows编程实战(四)-- 数据库操作类的编写 基于.NET平台的Windows编程实战(五)-- 问卷管理功能的实现 基于.NET平台的Windows编程实战(六)-- 题目管理功能的实现 首先,为了使我们的界面更加便于操作及布局,我们引入第三开源控件DockPanel[当然也可以不引入控件而直接进行开发],你可以从这里:Do

艾伟_转载:基于.NET平台的Windows编程实战(一)——前言

本系列文章导航 基于.NET平台的Windows编程实战(一)--前言 基于.NET平台的Windows编程实战(二)-- 需求分析与数据库设计 基于.NET平台的Windows编程实战(四)-- 数据库操作类的编写 基于.NET平台的Windows编程实战(五)-- 问卷管理功能的实现 基于.NET平台的Windows编程实战(六)-- 题目管理功能的实现 前言:本系列文章是一个关于.NET Windows编程的入门实战教程.通过一个完整的真实案例:问卷调查管理系统,全面展示了基于.NET平台

艾伟_转载:网站性能优化 - 数据库及服务器架构篇

1.Web Server 与 DB Server 分离 小型网站或 B/S 项目,因同时在线人数不多,尚可让同一台物理主机,既做 Web Server,又做 DB Server.但此二者皆会占用大量的 CPU.内存.磁盘 I/O,最好让二者分别用不同的服务器主机来提供服务,以分散压力.提高负载承受能力.此外,二者若在同一网段,应尽量用内网 Private IP 进行访问,而不要用 Public IP 或主机名称. 基本上跑 Web 上的应用程序,不管用什么软.硬件,同时处理多个用户的 reque