【数据蒋堂】第30期:JOIN简化 - 消除关联

我们将等值JOIN分成三种情况来分别讨论,分情况相当于加强了条件,我们可以充分利用每种情况下的特征。

1. 外键属性化

先看个例子,设有如下两个表:

employee表和delpartment表的主键都是其中的id字段,employee表的department字段是指向department表的外键,department表的manager字段又是指向employee表的外键。这是很常规的表结构设计。

现在我们想问一下:哪些美国籍员工有一个中国籍经理?

用SQL写出来是这样的:


SELECT A.* FROM employee A JOIN department B ON A.department=B.id JOIN employee C ON B.manager=C.id
 WHERE A.nationality=‘美国' AND C.nationality=‘中国'

句子较长,由于employee表需要两次参与JOIN,还需要为它起个别名加以区分。

我们换一种写法:


SELECT * FROM employee WHERE nationality='美国' AND department.manager.nationality='中国'

当然,这不是标准的SQL语句了。

第二个句子中用红色部分表示当前员工的“所属部门的经理的国籍”。我们把外键字段理解成一个对象,外键表的字段被理解为外键字段的属性,department.manager即是”所属部门的经理“,而这个字段在department中仍然是个外键,那么它的外键表字段可以继续理解为它的属性,也就会有department.manager.nationality,即“所属部门的经理的国籍”。

这种的对象式理解方式,显然比笛卡尔积过滤的理解方式要自然直观得多。外键表JOIN时并不会涉及到两个表的乘法,外键字段只是用于找到外键表中对应的那条记录,完全不会涉及到笛卡尔积这种有乘法特性的运算。

我们前面约定,外键表JOIN时维表中关联字段必须是主键,所以外键字段对应的维表记录一定是唯一的,这样deparment.manager.nationality对于employee表中每一条记录都是唯一的,这就不会发生歧义。而如果不做这个约定,就可能发生多对多,department.manager.nationality无法明确定义。

事实上,这种对象式写法在结构化高级语言(如C,Java)中很常见,在这类语言中,数据就是按对象方式存储的。employee表中的department字段取值根本就是一个对象,而不是编号。其实许多表的主键取值本身并没有业务意义,仅仅是为了区分记录,而外键字段也仅仅是为了找到外键表中的相应记录,如果外键字段直接是对象,就不需要再通过编号来标识了。不过,SQL缺乏离散性,不能直接使用这种存储机制,还要借助编号。

外键表关系中,事实表和维表是不对等的,只能基于事实表去找维表字段,而不会有倒过来的情况。

2. 同维表等同化

同维表的情况相对简单,还是从例子开始,设有两个表:

两个表的主键都是id,经理也是员工,两表共用同样的员工编号,经理会比普通员多一些属性,另用一个经理表来保存。

现在我们要统计所有员工(包括经理)的总收入(加上津贴)。

用SQL写出来还是会用到JOIN:

SELECT employee.id, employee.name, employy.salary+manager.allowance FROM
 employyee LEFT JOIN manager ON employee.id=manager.id

而对于两个一对一的表,我们其实可以简单地把它们看成一个表:

SELECT id,name,salary+allowance FROM employee

同样地,根据我们的约定,同维表JOIN时两个表都是按主键关联的,相应记录是唯一对应的,salary+allowance对employee表中每条记录都是唯一可计算的,不会出现歧义。

同维表之间的关系是对等的,从任何一个表都可以引用到其它同维表的字段。

3. 主子表一体化

订单及订单明细是典型的主子表:

Orders表的主键是id,OrderDetail表中的主键是(id,no),前者的主键是后者的一部分。
现在我们想计算每张订单的总金额。

直接用SQL写出来会是这样:

SELECT Orders.id, Orders.customer, SUM(OrderDetail.price)
 FROM Orders JOIN OrderDetail ON Orders.id=OrderDetail.id
 GROUP BY Orders.id, Orders.customer

要完成这个运算,不仅要用到JOIN,还需要做一次GROUP BY,否则选出来的记录数太多。

如果我们把子表中与主表相关的记录看成主表的一个字段,那么这个问题也可以不再使用JOIN以及GROUP BY:

SELECT id, customer, OrderDetail.SUM(price) FROM Orders

与普通字段不同,OrderDetail被看成Orders表的字段时,其取值将是一个集合,因为两个表是一对多的关系。所以要在这里使用聚合运算把集合值计算成单值。

这样看待数据关联,不仅理解书写更为简单,而且不容易出错。

假如Orders表还有一个子表用于记录回款情况:

我们现在想知道那些订单还在欠钱,也就是累计回款金额小于订单总金额的订单。

简单地把这三个表JOIN起来是不对的,OrderDetail和OrderPayment会发生多对多的关系,这就错了(回忆上一篇中多对多大概率错误的说法)。这两个子表要分别先做GROUP,再一起与Orders表JOIN起来才能得到正确结果,写出来较为繁琐。

而如果我们把子表看成主表的集合字段,那就很简单了:

SELECT id,customer,OrderDetail.SUM(price) x, OrderPayment.SUM(amount) y FROM Orders WHERE x>y

这种写法就不容易发生多对多的错误。

主子表关系是不对等的,不过两个方向的引用都有意义,上面谈了从主表引用子表的情况,从子表引用主表则和外键表类似。

我们改变对JOIN运算的看法,摒弃笛卡尔积的思路,把多表关联运算看成是稍复杂些的单表运算。这样,我们相当于从最常见的等值JOIN运算中基本消除了关联,甚至在语法中取消了JOIN关键字,书写和理解都要简单很多。

原文发布时间为:2017-11-14

本文作者:蒋步星

本文来自合作伙伴“数据蒋堂”,了解相关信息可以关注“数据蒋堂”微信公众号

时间: 2024-10-04 15:16:00

【数据蒋堂】第30期:JOIN简化 - 消除关联的相关文章

开源大数据周刊-第30期

阿里云E-MapReduce实践 泰为在E-MapReduce上的考量与实践 阿里云EMR是基于 Hadoop 的生态环境来搭建,同时可以跟阿里云的对象存储服务OSS等云服务进行无缝数据交换,方便用户将数据在存储平台和计算平台之间进行输入输出,以满足不同业务类型的需要,所以对阿里云EMR充满期待. HIVE MapJoin在E-MapReduce上的调优与处理总结 HIVE被很广泛的使用,使用过程中也会遇到各种千奇百怪的问题.这里就遇到的MapJoin Local 内存不足的问题进行讨论,从问题

【数据蒋堂】第31期:JOIN简化 - 维度对齐

那么问题来了,这显然是个有业务意义的JOIN,它算是前面所说的哪一类呢? 这个JOIN涉及了表Orders和子查询A与B,仔细观察会发现,子查询带有GROUP BY id的子句,显然,其结果集将以id为主键.这样,JOIN涉及的三个表(子查询也算作是个临时表)的主键是相同的,它们是一对一的同维表,仍然在前述的范围内. 但是,这个同维表JOIN却不能用上一期说的写法简化,子查询A,B都不能省略不写. 可以简化书写的原因在于:我们假定事先知道数据结构中这些表之关联关系.用技术术语的说法,就是知道数据

【数据蒋堂】第35期:JOIN提速 - 有序归并

我们再来看同维表和主子表的JOIN,这两种情况的优化提速手段是一样的. 设两个关联表的规模(记录数)分别是N和M,则HASH分段技术的计算复杂度(关联字段的比较次数)大概是SUM(NiMi),其中Ni和Mi分别是HASH值为i的两表记录数,满足N=SUM(Ni)和M=SUM(Mi),这大概率会比完全遍历时的复杂度NM要小很多(运气较好的时候会小K倍,K是HASH值的取值范围). 如果这两个表针对关联键都有序,那么我们就可以使用归并算法来处理关联,这时的复杂度是N+M:在N和M都较大的时候(一般都

数据蒋堂 | JOIN运算剖析

JOIN是SQL中用于多表关联的运算,无论从程序员编写还是数据库实现角度来看,JOIN都是SQL中最难的运算. 其实,SQL对JOIN的定义非常简单,就是对两个集合(表)做笛卡尔积后再按某种条件过滤,写出来的语法也就是A JOIN B ON ...的形式.原则上,笛卡尔积后的结果集应当是以两集合成员构成的二元组为成员,不过由于SQL中的集合成员总是有字段的记录,而且也不支持泛型数据类型来描述成员为记录的二元组,所以就简单地把结果集处理成由两表记录的字段合并后构成的新记录集合.这也是JOIN一词在

【数据蒋堂】第3期:功夫都在报表外-漫谈报表性能优化

应用系统中的报表,作为面向业务用户的窗口,其性能一直被高度关注.用户输入参数后都希望立即就能看到统计查询结果,等个十几二十秒还能接受,等到三五分钟的用户体验就非常恶劣了. 那么,报表为什么会慢,又应当从哪里入手进行性能调优呢? 数据准备 当前应用中的报表大都用报表工具开发,当报表响应太慢时,不明就里的用户就会把矛头指向使用报表工具的开发人员或者报表工具厂商.其实,大多数情况报表的慢只是个表现,背后的原因是数据准备太慢,在数据进入报表环节之前就已经慢了,这时再去优化报表开发或压迫报表工具并没有用处

【数据蒋堂】第11期:不要对自助BI期望过高

从早期的多维分析(OLAP)到近年来的敏捷BI,BI产品厂商一直在强调自助能力,宣称可以由业务人员自己分析数据,而用户方也常常有强烈的此类需求,双方一拍即合,很容易形成购买行为.但是,BI产品的自助功能真地能让业务用户自己随心所欲地分析数据吗? "分析"这个词并没有一个业界公认的严格定义,所以不能说这些BI产品是否过份宣传了.不过,就大多数缺乏BI应用经验的用户所期望的工作内容而言,自助分析的目标就可以说远远达不到!从经验上看,最好情况也就能解决30%左右的问题而已,而大多数BI产品连

【数据蒋堂】第15期:开放的计算能力为数据库瘦身

[数据蒋堂]第14期:计算封闭性导致臃肿的数据库 我们在上一期谈到,数据库的臃肿,也就是过多的中间表以及相关存储过程,是由于其计算封闭性造成的.如果能够实现独立的计算引擎,使计算不再依赖于数据库提供,那么就可以为数据库瘦身了. 内部来源的中间数据不必再以数据表的形式落地在数据库中,而可以放到文件系统中,由外部计算引擎提供进一步的计算能力.对于只读的中间数据,使用文件存储时不需要考虑再改写,可以更为紧致并采用一定的压缩手段,而且在访问时也不必考虑事务一致性,机制大为简化,这样能获得比数据库更好多的

【数据蒋堂】第13期:怎样看待存储过程的移植困难

存储过程移植困难是经常被诟病的,在罗列存储过程的缺点时,这一条几乎从来不会被遗漏. 存储过程的移植确实很困难,一般业务逻辑复杂到需要写存储过程的地步,总会不可避免地用到数据库独有的特性和语法,更换数据库时这部分代码就需要重写.如果只是简单地替换函数名和参数规则(如日期转换等),那成本还不高:如果用到了新数据库不支持的某种特性(如窗口函数),那还要重新设计算法来编写计算逻辑:如果还要再兼顾性能因素,有时候就会是个不可能完成的任务了. 不过,还好,存储过程移植的情况并不频繁. 多年前数据库市场还处于

【数据蒋堂】第21期:常规遍历语法

遍历可以说是最基本的集合运算了,比如求和.计数.寻找最大最小值等聚合运算,按条件过滤集合.根据集合成员生成另一个新集合,也都是遍历运算.集合化语法要求我们能用很短的语句(经常就只有一句,而不是若干语句构成的一段程序)来描述大部分遍历运算,这样我们需要考查遍历运算中可能出现的各种常见情况,并设计出合理自洽的语法规则. 我们从简单到复杂来考查遍历运算中的可能情况,并讨论SQL语法在这方面的表现. 1. 直接针对集合成员运算 比如计算集合成员的合计. 这是最简单的情况,采用普通的函数语法风格就可以,将