数据蒋堂 | 从SQL语法看离散性

所谓离散性,是指集合的成员可以游离在集合之外存在并参与运算,游离成员还可以再组成新的集合。从离散性的解释上可以知道,离散性是针对集合而言的一种能力,离开集合概念单独谈离散性就没有意义了。

离散性是个很简单的特性,几乎所有支持结构(对象)的高级语言都天然支持,比如我们用Java时都可以把数组成员取出来单独计算,也可以再次组成新的数组进行集合运算(不过Java几乎没有提供集合运算类库)。

但是SQL的离散性却很差。

SQL体系中有记录的概念,但并没有显式的记录数据类型。单条记录被SQL作为只有一条记录的临时表处理,也就是个单成员的集合。而且,SQL从表(集合)中取出记录时总是复制出一条新记录,和原表中的记录已经没有关系了,这个特性被称为immutable。immutable特性有助于保证代码的正确性和简单性,但也会丧失离散性。

缺失离散性会带来代码的繁琐和效率的低下。

比如要计算张三和李四的年龄差和工资差,SQL要写成两句:

这不仅书写麻烦,而且要重复查询。

如果支持较好的离散性,我们可以写成这样:

查询结果可以游离在集合外独立存在,并可以反复使用。

immutable特性会要求每次运算都复制数据,这在只读的运算中还只是浪费时间和空间影响效率,但如果要改写数据时,造成的麻烦就严重得多。

比如我们想对业绩在前10%销售员再给予5%的奖励。一个正常思路是先把业绩在前10%的销售员找出来,形成一个中间集合,然后再针对这个集合的成员执行奖励5%的动作。但由于SQL缺乏离散性,immutable特性导致满足条件的记录再形成的集合和原记录是无关的,在中间结果集上做修改没有意义。这样就迫使我们要把整个动作写成一个语句,直接在原表中找到满足条件的记录再加以修改,而前10%这种条件并不容易简单地在WHERE子句中写出来,这又会导致复杂的子查询。这还只是个简单例子,现实应用中比这复杂的条件比比皆是,用子查询也很难写出,经常采用的办法则是先把满足条件的记录的主键计算出来,再用这些主键到原表中遍历找到原记录去修改,代码繁琐且效率极为低下。

如果语言支持离散性,我们就可以执行上述思路了:

从上面两个简单例子可以看出,缺失离散性会加剧分步计算的困难,immutable特性会降低性能并占用空间。当然,离散性的问题还不止于此。

不能用原集合的成员构成新集合再进行计算,SQL在做分组时无法保持分组子集,必须强迫聚合,作为集合化语言,SQL的集合化并不彻底。没有游离记录及其集合的表示方法,只能用传统的外键方案表示数据之间的关联关系,写出的代码既繁琐又难懂,而且运算性能还差,缺乏离散性的SQL无法采用直观的引用机制描述关联。特别地,没有离散性的支持,SQL很难描述有序计算,有序计算是离散性和集合化的典型结合产物,成员的次序在集合中才有意义,这要求集合化,有序计算时又要将每个成员与相邻成员区分开,会强调离散性。

这些具体内容我们会在后续文档中逐步详细说明。我们要从理论上改进SQL(或者更合适的说法是关系代数),主要工作就是在保持集合化的基础上引入离散性,从而解决上述问题,让新的语言能够同时拥有SQL和Java的优点。

清华大学计算机硕士,著有《非线性报表模型原理》等,1989年,中国首个国际奥林匹克数学竞赛团体冠军成员,个人金牌;2000年,创立润乾公司;2004年,首次在润乾报表中提出非线性报表模型,完美解决了中国式复杂报表制表难题,目前该模型已经成为报表行业的标准;2014年,经过7年开发,润乾软件发布不依赖关系代数模型的计算引擎——集算器,有效地提高了复杂结构化大数据计算的开发和运算效率;2015年,润乾软件被福布斯中文网站评为“2015福布斯中国非上市潜力企业100强”;2016年,荣获中国电子信息产业发展研究院评选的“2016年中国软件和信息服务业十大领军人物”;2017年, 自主创新研发新一代的数据仓库、云数据库等产品即将面世。

《数据蒋堂》的作者蒋步星,从事信息系统建设和数据处理长达20多年的时间。他丰富的工程经验与深厚的理论功底相互融合、创新思想与传统观念的相互碰撞,虚拟与现实的相互交织,产生出了一篇篇的沥血之作。此连载的内容涉及从数据呈现、采集到加工计算再到存储以及挖掘等各个方面。大可观数据世界之远景、小可看技术疑难之细节。针对数据领域一些技术难点,站在研发人员的角度从浅入深,进行全方位、360度无死角深度剖析;对于一些业内观点,站在技术人员角度阐述自己的思考和理解。蒋步星还会对大数据的发展,站在业内专家角度给予预测和推断。静下心来认真研读你会发现,《数据蒋堂》的文章,有的会让用户避免重复前人走过的弯路,有的会让攻城狮面对扎心的难题茅塞顿开,有的会为初入行业的读者提供一把开启数据世界的钥匙,有的甚至会让业内专家大跌眼镜,产生思想交锋。

时间: 2024-08-25 20:47:53

数据蒋堂 | 从SQL语法看离散性的相关文章

【数据蒋堂】第20期:从SQL语法看离散性

所谓离散性,是指集合的成员可以游离在集合之外存在并参与运算,游离成员还可以再组成新的集合.从离散性的解释上可以知道,离散性是针对集合而言的一种能力,离开集合概念单独谈离散性就没有意义了. 离散性是个很简单的特性,几乎所有支持结构(对象)的高级语言都天然支持,比如我们用Java时都可以把数组成员取出来单独计算,也可以再次组成新的数组进行集合运算(不过Java几乎没有提供集合运算类库). 但是SQL的离散性却很差. SQL体系中有记录的概念,但并没有显式的记录数据类型.单条记录被SQL作为只有一条记

【数据蒋堂】第19期:从SQL语法看集合化

SQL作为最常用的结构化数据计算语言,虽然在做一些细致处理时不太方便,但用于描述基本运算还是比Java等高级语言要简单许多.这是因为SQL是一种集合化的语言,而Java等语言不是.我们下面从SQL的语法上看集合化语言的一些特征,为了方便讨论,我们就用Java作为参照语言,其它高级语言是类似的. 集合运算能力 结构化数据经常是批量(以集合形式)出现的,为了方便地计算这类数据,程序设计语言有必要提供足够的集合运算能力. Java等高级语言则没有直接提供集合运算类库,虽然也有数组(相当于集合)数据类型

数据蒋堂 | 常规遍历语法

遍历可以说是最基本的集合运算了,比如求和.计数.寻找最大最小值等聚合运算,按条件过滤集合.根据集合成员生成另一个新集合,也都是遍历运算.集合化语法要求我们能用很短的语句(经常就只有一句,而不是若干语句构成的一段程序)来描述大部分遍历运算,这样我们需要考查遍历运算中可能出现的各种常见情况,并设计出合理自治的语法规则. 我们从简单到复杂来考查遍历运算中的可能情况,并讨论SQL语法在这方面的表现. 比如计算集合成员的合计. 这是最简单的情况,采用普通的函数语法风格就可以,将待遍历的集合作为参数获得返回

数据蒋堂 | SQL用作大数据计算语法好吗?

当前的大数据平台在处理结构化数据时大都仍然以提供SQL语法为主流.兼容SQL的好处是很明显的,SQL的应用非常广泛,会SQL的程序员很多,如果继续采用SQL则可以避免许多学习成本.支持SQL的前端软件也很多,使用SQL的大数据平台很容易融入这个现成的生态圈中.大数据平台打算替代的传统数据库也是SQL语法的,这样兼容性会很好,移植成本相对较低. 但继续使用SQL也有缺点,最大的问题就是难以获得大数据计算最需要的高性能. 我们在前面的文章中提到过,SQL中缺乏一些必要的数据类型和运算定义,这使得某些

【数据蒋堂】第18期:SQL用作大数据计算语法好吗?

当前的大数据平台在处理结构化数据时大都仍然以提供SQL语法为主流.兼容SQL的好处是很明显的,SQL的应用非常广泛,会SQL的程序员很多,如果继续采用SQL则可以避免许多学习成本.支持SQL的前端软件也很多,使用SQL的大数据平台很容易融入这个现成的生态圈中.大数据平台打算替代的传统数据库也是SQL语法的,这样兼容性会很好,移植成本相对较低. 但继续使用SQL也有缺点,最大的问题就是难以获得大数据计算最需要的高性能. 我们在前面的文章中提到过,SQL中缺乏一些必要的数据类型和运算定义,这使得某些

【数据蒋堂】第17期:SQL的困难源于关系代数

在结构化数据处理领域,SQL无疑是应用最广泛的工作语言,不仅被所有关系数据库采用,许多新进的大数据平台也将实现SQL作为目标.但现实是,面对当前纷杂的计算查询需求,SQL在很多方面并不够好用.我们在前面说过SQL的过程性问题,这其实并不是最关键的问题,SQL的更大困难来源于其理论基础,即关系代数. 关系代数是一种代数体系.我们无法在本文的篇幅中严格定义代数体系这个概念,只能通俗地解释.人们为解决某种运算问题,定义了一些数据对象及针对这些数据对象的一套运算规则,确保这些运算的封闭性和自洽性,就可以

数据蒋堂 | SQL的困难源于关系代数

在结构化数据处理领域,SQL无疑是应用最广泛的工作语言,不仅被所有关系数据库采用,许多新进的大数据平台也将实现SQL作为目标.但现实是,面对当前纷杂的计算查询需求,SQL在很多方面并不够好用.我们在前面说过SQL的过程性问题,这其实并不是最关键的问题,SQL的更大困难来源于其理论基础,即关系代数. 关系代数是一种代数体系.我们无法在本文的篇幅中严格定义代数体系这个概念,只能通俗地解释.人们为解决某种运算问题,定义了一些数据对象及针对这些数据对象的一套运算规则,确保这些运算的封闭性和自洽性,就可以

【数据蒋堂】第21期:常规遍历语法

遍历可以说是最基本的集合运算了,比如求和.计数.寻找最大最小值等聚合运算,按条件过滤集合.根据集合成员生成另一个新集合,也都是遍历运算.集合化语法要求我们能用很短的语句(经常就只有一句,而不是若干语句构成的一段程序)来描述大部分遍历运算,这样我们需要考查遍历运算中可能出现的各种常见情况,并设计出合理自洽的语法规则. 我们从简单到复杂来考查遍历运算中的可能情况,并讨论SQL语法在这方面的表现. 1. 直接针对集合成员运算 比如计算集合成员的合计. 这是最简单的情况,采用普通的函数语法风格就可以,将

数据蒋堂 | SQL像英语是个善意的错误

我们知道,SQL长得很像英语词语,简单的SQL语句直接可以作为英语读.除了SQL外,其它主要程序设计语言都没有这样,语法中就算有英语单词也仅仅是作为某些概念或操作的助记符而已,写出来的是形式化的程序语句(statement)而不是英语句子(sentence).而SQL不同,它会把整个句子写成符合英语习惯的形式,还会补充很多不必要的介词,比如FROM作为语句的运算主体却被写到后面,GROUP后面要写一个多余的BY. 为什么会这样?很容易想到的理由是希望非程序设计人员也能使用.用户只要会读写英语,就