FlatBuffers 体验

1. 背景

最近在项目中需要使用一种高效数据序列化的工具。碰巧在几篇文章中都提到了FlatBuffers 这个库。特别是 Android 性能优化典范第四季1中两个对比图,让我对它产生浓厚的兴趣。如下:

(注:图片来自1

可见,FlatBuffers 几乎从空间和时间复杂度上完胜其他技术,我决定详细调研一下此技术。

FlatBuffers 是一个开源的跨平台数据序列化库,可以应用到几乎任何语言(C++, C#, Go, Java, JavaScript, PHP, Python),最开始是 Google 为游戏或者其他对性能要求很高的应用开发的。项目地址在 GitHub 上。官方的文档在 这里

本文将介绍一下我使用 FlatBuffers 的一些感受,希望对想要了解或者使用 FlatBuffers 的同学有一点帮组。

2. FlatBuffer 的优点

FlatBuffer 相对于其他序列化技术,例如 XML,JSON,Protocol Buffers 等,有哪些优势呢?官方文档的说法如下:

  1. 直接读取序列化数据,而不需要解析(Parsing)或者解包(Unpacking):FlatBuffer 把数据层级结构保存在一个扁平化的二进制缓存(一维数组)中,同时能够保持直接获取里面的结构化数据,而不需要解析,并且还能保证数据结构变化的前后向兼容。
  2. 高效的内存使用和速度:FlatBuffer 使用过程中,不需要额外的内存,几乎接近原始数据在内存中的大小。
  3. 灵活:数据能够前后向兼容,并且能够灵活控制你的数据结构。
  4. 很少的代码侵入性:使用少量的自动生成的代码即可实现。
  5. 强数据类性,易于使用,跨平台,几乎语言无关。

官方提供了一个性能对比表如下:

(注:来自 官方文档

在做 Android 开发的时候,JSON 是最常用的数据序列化技术。我们知道,JSON 的可读性很强,但是序列化和反序列化性能却是最差的。解析的时候,JSON 解析器首先,需要在内存中初始化一个对应的数据结构,这个事件经常会消耗 100ms ~ 200ms2;解析过程中,要产生大量的临时变量,造成 Java 虚拟机的 GC 和内存抖动,解析 20KB 的数据,大概会消耗 100KB 的临时内存2。FlatBuffers 就解决了这些问题。

3. 使用方法

简单来说,FlatBuffers 的使用方法是,首先按照使用特定的 IDL 定义数据结构 schema,然后使用编译工具 flatc 编译 schema 生成对应的代码,把生成的代码应用到工程中即可。下面详细介绍每一步。

首先,我们需要得到 flatc,这个需要从源码编辑得到。从 GitHub 上 Clone 代码,

$ git clone https://github.com/google/flatbuffers 

在 Mac 上,使用 Xcode 直接打开 build/Xcode/ 里面项目文件,编译运行,即可在项目根目录生成我们需要的 flatc 工具。也可以使用 cmake 编辑,例如在 Linux 上,运行如下命令即可:

$ cmake -G "Unix Makefiles"
$ make

首先要使用 FlatBuffers 的 IDL 定义好数据结构 Schema,编写 Schema 的详细文档在 这里。其语法和 C 语言类似,比较容易上手。我们这里引用一个简单的例子2,假设数据结构如下:

class Person {  
    String name;
    int friendshipStatus;
    Person spouse;
    List<Person>friends;
}

编写成 Schema 如下,文件名为 Person.fbs

// Person schema

namespace com.race604.fbs;

enum FriendshipStatus: int {Friend = 1, NotFriend}

table Person {  
  name: string;
  friendshipStatus: FriendshipStatus = Friend;
  spouse: Person;
  friends: [Person];
}

root_type Person;

然后,使用 flatc 可以把 Schema 编译成多种编程语言,我们仅仅讨论 Android 平台,所以把 Schema 编译成 Java,命令如下:

$ ./flatc --java Person.fbs 

在当前目录生成如下文件:

.
└── com
    └── race604
        └── fbs
            ├── FriendshipStatus.java
            └── Person.java

Person 类有响应的函数直接获取其内部的属性值,使用非常简单:

Person person = ;  
// 获取普通成员
String name = person.name();  
int friendshipStatus = person.friendshipStatus();  
// 获取数组
int length = person.friendsLength()  
for (int i = 0; i < length; i++) {  
    Person friends = person.friends(i);
    
}

下面我们来构建一个 Person 对象,名字是 "John",其配偶(spouse)是 "Mary",还有两个朋友,分别是 "Dave" 和 "Tom",实现如下:

private ByteBuffer createPerson() {  
    FlatBufferBuilder builder = new FlatBufferBuilder(0);
    int spouseName = builder.createString("Mary");
    int spouse = Person.createPerson(builder, spouseName, FriendshipStatus.Friend, 0, 0);

    int friendDave = Person.createPerson(builder, builder.createString("Dave"),
            FriendshipStatus.Friend, 0, 0);
    int friendTom = Person.createPerson(builder, builder.createString("Tom"),
            FriendshipStatus.Friend, 0, 0);

    int name = builder.createString("John");
    int[] friendsArr = new int[]{ friendDave, friendTom };
    int friends = Person.createFriendsVector(builder, friendsArr);

    Person.startPerson(builder);
    Person.addName(builder, name);
    Person.addSpouse(builder, spouse);
    Person.addFriends(builder, friends);
    Person.addFriendshipStatus(builder, FriendshipStatus.NotFriend);

    int john = Person.endPerson(builder);
    builder.finish(john);

    return builder.dataBuffer();
}

基本方法就是通过 FlatBufferBuilder 工具,往里面填写数据,详细的写法可以参考官方文档3。可见,其实写法略显繁琐,不太直观。

4. 基本原理

如官方文档的介绍,FlatBuffers 就像它的名字所表示的一样,就是把结构化的对象,用一个扁平化(Flat)的缓冲区保存,简单的来说就是把内存对象数据,保存在一个一维的数组中。借用 Facebook 文章2的一张图如下:

可见,FlatBuffers 保存在一个 byte 数组中,有一个“支点”指针(pivot point)以此为界,存储的内容分为两个部分:元数据和数据内容。其中元数据部分就是数据在前面,其长度等于对象中的字段数量,每个 byte 保存对应字段内容在数组中的索引(从支点位置开始计算)。

如图,上面的 Person 对象第一个字段是 name,其值的索引位置是 1,所以从索引位置 1 开始的字符串,就是 name 字段的值 "John"。第二个字段是 friendshipStatus,其索引值是 6,找到值为 2, 表示 NotFriend。第三个字段是 spouse,也一个 Person 对象,索引值是 12,指向的是此对象的支点位置。第四个字段是一个数组,图中表示的数组为空,所以索引值是 0。

通过上面的解析,可以看出,FlatBuffers 通过自己分配和管理对象的存储,使对象在内存中就是线性结构化的,直接可以把内存内容保存或者发送出去,加载“解析”数据只需要把 byte 数组加载到内存中即可,不需要任何解析,也不产生任何中间变量。

它与具体的机器或者运行环境无关,例如在 Java 中,对象内的内存不依赖 Java 虚拟机的堆内存分配策略实现,所以也是跨平台的。

5. 使用建议

通过前面的体验,FlatBuffers 几乎秒杀了 JSON,我也尝试使用到现在的项目中,但是最后还是放弃了,下面说说 FlatBuffers 的几点缺点:

  1. FlatBuffers 需要生成代码,对代码有侵入性;
  2. 数据序列化没有可读性,不方便 Debug;
  3. 构建 FlatBuffers 对象比较麻烦,不直观,特别是如果对象比较复杂情况下需要写大段的代码;
  4. 数据的所有内容需要使用 Schema 严格定义,灵活性不如 JSON。

我最后在项目中放弃是因为上面的第 4 点,因为在我的项目中,数据结构变化很大,不方便使用 Schema 完全定义。话又说回来,FlatBuffers 这么多好处,还是很吸引我的,可能会在其他的项目中尝试。

所以,在什么情况下选择使用 FlatBuffers 呢?个人感觉需要满足以下几点:

  1. 项目中有大量数据传输和解析,使用 JSON 成为了性能瓶颈;
  2. 稳定的数据结构定义。
时间: 2024-10-29 00:34:35

FlatBuffers 体验的相关文章

10步让你做出引人入胜的用户体验

  设计师 Irene Pereyra 总结了10大技巧帮助你实现令人惊叹的交互式用户体验. 近来,设计一款能够吸引并留住用户的web和App越来越成为一门学问. 由于很多人对于计算机数字领域不是很很了解,我会经常拿我们UX设计师和建筑师作比较.通常建筑师是负责设计你的房子的,而我们的UX设计团队需要建立一个网站全面详尽的蓝图,里面包含网站的特性和功能,以及其他方方面面的内容. 但这些设计通常不是一稿就能搞定的.要想实现直观又吸引人的用户交互需要很多步骤.下面我自己总结了10个小建议希望可以帮助

平板手机如何转变移动用户体验

  还记得小型移动电话流行的时代吗?那都是老黄历了.大屏智能手机早已成为潮流,而且这股潮流还将持续下去.考虑到用户使用新一代移动设备,特别是平板手机方式的转变,现在是时候重新审视一下如何针对移动端进行设计了. 何为平板手机? 顾名思义,就是手机+平板电脑. 也就是比我们习惯上要大,但是又没有平板电脑那么大的手机.具体来说,平板手机的屏幕尺寸通常可达5到6.9英寸(127到180毫米).相比之下,iPhone5 的屏幕对角线为4英寸. 所以说,区分平板手机和智能手机的关键就在屏幕尺寸.但其内容物实

10个技巧让用户拥有暖心的VIP体验

  网站的参与感也属于用户体验的是否到位的衡量标准之一.我们所认知的用户体验可能只是如何让用户浏览时更顺畅舒适?又或是如何让用户减少思考和点击?而这些都只是于网站操作的用户体验,还有一种情感上的用户体验同样需要设计师的关注. 以下是为大家搜集的一些能体现网站参与感的相关案例,希望大家能从中学习借鉴. 一.给用户一个贴近生活的真实场景 对于贴近自己生活的事物会有一种自然而然的亲近感.因此,如果能将这些场景融入网站的设计中,很容易让用户产生一种愿意自我带入情境的感觉,有利于引起他们对网站中的其他内容

手机屏幕尺寸扩展是如何影响用户体验设计的

  造型千奇百怪的小屏手机叱咤风云的时代已经一去不复返了.事实上,近几年的行业趋势表明大屏手机,或者说巨屏手机,将会在很长的时间内占据主流.而现在,也是时候总结一下过去几年里,面对大屏手机时,设计师的失职. 如何界定大屏手机? 其实简单称之为大屏也不是特别准确,它的英文名称更为形象:Phone+Tablet=Phablet ,也就是说,它是传统手机和平板的结合体,Phablet. 因此,这些大屏手机实际上是超过我们手掌习惯的.可掌控的尺寸,但是又没有达到平板的级别.更准确的说,是屏幕尺寸在5~6

从8个方面对移动设备阅读体验进行研究学习

一直想对移动设备阅读体验进行较为完整的研究和学习,但内容太多,涉及到非常多的传统平面设计知识,目前仅初步地完整字体部分.完整的研究框架包括: 1.界面版式设计的方法.常用的栅格分割适合移动设备多分辨率复杂内容的自动排版,内容可控制时是否可以模仿杂志的复杂不规则排版方式,以达到最佳的阅读体验. 2.移动设备上最佳的字体有什么必要的设计要素?如下图,更多的内容包括字体颜色.字间距.行间距和字体渲染等,不同的内容需要不同的字体.随着屏幕分辨率和显示精度的发展,字体也有一个进化过程. 3.屏幕亮度等参数

滚动和点击:哪一个对用户的体验更加友好?

点击和滚动,哪一个对用户更友好?这是一个设计师在设计页面浏览过程时必须考虑的问题.使用点击,给用户一堆链接并把他们带到新的页面;使用滚动,则把所有内容按区块展示在一个单一的页面上. 许多年前,这个问题最简单的回答就是使用点击.通常的考虑是,如果你使得你的你的页面过长,那么用户只会去看去读上半部分而可能只是扫一眼.甚至是忽略下半部分.而今,这有了一些变化,许多用户可以毫无问题的从头滚到尾.相比点击滚动现在变得越来越自然.因为用户的行为一直在变化着,设计师需要在他们的设计里考虑到这些问题. 无论是滚

卓越用户体验5个共同点 改变用户原有的习惯

如果你已经在用移动社交的Path,你一定会非常享受其卓越的用户体验.Path拥有非常精致的设计,而且非常易于使用.换句话说就是Path拥有非常棒的用户体验.这不是一个高科技产品是否需要采用的决定性元素,但确是能够决定多少用户来使用的重中之重. 1. 典雅的UI 好的用户体验是离不开UI的,而且作用很大.尽管我不是一个合格的Path用户,但是当打开的时候,我还是会浏览一遍.顶端的5个笑脸图标更是很有爱.这也正是facebook没有意识到的地方. 2. 离不开(上瘾) 好的设计还得让人看到其内在的价

用户体验设计是情感设计 直接影响人的情绪

我们一直说用户体验,做产品没有一刻离的了这个概念.它是很基础的东西,但是现在,这个词被放大了,我们都在讲都想要用,可是这个理念仍旧关注力不足,所以今天来还是要讲点东西.做名词解释说明,太枯燥,所以我尝试换个角度来分享些内容. 用户体验是一种情感设计,就像电影.小说.戏剧和音乐一样,好的设计给人愉悦的情绪,糟糕的则有各种糟糕. 生活中的例子,各种情绪 1 身份证的设计没有考虑到用户在使用时需要复印的需求,个人信息和有效期在两面,复印时让人无奈 2 上次分享会,我们改进了签到流程,让与会者可以更方便

WebApp最佳实践用户体验篇之如何针对多种屏幕尺寸设计合理的移动应用

身为一个移动web网站的设计师,除非你只是针对某种特定的设备设计,否则你应该会常常碰到这样的问题:如何清楚地了解网站运行设备的屏幕尺寸大小?这个问题一直困扰着移动设备上的设计师. 例如: iPhone的高度是480个像素,宽320像素. 许多Nokia N系列设备的宽度为240像素,高度为320像素. 许多更新款的设备支持宽度和高度颠倒的视图. 旧款的Nokia(目前仍然比较流行)设备屏幕的尺寸从176×208到352×416不等. Blackberry屏幕的分辨率也是从160×160到324×