5.22成都workshop:4. 游戏日志采集与分析

场景简介

小吴负责公司的DevOps 以及 数据团队:在服务器和用户数上升后,开发花了非常多的时间在服务器查日志问题上。在支持移动入口、网页、推广渠道后,日志的来源也变得越来越多,加剧了他的困扰。除此之外,运营团队、BI团队、运维团队等对日志提出各自需求。

因此小吴需要一套快捷灵活的日志系统,来解决游戏开发中的这些需求。

实验概述(实验第四环节)

  1. 日志数据如何上云:ECS上日志采集
  2. 常用日志处理的几种模式
    1. 索引与查询
    2. 实时计算:演示云监控 (可选)
    3. 离线存储:延时OSS 存储与计算(可选)

具体步骤

准备步骤(可跳过)

  1. 实验环境已经默认安装日志收集客户端(Logtail),如需要手动配置实验环境,请参考环境准备

步骤1. 日志采集步骤

  1. 登陆日志服务控制台,开始创建配置
  2. 在“华东2区域”创建项目Project/Logstore
    • project: workshop-game(注意:project名称需要全局唯一,例如workshop-test-123)
    • logstore:gamelog

  3. 创建日志收集配置文件
    1. 配置名称:gameserver
    2. 日志路径:目录 /root/demo 文件 game.log
    3. 模式:选择分隔符模式
  4. 将要ECS中的game.log获取一行,并放入日志样例中
    2017-05-16 09:20:05,123456,testuser,10499,24200,buy,item:123456,77,66,2500043,200,4G,Android 7.8.1
    
  5. 分隔符:选择自定义,使用","作为分隔符
  6. 为字段增加属性
    Key value
    time 2017-05-16 09:20:05
    user-id 123456
    username testuser
    pos-x 10499
    pos-y 24200
    action buy
    action-param {"item":“1234567”}
    blood 77
    magic 66
    money 2500043
    status 200
    network 4G
    device Android 7.8.1
  7. 创建机器分组,将配置文件应用带机器分组后,日志就会自动开始采集
    1. 机器组名称:gameserver
    2. 在IP地址中填写ECS内网IP地址(在我们的例子中是“10.174.149.160”),可以通过ECS控制台进行查看,其中的内网IP

    3. 创建完成后,将配置勾选,并应用到机器组
    4. 可以通过左边菜单:LogHub-实时采集 / Logtail机器组 / 查看状态,查看机器上Logtail 是否安装完成

    5. 配置应用后一分钟内,日志就会被采集,通过监控或预览可以进行查看

    6. 通过预览,我们可以看到日志已被实时收集了

步骤2. 日志索引与查询

  1. 日志实时收集后,我们可以通过计算程序对日志进行流计算,例如监控等。除此之外,我们可以对日志建立索引,进行实时日志查询与分析。
  2. 在左侧菜单点击日志库,查询按钮进入日志查询页面
  3. 日志需要通过索引(类似搜索引擎)后,就能进行查询。我们对于不同Key建立不同索引

  4. 在输入框中输入"username:testuser "获得用户名为testuser操作日志
  5. 可以加入更多条件,例如"username:testuser and action:sell" 查看满足这两个条件的日志
  6. 通过点击上下文浏览,可以查看某条日志在原始日志文件中的上下文(一般用来进行错误调查)

  7. 我们还可以在搜索框中做一些查询统计功能,例如线上有一个需求:我们需要对线上玩得比较多,但血量比较少,金钱也不多但经常玩的用户提供一些代金券,可以提交如下query
    blood<400  and money<3000 | select username, count() as c group by username having count() > 100 order by c desc
    

    在控制台获得如下结果:

  8. 更多查询与SQL分析功能等你体验

步骤3. 演示通过云监控配置视图和报表功能(可选)

  1. 进入云监控下的日志监控页面
  2. 点击授权云监控读取日志服务权限
  3. 创建一个PV监控项,例如聚合每分钟的数据计数
  4. 生成图表

步骤4. 演示将日志数据存储OSS/MaxCompute (可选)

  1. 具体参见日志投递文档

其他

  1. 日志服务主页 https://www.aliyun.com/product/sls/
  2. 欢迎加入日志服务钉钉群

时间: 2024-10-30 14:10:44

5.22成都workshop:4. 游戏日志采集与分析的相关文章

5.22成都workshop:游戏日志处理探索-无服务器(Serverless)编程首秀

实验背景介绍及环境准备 一. 实验背景: 游戏行业十分激烈,手机游戏的生命周期仅仅有6-12个月.如何通过云计算的弹性扩展等优势为游戏行业降低架构技术风险,集中精力主要业务的推广.投放以延长游戏生命周期.成都workshop中,游戏日志处理探索-无服务器(Serverless)编程首秀,将通过对几款云产品的实际上手操作,来与大家分享,如何通过云产品技术来解决游戏架构中的相关问题. 二 .议题参考 1)对象存储OSS:海量数据存储与多媒体处理 实验步骤请点击 业务数据和静态资源数据存储分离,如何应

5.22成都workshop:海量用户数据管理及分析

海量用户数据管理及分析 场景介绍 X游戏公司有多款手游,页游在线上运营.近期也有一批新款游戏设计出炉准备开发,公司希望根据游戏热度决定未来资源投入的方向.与此同时,近期频发的盗号现象,也让公司倍感苦恼.开发一个登录风控模块,迫在眉睫.架构师小吴接到这个任务,平时热爱了解,使用阿里云的他认为表格存储的多版本功能可以很方便的实现用户元数据的管理,并为风控模块服务. 实验概述 实验中我们会开发一个建议的游戏服务器,服务器提供用户登录功能,并嵌入风控模块.实验可以通过portal模拟用户的登录行为,并且

海量游戏日志收集与分析

游戏与日志分析 数据.云计算改变游戏行业 我们先看一张图,这种图是国外应用市场的一个报告:统计了最近4年中,一款游戏从上架到达到90%下载量持续的时间长度,横轴代表的是年份,纵轴代表的是持续的周数.在2012年,一款游戏平均可以持续180周(也就是说到了2014年仍有人下载),但这个比例每年在持续下滑,到2015年该区间已经到了24周,进入快餐式消费时代. 不管背后原因是什么,从整个趋势来看游戏行业已经从卖方市场(20年前游戏卡带相互借阅,一卡难求),到现在的买方市场. 第二个趋势是:云计算改变

5.22成都workshop:环境准备

Workshop 环境准备 通过阿里云官网控制台创建一台ECS机器 下载实验需要的程序 修改相应配置文件 我们点击ECS图标进入ECS控制台,创建ECS实例. 注意需要选取64位的linux系统. 实例创建完成后,通过网页版登录机器 网页跳转至ECS机器操作界面,记住网页登录秘密 输入刚才保存下来的登录密码 进入ECS后输入系统管理员账号默认为root和密码为控制台中指定的密码 下载GameServer至Demo目录 mkdir demo cd demo wget http://workshop

5.22成都workshop:1、海量数据存储与多媒体处理

海量数据存储与多媒体处理 场景简介 某游戏公司小吴需要将游戏的静态数据比如图片放在在OSS上 某游戏公司小吴需要对存放在OSS上的图片进行缩略.旋转.裁剪等处理 实验概述 具体步骤 1. 下载资源包,解压后找到oss.zip,并再次解压出来 2. 登陆阿里云官网 点击登陆界面,输入账号和密码登陆即可,如果要求绑定手机号,则选择"下次再说" 3. 进入OSS控制台 4. 新建bucket bucket名称的字符集是小写字母.数字和横杠,全局唯一,自己定一个就行,本文档以storage-w

5.22成都workshop: Serverless架构数据处理实践

场景描述 小吴喜欢在网上浏览各种有趣的图片,有时候看到喜欢的图片他会下载下来 对于珍藏的图片,他还会上传到OSS以永久保存 如果有多张图片要上传,一张张地上传太麻烦了,如果能将文件打包成一个zip,上传到OSS后自动解压就好了 如果能将几张图片拼成一个gif动态图就可以发给朋友玩了 通过OSS和FunctionCompute,小吴很容易地实现了上述功能. 实验步骤 1. 实验准备 下载实验用的文件包到本地,并解压. 2. 上传代码到OSS 切换到OSS官网控制台. 将文件包中的fc.zip解压出

海量游戏日志的存储与分析了却了谁的心事?

 数据.云计算改变游戏行业   我们先看一张图,这种图是国外应用市场的一个统计:统计了最近4年中,一款游戏从上架到达到90%下载量持续的时间长度,横轴代表的是年份,纵轴代表的是持续的周数.在2012年,一款游戏平均可以持续180周(也就是说到了2014年仍有人下载),但这个比例每年在持续下滑,到2015年该区间已经到了24周,也就是说用户进入了快餐式消费的时代.   不管背后的原因是什么,但从整个趋势来看游戏行业已经从卖方市场(20年前游戏卡带相互借阅,一卡难求),到现在的买房市场.以用户为中心

日志采集框架Flume以及Flume的安装部署(一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统)

 Flume支持众多的source和sink类型,详细手册可参考官方文档,更多source和sink组件 http://flume.apache.org/FlumeUserGuide.html Flume官网入门指南:  1:Flume的概述和介绍: (1):Flume是一个分布式.可靠.和高可用的海量日志采集.聚合和传输的系统.(2):Flume可以采集文件,socket数据包等各种形式源数据,又可以将采集到的数据输出到HDFS.hbase.hive.kafka等众多外部存储系统中(3):一般

通过openresty和嵌入式的lua脚本,来搭建高并发的日志采集服务器

通过openresty和嵌入式的lua脚本,来搭建高并发的日志采集服务器,现在主要采集pc端和app端的日志,数据存储在kafka openresty 服务搭建步骤(mac,linux) wget https://www.openssl.org/source/openssl-1.0.2f.tar.gz tar -zvxf openssl-1.0.2f.tar.gz wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.