浅谈搜索引擎日志分析

  对于网站优化来说,搜索引擎日志分析是必不可少的一块,无论你是收录上百的小型网站,还是收录上百万的大中型网站,SEO要想做得好,都必需进行科学的日志分析,日志是发生在网站服务器上的所有事件的记录,包括用户访问记录,搜索引擎抓取记录,对于一些大型网站来说,每天的日志都有好几个G大小的,我们可以使用linux命令去进行分离的,在大型网站日志文件往往是机密文件,一般人是看不到的,因为从日志里边可以分析访客趋势、地区趋势等,我们做SEO的不需要那么多数据,我们只要分析搜索引擎的抓取记录这一块就可以了,所以再大的数据量,如果经过处理后,也就不会特别大了,况且现在的硬盘这么便宜,存储日志文件还是可以考虑的。那么我们主要分析日志的什么数据呢?

  1、每个搜索引擎的总体抓取量(以及趋势)

  在日志文件中,明确的记录了每个搜索引擎的抓取量,例如百度、谷歌、搜狗等搜索引擎的抓取记录,我们都可以进行记录,使用DOS命令或者Linux命令都可以去实现的,搜索引擎的收录是由抓取量以及文章质量来决定的,当文章质量不变的情况下,蜘蛛抓取量越大,那么收录的就会越多,我们在进行日志分析 时候,一定要清楚的知道蜘蛛每天的抓取量到底是一个什么情况,而且每天都要记录,也许绝对值说明不了什么,我们可以去看它的趋势,当某一天抓取量的趋势在下降时,我们就要去找原因了。

  2、记录搜索引擎蜘蛛的不重复抓取量

  上一步我们把蜘蛛的抓取量数据给分析出来了,然后我们要进行去重,也就是搜索引擎的唯一不重复抓取量,其实对于收录来说,许多页面只要抓取一次就可以了,可是在实际操作的过程当中,许多页面都是被重复抓取的,谷歌的技术比较先进一些,重复抓取率也许会低一些,可是百度等搜索引擎,重复抓取率却非常高,你通过日志分析就可以看出来了,一天如果抓取量上百万,可能好几万次都是抓取首页的,所以许多数据你一定要去分析的,当你分析了后,你才会知道问题的严重性。

  3、每个目录、每个搜索引擎的抓取量

  上边两步把总体抓取量、不重复抓取量记录下来了,然后我们要分析出每个搜索引擎对每一个目录的抓取情况是怎么样的,这样利于进行分块优化,例如当你网站流量上升时,你可以知道是哪个目录的流量上升了,然后再往下推,看看是哪个目录的抓取量上升了,哪个目录的抓取量下降了,为什么下降,都可以进行分析的,然后在网站中进行适当的链接结构调整,例如使用nofollow标签等。

  4、统计搜索引擎抓取的状态码

  当搜索引擎抓取了你的页面后,不但抓取了你的内容,而且还会有一个抓取返回码的,这些返回码我们要记录下来,特别是一些类似301、404、500等这些状态码,我们从这些状态码中我们找出网站的一些潜在的问题,例如为什么会出现很多404页面,是程序原因,还是搜索引擎在抓取外链的时候提取错误,其实我们可以在谷歌管理员工具中看到这些数据的,里边还会提示你的错误的404页面出现在哪里,对于一些301状态码我们也要注意了,看下这些301是不是按照我们所希望的那样跳转的,网站中要尽量的少用跳转,页面在跳转的时候,往往会延长页面的加载时间,最常见的301可能就是网页URL不带"/"的跳转到带“/”的情况了,我们在网站中,要尽量的避免出现这样的情况。

  5、统计搜索引擎蜘蛛来的次数、来的时间

  我们可以使用一些日志分析工具,设定一个标准,例如光年日志分析工具,可以统计出每个搜索引擎蜘蛛每天来的次数,一天一共在我们网站停留了多久,有没有IP蜘蛛一天24小时都在我们网站不停的抓取,这样的蜘蛛越多越好,往往是你网站权重提升的表现。这样的数据可以每天都记录下来,在一定的时间段内,进行对比分析,看看停留的时间是不是增加了,来的次数是不是增多了,这样可以判断出网站权重是上升还是下降。

  当然可以从日志里边看出的SEO指导数据还有很多,这里我暂时办列举出这么多,希望能够起到一个抛砖引玉的作用,大家可以往下思考,进行延申,在平时的SEO数据分析工作中,一定要养成分析日志的习惯,平时如果有时间,可以多看看日志文件,例如可以去大概的看下搜索引擎蜘蛛在你页面上的抓取轨迹,看看有什么规律,这对你日后的SEO工作都非常用帮助的。以上内容由www.jieyitongcy.com 捷易通自动充值软件在admin5首发,转载请保留网址,谢谢!

时间: 2024-10-27 13:36:08

浅谈搜索引擎日志分析的相关文章

浅谈搜索引擎的工作原理及未来算法调整方向

在A5站长网上摸爬滚打了多年了,期间也写了好几篇的文章,其中有一篇<浅谈地方汽车门户网站运营的四个问题>还被推荐到了首页,我发给我们的朋友看的时候,大家对我这个曾经的菜鸟也开始刮目相看了,这让我本人在这段时间身心都愉悦的很,现在又忍不住在A5上发表一下我对搜索引擎工作原理及算法上的认识,可能比较的浅陋,但是有了想法,不吐还是不快的! 做网站SEO是一个非常枯燥的过程,很多人估计除了吃饭睡觉剩下来的时间就奉献给了电脑了,这样怎么能够把身体搞好呢?这不现在每天爬六楼都累得不行,这对于一个大小伙子实

浅谈网站内部分析的要点和技巧

现在网站数据分析是非常重要的,是打败竞争对手的最好方法,正所谓知己知彼方能百战百胜,要想打败竞争对手就要开始分析自己着手!可是很多人并不能够很好的分析自己,所谓最大的敌人就是自己说的就是这个道理,分析其他人的网站往往头头是道,但是对于自己网站不管怎么分析都是感觉良好,甚至连自己的网站内链层级都到了五层以上,还不知道自我改善,还在拼命的进行外链建设,原创内容建设,可是搞了很久依然没有任何起色,于是怨天尤人,最后走向失败的边缘! 那么如何才能够进行站内分析呢?通常我们可以从下面五个方面进行! 其一:

浅谈通过缺陷分析进行项目质量分析

本篇文章浅谈如何进行测试缺陷分析和质量报告分析. 背景 如同代码是程序员的成果之一,测试报告和质量报告是测试人员的主要成果之一.对于一个测试,在测试项目结束时需要对测试过程中的典型bug.常出现bug进行bugreview:对bug修复周期.bug趋势进行总结分析:通过以上bug的分析以及测试过程中出现的任何问题进行总结形成质量报告,不仅仅对过去项目产品质量进行准确的评估,还需要对未来项目在质量方面的改进点和方向提出建议,以对产品质量进行不断改进和完善 缺陷分析 1.bugreview:代码引入

浅谈jQuery构造函数分析_jquery

在我的上一篇文章里面 阐述了jQuery的大致框架,知道了所有代码都是写在了一个自调用匿名函数里面,并且传入了window对象,源码是这样的: (function( window, undefined ) {...})( window ); 我们通过alert(jquery) 知道它是一个对象,那么这个对象是怎么构造出来的呢?我们使用$(document)类似的写法获取元素,就好像直接调用了普通的方法一样,jQuery就是普通的函数吗?如果是构造函数为什么不是 new $(document)的常

浅谈站内分析中不可或缺的一环:IIS日志分析

对于每一个优化人员来说都需要具备一定的分析能力,分析用户的搜索行为.分析站点的数据流量等等.只有合理的分析好这一些数据才可以更好的制定我们的优化策略.其中在我们的站内分析中不可缺少的一项就是分析搜索引擎蜘蛛的抓取爬行行为.搜索引擎蜘蛛是我们肉眼所不能看到的,我们要如何分析它的爬行行为呢?我们可以通过分析我们站点的IIS日志. 一:那么从分析IIS日志我们可以从我们的站点上得到什么信息 1:在外链的建设中我们知道网站上的每一个外链都是搜索引擎蜘蛛进入我们网站的入口,对此我们可以观察日志上的蜘蛛的造

浅谈搜索引擎分析关键词的工作原理

搜索引擎的横空出世,让我们更容易使用互联网,十年前的信息爆炸言论现在已经基本停息,这些都归功于搜索引擎,因为信息再多,已经有搜索引擎帮我们分类整理,我们想要的时候只要输入相关的关键词就能够找到相应的信息,就不会再存在那种信息爆炸式的状态,找一个信息会把一个人折磨的半死!可见搜索引擎的贡献和作用是多么的巨大! 我们平时找信息都是通过输入数据来获得,也就是我们常说的关键词,搜索引擎对于输入的关键词是如何工作的,是直接通过这个词来找,还是要把这些词分开,进行相关的比对再从数据库中找,然后再根据这次词来

浅谈搜索引擎营销与微博营销的前景分析

说起微博,大家第一时间想到的就是新浪微博,说起新浪微博就会说起姚晨,说起姚晨就会说起微博营销.众所周知,新浪微博09年下半年正式上线,姚晨是最早进驻新浪微博的明星之一.在新浪微博上,姚晨走的是亲民路线,再加上姚晨的微博内容偏文艺范儿,因此姚晨借助微博火了起来,水到渠成的成为"微博女王".粉丝数高达两千多万,也就是说姚晨发布的一条微博比得上一家上星卫视.因此,很多人想到了这里面强大的广告市场. 一时间形成了"微博热"现象,说到微博很多人对它推崇之至.微博传播速度特别快

浅谈产品竞争分析的方法

在企业中竞品分析工作大多数产品经理实际工作中很少去做,要么由市场和运营人员代劳,也或者产品部门配备市场研究相关岗位定期来做.而近来部门同事实行每月对现有产品进行竞品分析,参与一部分工作.对于既不是专才和通才的产品经理来说也是一种全新历练和学习.竞品分析结果只能作为一种参考依据(由于信息挖掘渠道和关注点都相对带有主观性,比较危险的是有些产品经理会特意朝预期潜意识心里判断来收集数据),通常服务于领导及产品管理层对产品信息动态能够有意识的去关注及时调整相关目标: 为什么要做竞品分析? 1.  为企业制

互联网公司运营:浅谈产品竞争分析的方法

中介交易 SEO诊断 淘宝客 云主机 技术大厅 在企业中竞品分析工作大多数产品经理实际工作中很少去做,要么由市场和运营人员代劳,也或者产品部门配备市场研究相关岗位定期来做.而近来部门同事实行每月对现有产品进行竞品分析,参与一部分工作.对于既不是专才和通才的产品经理来说也是一种全新历练和学习.竞品分析结果只能作为一种参考依据(由于信息挖掘渠道和关注点都相对带有主观性,比较危险的是有些产品经理会特意朝预期潜意识心里判断来收集数据),通常服务于领导及产品管理层对产品信息动态能够有意识的去关注及时调整相