浅谈网站地图链接放在robots.txt文件里的用处

  把网站地图链接放在robots.txt文件里,好处就是站长不用到每个搜索引擎的站长工具或者相似的站长部分去提交自己的sitemap文件。这样的方法可以帮助站长减轻工作。

  各大搜索引擎都发布了对网站地图的新的支持方式,就是在robots.txt文件里直接包括sitemap文件的链接。目前对此表示支持的搜索引擎公司有Google, Yahoo,而中文搜索引擎公司,显然不在这个圈子内。

  这样做的好处就是,站长不用到每个搜索引擎的站长工具或者相似的站长部分,去提交自己的sitemap文件,搜索引擎的蜘蛛自己就会抓取robots.txt文件,读取其中的sitemap路径,接着抓取其中相链接的网页。

  这里基于一个假设,robots.txt已然是一个标准,所有的网站至少都有一个,而sitemap还正在建立标准中,这样的做法,可以让站长减轻工作,而且如果他们不需要更为详细的索引和搜索的资料的话,那么就只需要包括sitemap到robots.txt就可以了。

  让我们现在就开始动手,修改robots.txt文件。

## robots.txt for xxx.com# Version 2009.04.04#User-agent: *Disallow: /function/Disallow: /FCKeditor/Disallow: /CACHE/Disallow: /SCRIPT/Disallow: /ADMIN/Disallow: /wap.aspDisallow: /cmd.aspSitemap: http://www.xxx.com/sitemap.xml

  作者:爱游戏网 http://www.iyx.cc 如有转载,请务必保留作者链接及本声明!谢谢合作!

时间: 2024-10-31 09:26:39

浅谈网站地图链接放在robots.txt文件里的用处的相关文章

点水:浅谈网站内部链接的重要性

很早以前李是带着他的超链分析专利回国创立了百度搜索,所以外部链接的重要性当然是不言而喻的了,网站外部链接建设的策略点水在之前一篇文章里面把自已的理解做了详述.那么网站的内部链接呢?如何去建设网站的内部链接? 取象于钱,做人的道理是外圆内方,那么做网站呢?点水认为皆同此理,外与内看似相对相克,却又相生相存,而构成整体.一个网站的外部链接固然重要,但却也必需有网站内部策略的支撑,需做到外柔内刚,才能活得更长久! 如果说网页的一个外部链接相当于其它网站给你投了一票,那么一个内部链接就相当于你自已给自已

浅谈网站外部链接优化策略

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 什么是外部链接? 外部链接是指通过互联网上的其他网页或者网站首页给与我们网站指向的锚文字链接. 外部链接给网站带来的好处 网络久传的一句至理名言让许多站长知道了外部链接对于网站的重要性"外链为皇",尽管外部链接不是我们优化网站的全部,但是它却在网站排名因素总起着至关重要的作用,外部链接分为锚文本链接和直接网址链接,锚文本链

浅谈网站内部链接的优化

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 与外部链接(即反向链接)相反,内部链接是指同一网站域名下的内容页面之间互相链接.如频道.栏目.终极内容页之间的链接,乃至站内关键词之间的Tag链接都可以归类为内部链接,因此内部链接我们也可以称之为站内链接,对内部链接的优化其实就是对网站的站内链接的优化.内部链接使得一个网站内部相互链接,而不是孤岛.好的内链除了有利于搜索引擎收录外,还可以增加

浅谈Robots.txt 文件给网站带来的好处

作为一名网站优化人员,我们都很清楚Robots.txt文件对我们网站的重要性,Robots.txt文件只是一个纯文本文件,它就像网站地图一样,给搜索引擎指明道路,当蜘蛛搜索一个站点时,它首先爬行来检查该网站的根目录下是否存在Robots.txt文件,如果存在的话,搜索引擎会按照该文件的内容来确定访问范围,如果该文件不存在的话,那么搜索引擎就会沿着链接来抓取.那么程序员在设置Robots.txt文件时候应该了解到这个文件给我们网站带来了哪些好处? 第一, Robots.txt文件大大节省服务器宽带

菜鸟SEOer浅谈robots.txt文件

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 做SEO应该知道,robots.txt文件是一个网站必不可少的文件,但小马看到在很多中小企业的网站上还是没有这个文件,今天我们便来研究一下robots.txt文件的重要性. 一:从搜索引擎角度 当我们网站上有一些文件不想被搜索引擎蜘蛛抓取时,我们需要写个robots.txt文件,以此来告诉蜘蛛,这些文件不能被抓取,但是有的企业认为自己网站上没

浅谈网站优化robots.txt文件的写法

robots.txt文件,相比朋友们都或多或少的听说过,也可能自己已经写过了.其实到目前为止我本人还没写过robots.txt文件,不是不会写,只是感觉博客中没什么内容需要阻止蜘蛛抓取的.而且想必大家也知道一个个人独立博客中出现死链接的概率应该是非常小的,不需要过多的进行死链接处理所以我感觉没什么必要.但是robots.txt文件写法作为个人站长的必须掌握的技能之一,其用处还是很广泛的.这里就详细介绍下,也算是自己温习温习. 什么是robots.txt文件 我们从这个文件名来看,它是.txt后缀

浅谈网站robots的写法

站长的工作是设计精美的网站,为大众展现网站丰富多彩的内容.当然,我们也希望精心设计的网站获得理想的排名,这就要求我们去研究搜索引擎排名规律,最大程度的获得机会展现给客户.然而,搜索引擎种类很多,有时候,我们对某一种搜索引擎的排名很好,却在另外的搜索引擎上面获得不到一样的排名,原因是各个搜索引擎规则不一样.为此,有人复制出相同的内容以应付不同搜索引擎的排名规则.然而,一旦搜索引擎发现站内有大量"克隆"的页面,就会给以惩罚,不收录这些重复的页面.另一方面,我们网站的内容属于个人私密文件,不

浅谈网站首页新闻、top处、foot处对seo的作用

大家好,我是哈尔滨虚实网站网站设计,最近一直在忙着弄服务器和业务的一些事情,很少写点什么了,今天没什么事情写一篇关于首页当中一些细节的处理,希望对大家有所帮助,其实做seo最关键的就是网站细节的处理,细节处理的好坏,直接影响网站的排名,还有如后排名的稳定,前几天写了<浅谈网站首页中公司简介对seo的作用>,这个博文主要就是介绍首页中公司简介对seo的作用,之后很多人问我关于优化的处理,其实seo在首页的处理非常的关键,就是那么几个地方,今天把其他的几个地方都拿出来和大家分享下,希望对新手有所帮

浅谈网站内部优化

酝酿了很久今天小c就按个人经验说说站内优化的一些建议.大家都知道内容为王外链为皇的道理,何为内容为王,原创?当然,内容为王的真正含义版本不一,原创是基础这个是无可厚非的,下面小c谈谈如何做好站内优化吧. 1.合理的url路径的设计 为什么我要把它放在第一位来说呢,因为小c觉得它是最重要的.浏览网站需要什么,路径对吧,合理的url设计不仅美观更加方便搜索引擎的收录,大大 提高搜索引擎的友好度.如果一开始url设计不合理,不仅影响搜索引擎对网站的不友好,对今后的优化工作会有非常大的影响,所有把url