自动秒收录

教你查看日志中蜘蛛的访问行为


文章编号:2477 / 分类:技术教程 / 更新时间:2023-12-11 10:25:29 / 浏览:

网站日志,是服务器端自动生成的一个文本记录,详细记载了网站的访问详情,做为站长的你,如果是需要查看访问统计数据,那用51.la或者百度统计工具就可以了,但是如果你想查看各搜索引擎的蜘蛛是否准时来爬行自己的网站,那就要学会自己查看网站日志文件了。结合我们自己的网站做为一个实例来做一个介绍:

教你查看日志中蜘蛛的访问行为

进入日志文件夹,你会发现,日志文件是按每一天的访问情况为一个文件保存的:

好吧,我的服务器只保留最近三天的日志文件,真小气,我还用过一个国外的服务器,人家是按月记录,并且当月结束后会将当月的日志打包供下载,只要你不人为删除,该日志文件会永远存在,这才叫个性化,但是没办法,谁叫我们只能用国内的服务器。

OK,报怨了几句,随便下载一天的日志文件,用Windows文本工具打开该日志文件,会看到一堆酷似代码的字符,祝文件大小打开速度也不同:

注意看有背景的这一小部分,我用CTRLF搜索功能查找baiduspider,好吧,为什么要查找baiduspider,

这里先普及一下关于的一点小知识,各大搜索引擎的蜘蛛都有名字:

因为国内主要是以百度为优化对象,我们来看看关于百度蜘蛛爬行记录的信息分析,在日志记录中随便找一个百度蜘蛛的信息:

怎么解读这些信息呢?蜘蛛IP--【访问时间】“获取路径”http反馈值200反馈字节数34656标记。

好吧,这里面获取路径与HTTP反馈值是非常重要的信息,200为正常读取,读取了5374个字节。我们再分析一条记录:

认真看获取路径这一项,因为我的网站是老域名,原来的主人被收录的路径/product/disp.php?id=93,百度蜘蛛同样爬行,结果我的新网站里肯定不会有这一条信息,由于HTTP反馈了301,而301代表已移动—请求的数据具有新的位置且更改是永久的。其实这对于我来说是一件好事,蜘蛛爬行不通,知道这条收录记录已经失效,慢慢就会从百度的收录数据库中删除。现在百度正在审核我的新站点,一天爬行只有23次,也很不错了的。

好了,大家是不是可以举一反三的学会看其它搜索引擎蜘蛛的爬行记录了呢?下次,笔者将重点再分享一下HTTP的反馈值,大家通过这个反馈值可以获悉自己网站的健康状态哦,非常重要。

当然,有朋友会说为什么不利用一些日志查看工具,人工手动察看费时费力,是的,有些不错的工具可以提供更便捷的操作,今天笔者所述内容旨在用最初级的方法教会大家学会察看自己网站的日志。希望以上内容能对你有点帮助。


相关标签: 搜索引擎网站日志baiduspider蜘蛛蜘蛛技巧超级蜘蛛查

本文地址:https://www.badfl.com/article/2746e0d10bc2ef42a0b5.html

上一篇:从搜索引擎抓取频次看网站正常与否...
下一篇:怎么做到七天上首页的...

发表评论

温馨提示

做上本站友情链接,在您站上点击一次,即可自动收录并自动排在本站第一位!
<a href="https://www.badfl.com/" target="_blank">自动秒收录</a>