百度蜘蛛抓取耗时长解决方法
百度蜘蛛为什么有的抓取耗时长,有的耗时短,这些抓取耗时数据又代表了什么呢?
那么我们先来了解什么是百度蜘蛛抓取频次和抓取耗时:
1、抓取时间数据:
展示百度spider每次抓取网站的耗时,根据该数据站长可以了解spider抓取网站的时长,抓取耗时越短代表网站在访问速度方面的用户体验越好。
注意:抓取耗时数据的更新频次与抓取频次有关,抓取频次较高的站点数据更新相对较快。
2、抓取状态统计数据:
四类抓取状态码统计:第一类:重定向(301, 302等);第二类、未找到(404);第三类、服务器无响应(501,502等);第四类:服务器连接超时。有助于站长更好的了解网站在spider中的抓取状态,更好的管理网站。
注意:这里统计的是Baiduspider每次抓取行为的状态,与网站中该状态页面实际数量不能等同看待。
3、抓取频次工具的响应速度:
使用抓取频次工具调整抓取次数之后的生效时间。
Baiduspider抓取耗时非常长一般凸显以下这几点:
1、快照时常不更新
2、网站收录少
3、网站关键词排名低
4、而造成这种抓取耗时的原因,分为以下几种:
5、网站是新站,这类情况的话,抓取耗时长是正常的,有些新站一个月才被百度收录。
6、蜘蛛爬过站点,但是没有抓取带走站点数据,页面。这类情况,可以查看网站日志根据蜘蛛反馈的状态码查询原由。
7、站点充斥了太多富媒体文件,而且网站信息原创度不高,这类会导致蜘蛛对站点失去兴趣,从而不在抓取站点。
解决方法:
1、提高站点原创度,网站更新频率稳定。
2、主关键词,副关键词分布合理。切勿堆砌关键词
3、查看网站日志,根据所反馈状态码,作出相应的解决方法。
百度蜘蛛反馈码一般分为以下几种:
1、200 0 0 成功访问该页面,0代表抓取成功并带回数据库。这个时候你就放心了,这个页面已经被bd收录,但是还没有释放出来,bd更新时就可能释放出来。
2、200 0 64 访问了该页面,但并没有任何抓取也没有带回数据库。这种原因多为空间不稳定、服务器不稳定。
3、304 0 0这个返回码代表蜘蛛访问的页面没有更新,和他之前来的时候是一样的,所以看到这个不要担心,蜘蛛来过,只不过你没有更新,所以他也不愿意带走这个页面。
4、404 0 0这个是代表404页面,但是有个很严重的问题,这个返回码告诉我们,蜘蛛来到了404页面并把他带走了。
(资源库 www.zyku.net)
您可能感兴趣的文章
- 01-13dedecms中tags标签页伪静态化修改技巧
- 12-27华为nova9重置应用锁密码教程分享
- 10-242021淘宝天猫京东双11时间及满减规则
- 10-19Microsoft SQL Server 2014数据库64位
- 11-12支付宝蚂蚁森林怎么拯救能量雨
- 09-15七牛云存储清理静态页面缓存的方法
- 03-17swiper4和swiper3手动滑动之后不自动
- 02-17Asp.net 中mvc 实现超时弹窗后跳转功
- 02-20CentOS7修改设置静态IP和DNS
- 09-20支付宝上行程记录查询方法介绍
- 12-27华为手机输入法在哪开启云输入
- 12-31创豆连线编程-创豆连线编程应用软件功
- 09-24OPPOK9Pro怎么还原出厂设置
- 06-18帝国CMS7.5版多访问端升级:支持在主端
- 12-10iphone se2如何开启指纹密码锁屏
- 06-25又拍云
- 12-13iqoo8怎么设置勿扰功能
- 06-18帝国CMS7.5版采用全新的日期时间和颜
- 02-22Linux下DedeCMS安全设置的详细教程
- 12-22HTML <embed> 标签

最近更新
阅读排行
猜你喜欢
- 02-28WordPress获取当前日志的所有附件的方
- 09-24华为nova9Pro怎么提升游戏体验
- 12-25超凡学车-超凡学车应用软件功能介绍
- 01-13dedecms当前位置导航去掉链接的实现方
- 07-14FTP与SFTP的区别 知多少
- 09-14小米平板5pro如何关闭桌面搜索
- 09-19三星buds2怎样设置主动降噪
- 06-25PHP把字符串数字转换为整数数字
- 02-23DedeCMS每个tag标签显示相应的文章数
- 03-15企业微信查看群聊id的方法