§ ITPOW >> 文档 >> SEO

开启 GZip 加速会影响百度蜘蛛抓取效果

作者: 来源: 日期:2009-2-19

谨慎开启 GZip 加速,可能影响百度蜘蛛抓取

GZip 是“GNU Zip”的缩写,是由 Jean-loup Gailly 开发的压缩方式。“GZip 加速”就是在页面由服务器传送向客户端之前先用 GZip 压缩,然后到客户端再进行解压操作,由于传输数据量大大减小,下载速度当然有所提高。不过目前宽带已经普及,这种技术并不会带来明显的速度提升。

由于该项功能需要在客户端进行解压缩,所以就需要搜索引擎蜘蛛可以正确的解压缩才能分析网页中的内容,如果解压缩失败,那就会导致搜索引擎蜘蛛抓取失败,对此 GZip 的问题我进行了一次试验。

这次我的试验用了 6 个网站,网站都是保持每日更新,虽然不是原创,但是都是人工选择性复制,并且进行标题修改。其中有 3 个是我自己的,都放在了门户通的服务器上(开启了 GZip),一个是客户的,放在他自己的服务器中(开启了 GZip),还有两个也是客户的,放在购买的虚拟主机中(没开启 GZip),经过两个多月的收录分析,开始收录都正常,每周都保持增长,但在上周三大更新,开启了 GZip 的 4 个站点,百度收录都降低了 60% 左右,没开启 GZip 的两个站点收录大幅增长,这个周三大更新,开启了 GZip 的 4 个站点,其中一个收录只剩下了主页,其余三个收录减少大约 30 页左右,没有开启 GZip 的两个站点收录依旧大幅增长;这 6 个站点谷歌收录都非常正常,没有出现任何大波动,都平稳的提高收录。

基于此次试验,初步的验证结果是谷歌可以完美的支持 GZip 压缩,百度支持的并不太好。我估计可能是因为有的服务器压缩率过大可能导致蜘蛛的识别失败,所以导致了服务器日志中大量的出现 200 0 64 记录,以前我们对于 200 0 64 问题讨论过很久,都没有一个最终的结论,现在看来因为 Gzip 引起的可能性很大。

目前我已经将放在门户通的网站转移到了没有开启 GZip 的服务器中,我会持续保持观察,看看转以后的收录情况是否会有好转。

监测下服务器是否开启了 GZip 的方法是随便选择该服务器中的一个网站用“GZip 检测工具”检查下即可知道结果。

如果你的站也出现了收录大幅下滑的症状,建议你去检测下,看看是不是也开启了 GZip 压缩功能。

相关文章