搜索引擎新站收录速度比较
最近做了三个站,都有大量的数据,根据三个站的搜索引擎收录情况,比较了一下几大搜索引擎的收录速度。当然,网站做好之后,首先要主动去各大搜索引擎提交,我都是晚上十一点左右提交的。
google 蜘蛛:
提交后约 20 - 40 分钟,过来了,抓取了一个 robots.txt,走了。大概十个小时后,又来了一次,三个网站均是这样。第二天晚上,开始爬页面了。难道前两次是试探下网站稳定不稳定,是不是忽悠 它的?基本上,第三天早上,就能搜索到了,而且不是一个首页,一般都有好几十个页面,最多的一个站点,一次性收录了 1000 多条。
百度蜘蛛:
来得非常快,网址提交后,三个站,都是不到十分钟就过来了。而且一过来,就开始不停的爬取。第二天早上,放出了一个首页。第三天,放出了不到十个页面,三个站不等。然后就是漫长的等待,有一个站大概等了一个月,才放出来一千条。
搜狗蜘蛛:
速度也不错,提交后 20 分钟内就过来了,而且爬的频率很高,但收录的速度很慢,几乎要到三、四天后,才会慢慢放出来,一旦放出来了,速度就快了。三个站,都有几万条了。
腾讯搜搜蜘蛛:
相当的勤劳,反应迅速。提交后 10 多分钟,就过来了,更要命的是,一小时后,首页收录了。然后就是不停的爬取,其中一个站,在提交后的第二天,收录 1 万多条。而且搜搜对于新站,一天更新 n 次,仿佛是边抓取,边放出来。但三个站对比了一下,搜搜的技术含量不高,或者是故意这么做的:1、对于 301 重定向,它收录的重定向后的页面内容,但显示原页面地址;2、竟然能直接把 html 代码当做描述;3、搜搜的收录时间完全不靠谱,我的一个站点,它刚收录,显示收录时间 2009 年,那个时候,域名都没注册呢;4、对于结构复杂的网站,有点迷茫。第四点,体会很深,三个网站其实数据差不多是相同的,其中两个结构复杂一点,它爬来爬 去,只收录了五六千条,其中一个非常简单,一个列表,一个内容页,搜搜一下子就收录了近两万。
有道蜘蛛:
别提了,这家伙好像很牛,我去提交,它显示说,你提交的网址已在库中,未能提交成功。大意是这个,就是不见它来访问。
bing 蜘蛛:
来得倒挺快,但好像对中文内容不敏感,爬了个首页和几个链接就走了,有时候隔几天才来一次,收录也少。
yahoo 蜘蛛:
彻底别提了,非常懒。
相对于收录,从搜索引擎过来的流量,这几个站,google 最高,百度和搜狗相当,搜搜次之,其它几个不用提。百度因为收录量不多,所以过来也不多。搜狗的流量过来不少,还是比较意外的,一直以为根本没人用搜狗。 另外淘宝的 etao 搜索过来也不少,不过据说是和搜狗合作的。