|主页 > 香港公司网站SEO > SEO行业相关咨询 >

百度蜘蛛是什么?

百度蜘蛛是什么?下面来简介百度蜘蛛——“Baiduspider :

百度是如何能收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做百度蜘蛛——Baiduspider。

百度蜘蛛是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,然后返回到百度的网页暂存数据库。

百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:

Baiduspider产品名称  对应user-agent
网页搜索        Baiduspider
无线搜索        Baiduspider-mobile
图片搜索        Baiduspider-image
视频搜索        Baiduspider-video
新闻搜索        Baiduspider-news
百度搜藏        Baiduspider-favo
百度联盟        Baiduspider-cpro

不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。

现在知道了百度蜘蛛是什么,那么,其它各大搜索引擎的蜘蛛是什么?