查看: 918|回复: 2

Baiduspider – 百度蜘蛛

650 主题	0 好友	3575 积分

QQ游客

TA的每日心情

	奋斗 2014-6-1 22:10

签到天数: 8 天

连续签到: 1 天

[LV.3]偶尔看看II

发消息

电梯直达

楼主

发表于 2012-12-13 22:31:22 |只看该作者 |倒序浏览

百度是如何收录到那么多网页的呢？这个百度用以抓取互联网上数以亿计的网页的程序，就叫做Baiduspider - 百度蜘蛛。
它是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。
百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：
产品名称                对应user-agent
网页搜索             Baiduspider
无线搜索             Baiduspider-mobile
图片搜索             Baiduspider-image
视频搜索             Baiduspider-video
新闻搜索             Baiduspider-news
百度搜藏             Baiduspider-favo
百度联盟             Baiduspider-cpro
不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro，现在我们明白它是百度联盟蜘蛛，用以百度联盟程序匹配相应的广告。
那么，其他搜索引擎的蜘蛛是什么？这篇文章介绍：Robot是什么？