搜索引擎蜘蛛，是搜索引擎自己研发的一个搜索引擎抓取程序。它主要抓取互联网上的上的网页、图片、视频等内容，方便搜索引擎对这些内容进行索引， 然后用户就可以在搜索引擎里搜索他们想要的内容，出现他们需要的结果。由于抓取程序的在互联网上不停地爬，就好比蜘蛛在他的网上爬取一样，所以大家给“搜索引擎抓取程序”取名叫蜘蛛。
爬虫---每天随时到我们网站来爬行，爬内容。文本内容如果蜘蛛在爬行的时候发现我们的网站还不错，把我们的内容收录百度数据库索引。
所以的页面都会爬行，主页，列表页，内容页。
前提条件是网站首页必须要被收录才行。
