相信多其有所了解的人都明白搜索引擎的变化无常，无法真正认识搜索工作原理，但是无论搜索引擎怎样变化，大概的收录原理是不会变的：

1、找到网站的URL并下载页面。

2、判断页面质量是否达到收录标准收录页面，否则删除。

3、判断收录页面是否更新，更新页面快照。

而且搜索引擎可以分为基本的五大部分，既抓取网页系统，数据分析系统，存储数据系统，缓存系统，展示系统。

1、抓取网页系统：分为探测系统和下载系统，探测系统就是我们平常说的蜘蛛，蜘蛛在互联网上爬行时探测到一个网站的URL，就会把URL所指向的页面利用下载系统，下载到搜索引擎的服务器上，然后将页面交给数据分析系统。

2、数据分析系统：分为数据分析和数据处理两个系统，当数据分析系统从抓取网页系统那获取到被下载的页面，首先进行数据分析去除不相关的文字或网站重复内容，进行页面文字的处理，然后对处理过后的页面内容进行判断，是否达到收录标准，达到交给存储系统，没有达到删除。

3、存储数据系统：将收录的页面进行保存，然后定时进行判断存储的页面是否有更新。

4、缓存系统：存储搜索引擎认为高价值的内容，当用户搜索某个关键词时经常看到收录量有几千万，但是搜索引擎显示的只有1000条，这也就是说只有1000条被放在了缓存系统上，用户可以最快速的查找到他们想要的内容。

5、展示系统：用户搜索返回到显示器上的信息。

蜘蛛在整个互联网上爬行遇见你网站的一个URL，首先把URL提取出来根据网站权重和相关性插入到URL队列中，然后是判断你网站的这条URL是否能够解析成功，如果能解析成功，蜘蛛会爬到你网站，这里需要说一下，蜘蛛并不是直接去分析你网页的内容，而是去寻找你网站robots文件，根据你网站的robots规则判断是否抓取你这个页面，如果robots文件不存在，则会返回一个404错误，但是搜索引擎已经会继续抓取你的网站内容。

所以只要我们能够很好的明白它的工作原理，我们就能够比较轻松地进行网站优化。