搜索引擎收录原理
搜索引擎收录页面实际上就是在互联网上进行数据采集,这是搜索引擎最基础的工作。搜索引擎的数据采集能力直接决定搜索引擎可提供的信息量及对互联网覆盖的范围,从而决定搜索引擎的质量。因此,搜索引擎总是想方设计地提高其数据采集能力。(北京网站制作)1.页面收录流程
在互联网中,URL是每个页面的入口地址,搜索引擎蜘蛛程序就是通过URL抓取到页面的。搜索引擎蜘蛛程序从URL列表出发,通过URL抓取并存储页面;同时,提取原始页面中的URL资源并加入到URL列表中。如此不断地循环,就可以从互联网中获取足够多的页面。
URL是页面的入口,而域名则是网站的入口。搜索引擎蜘蛛程序通过域名进入网站,从而展开对网站页面的抓取。换而言之,搜索引擎要在互联网上抓取到页面的首要任务就是建立一个足够大的域名列表,再通过域名进入相应的网站,从而抓取网站中的页面。
而对于网站来说,如果想要被搜索引擎收录,首要条件就是加入搜索引擎的域名列表。下面向读者介绍两种常用的加入搜索引擎域名列表的方法。
第一,利用搜索引擎提供的网站登录入口,向搜索引擎提交网站域名,例如Google的网站登录地址是//www.google.com/intl/zh-CN/add_url.html,可在此提交自己的网站域名。对于提交的域名列表,搜索引擎只会定期进行更新。因此,这种做法比较被动,从域名提交到网站被收录花费的时间也比较长。
第二,通过与外部网站建立链接关系,使搜索引擎可以通过外部网站发现我们的网站,从而实现对网站的收录。这种做法的主动权掌握在我们自己的手里(只要我们拥有足够多高质量的链接即可),县域收录速度也比向搜索引擎主动提交要快得多。根据外部链接的数量、质量及相关性,一般情况下,2-7天左右就会被搜索引擎收录。
2.页面收录原理
通过上面的介绍,相信读者已经掌握了网站被搜索引擎收录的方法。然而,怎样才能提高网站中页面被收录的数量呢?要回答这个问题,就要先了解搜索引擎收录页面的工作原理。
如果把网站页面组成的集合看作是一个有向图,从指定的页面出发,沿着页面中的链接,按照某种特定的策略对网站中的页面进行遍历。不停地从URL列表中移出已经访问过的URL,并存储原始页面,同时提取原始页面中的URL信息;再将URL分为域名及部URL两大类,同时判断资源为止。经过这些工作,搜索引擎就可以建立庞大的域名列表、页面URL列表并存储足够多的原始页面。
3.页面收录方式
上面已经介绍了搜索引擎收录页面的流程及原理。然而,在互联网数以亿计的页面中,搜索引擎怎样才能从中抓取到相对重要的页面呢?这就是涉及搜索引擎的页面收录方式。
页面收录方式是指搜索引擎抓取页面时所使用的策略,是为了能在互联网中筛选出相对重要的信息。页面收录方式的制定取决于搜索引擎对网站结构的理解。如果使用相册的抓取策略,搜索引擎在同样的时间内可以在某一网站中抓取到更多的页面资源,则会在该网站上停留更长的时间,收录的页面数自然也就更多。因此,加深对搜索引擎页面收录方式的认识,有利于为网站建立友好的结构,提高页面被收录的数量。
>>广度优先
如果把整个网站看作是一棵树,首页就是根,每个页面就是叶子。广度优先是一种横向的页面抓取方式,先从树的较浅层开始抓取页面,直至抓取完同层次的所有页面后才进入下一层。因此,在对网站进行优化时,我们应该把网站中相对重要的信息展示在层次较浅的页面上(例如,在首页上推荐一些热门产品或者内容)。反过来,通过广度优先的抓取方式,搜索引擎就可以优先抓取到网站中相对重要的页面。(高端网站建设)
首先,搜索引擎从网站首页出发,抓取首页上所有链接指向的页面,形成页面集合A,并解析出集合A中所有页面的链接;再跟踪这些链接抓取下一层的页面,形成页面集合B;就这样递归地从线层页面中解析出链接,从而抓取深层页面,直至满足了某个设定的条件才停止抓取进程。
>>深度优先
与广度优先的抓取方式相反,深度优先首先跟踪线层页面中的某一链接逐步抓取深层页面,直至抓取完最深层的页面后才返回浅层页面再跟踪其另一链接,继续向深层页面抓取,这是一种页面,这样就能满足更多用户的需求。