搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

昨天的文章《全球化的误区,本地化的机会》 ,评论里,有人说,搜索引擎技术似乎不需要本地化,这一看就是彻底不懂这个领域的人讲的。当然,实话说,如果有人说,google在中文本地化方面做得非常好,我是可以部分同意的,同意的比例可能会比google工程师少一些。但我相信google工程师也会告诉你,搜索引擎是需要本地化的。

今天写篇科普文,讲讲搜索引擎的技术机理和市场竞争的一些特点。当然,作为从事或有兴趣从事流量运营的朋友,是可以用另一个角度去理解本文。

搜索引擎的核心技术架构,大体包括以下三块,第一,是蜘蛛/爬虫技术;第二,是索引技术;第三是查询展现的技术; 当然,我不是搜索引擎的架构师,我只能用比较粗浅的方式来做一个结构的切分。

搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

1、 蜘蛛,也叫爬虫,是将互联网的信息,抓取并存储的一种技术实现。

搜索引擎的信息收录,很多不明所以的人会有很多误解,以为是付费收录,或者有什么其他特殊的提交技巧,其实并不是,搜索引擎通过互联网一些公开知名的网站,抓取内容,并分析其中的链接,然后有选择的抓取链接里的内容,然后再分析其中的链接,以此类推,通过有限的入口,基于彼此链接,形成强大的信息抓取能力。

有些搜索引擎本身也有链接提交入口,但基本上,不是主要的收录入口,不过作为创业者,建议了解一下相关信息,百度,google都有站长平台和管理后台,这里很多内容是需要非常非常认真的对待的。

反过来说,在这样的原理下,一个网站,只有被其他网站所链接,才有机会被搜索引擎抓取。如果这个网站没有外部链接,或者外部链接在搜索引擎中被认为是垃圾或无效链接,那么搜索引擎可能就不抓取他的页面。

分析和判断搜索引擎是否抓取了你的页面,或者什么时候抓取你的页面,只能通过服务器上的访问日志来查询,如果是cdn就比较麻烦。 而基于网站嵌入代码的方式,不论是cnzz,百度统计,还是google analytics,都无法获得蜘蛛抓取的信息,因为这些信息不会触发这些代码的执行。

一个比较推荐的日志分析软件是awstats。

在十多年前,分析百度蜘蛛抓取轨迹和更新策略,是很多草根站长每日必做的功课,比如现在身价几十亿的知名80后上市公司董事长,当年在某站长论坛就是以此准确的分析判断而封神,很年轻的时候就已经是站长圈的一代偶像。

但关于蜘蛛的话题,并不只基于链接抓取这么简单,延伸来说

第一,网站拥有者可以选择是否允许蜘蛛抓取,有一个robots.txt的文件是来控制这个的。

一个经典案例是 https://www.taobao.com/robots.txt
你会看到,淘宝至今仍有关键目录不对百度蜘蛛开放,但对google开放。

另一个经典案例是 http://www.baidu.com/robots.txt
你看出什么了?你可能什么都没看出来,我提醒一句,百度实质上全面禁止了360的蜘蛛抓取。

但这个协议只是约定俗成,实际上并没有强制约束力,所以,你们猜猜,360遵守了百度的蜘蛛抓取禁止么?

第二,最早抓取是基于网站彼此的链接为入口,但实际上,并不能肯定的说,有可能存在其他抓取入口,比如说,
客户端插件或浏览器, 免费网站统计系统的嵌入式代码。
会不会成为蜘蛛抓取的入口,我只能说,有这个可能。

所以我跟很多创业者说,中国做网站,放百度统计,海外做网站,放google analytics,是否会增加搜索引擎对你网站的收录?我只能说猜测,有这个可能。

第三,无法被抓取的信息

有些网站的内容链接,用一些javascript特殊效果完成,比如浮动的菜单等等,这种连接,有可能搜索引擎的蜘蛛程序不识别,当然,我只是说有可能,现在搜索引擎比以前聪明,十多年前很多特效链接是不识别的,现在会好一些。

需要登录,需要注册才能访问的页面,蜘蛛是无法进入的,也就是无法收录。

有些网站会给搜索特殊页面,就是蜘蛛来能看到内容(蜘蛛访问会有特殊的客户端标记,服务端识别和处理并不复杂),人来了要登录才能看,但这样做其实是违反了收录协议(需要人和蜘蛛看到的同样的内容,这是绝大部分搜索引擎的收录协议),有可能遭到搜索引擎处罚。

所以一个社区要想通过搜索引擎带来免费用户,必须让访客能看到内容,哪怕是部分内容。

带很多复杂参数的内容链接url,有可能被蜘蛛当作重复页面,拒绝收录。
很多动态页面是一个脚本程序带参数体现的,但蜘蛛发现同一个脚本有大量参数的网页,有时候会给该网页的价值评估带来困扰,蜘蛛可能会认为这个网页是重复页面,而拒绝收录。还是那句话,随着技术的发展,蜘蛛对动态脚本的参数识别度有了很大进步,现在基本上可以不用考虑这个问题。

但这个催生了一个技术,叫做伪静态化,通过对web服务端做配置,让用户访问的页面,url格式看上去是一个静态页,其实后面是一个正则匹配,实际执行的是一个动态脚本。

很多社区论坛为了追求免费搜索来路,做了伪静态化处理,在十多年前,几乎是草根站长必备技能之一。

爬虫技术暂时说到这里,但是这里强调一下,有外链,不代表搜索蜘蛛会来爬取,搜索蜘蛛爬取了,不代表搜索引擎会收录;搜索引擎收录了,不代表用户可以搜索的到;

site语法是检查一个网站收录数的最基本搜索语法,我开始以为是abc的常识,直到在新加坡做一些创业培训后交流才发现,大部分刚进入这个行业的人,或者有兴趣进入这个行业的人,对此并不了解。

一个范例,百度搜索一下 site:yangfenzi.com

2、索引系统

蜘蛛抓取的是网页的内容,那么要想让用户快速的通过关键词搜索到这个网页,就必须对网页做关键词的索引,从而提升查询效率,简单说就是,把网页的每个关键词提取出来,并针对这些关键词在网页中的出现频率,位置,特殊标记等诸多因素,给予不同的权值标定,然后,存储到索引库中。

搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

那么问题来了,什么是关键词。
英文来说,比如 this is a book,中文,这是一本书。
英文很自然是四个单词,空格是天然的分词符,中文呢?你不能把一句话当作关键词吧(如果把一句话当作关键词,那么你搜索其中部分信息的时候,是无法索引命中的,比如搜索一本书,就搜索不出来了,而这显然是不符合搜索引擎诉求的)。所以要分词。

最开始,最简单的思路是,每个字都切开,这个以前叫字索引,每个字建立索引,并标注位置,如果用户搜索一个关键词,也是把关键词拆成字来搜索再组合结果,但这样问题就来了。

比如搜索关键词 “海鲜”的时候,会出现结果,上海鲜花,这显然不是应该的搜索结果。
比如搜索关键词 “和服”的时候,会出现结果,交换机和服务器。

这些都是蛮荒期的google也不能幸免的问题。

到后来有个梗,别笑,这些都是血泪梗,半夜电话过来,说网监通过搜索发现你社区有淫秽内容要求必须删除,否则就关闭你的网站,夜半惊醒认真排查,百思不得其解,苦苦哀求提供信息线索,最后发现,有人发了一条小广告,“求购二十四口交换机” 。 还有,涉嫌政治敏感,查到最后 “提供三台独立服务器”, 看出其中敏感词了没?你说冤不冤。 这两个故事可能并不是真的,因为都是网上看到的,但是我想说,类似这样的事情真的有,并非都是空穴来风。

所以,分词,是亚洲很多语言需要额外处理的事情,而西方语言不存在的问题。

但分词不是说说那么简单,比如几点,1:如何识别人名?2、互联网新词如何识别?比如 “不明觉厉”。3、中英混排的坑,比如QQ表情。

做一个分词系统,说到底也不难,但是要做一个自动学习,与时俱进,又能高效率灵活的分词引擎,还是很有技术难度的。 当然,这方面我不是专家,不敢妄言了。

现在机器学习技术发达了,特别是google在深度学习领域拥有领先优势,以前很多通过人工做标定,做分类的工作可以交给算法完成,从某种意义来说,本地化的工作可以让机器学习去完成;未来,也许深度学习技术可以自己学习掌握本地化的技巧。 但我想说两点,第一,从搜索引擎发展历史看,在深度学习技术还没成熟的情况下,本地化的工作是非常重要的,也是很重要的决定竞争成败的要素;第二,即便现在深度学习已经很强大,基于当地语言的人工参与,标定,测试,反馈,一些本地化的工作依然对深度学习的效率和效果拥有不可替代的作用。

索引系统除了分词之外,还有一些要点,比如实时索引,因为一次索引库的更新是个大动静,一般网站运营者知道,自己网站内容更新后,需要等索引库下一次更新才能看到效果,而且索引库针对不同权重的网站内容,更新的频次也不太一样。 但诸如一些高优先的资讯网站,以及新闻搜索,索引库是可以做到近似实时索引的,所以我们在新闻搜索里,几分钟前的信息就已经可以搜索到了。

我以前经常吐槽一个事情,我在百度空间发表的文章,每次都是google率先索引收录,当时他们的解释是,猜测是因为很多人通过google阅读器订阅我的博客,而google阅读器很可能是google快速索引的入口。(然并卵,百度空间已经没有了,google阅读器也没有了。)

索引系统的权值体系,是所有SEOER们最关心的问题,他们经常通过不同方式组合策略,观察搜索引擎的收录,排名,来路情况,然后通过对比分析整理出相关的策略,这玩意说出来可以开很长一篇了,但今天就不提了。

但我说一个事实,很多外面的公司,做SEO的,会误认为百度里面的人熟悉这里的门道和规律,很多人高价去挖百度的搜索产品经理和技术工程师去做SEO,结果,呵呵,呵呵。 而外面那些草根创业者,有些善于此道的,真的比百度的人还清楚,搜索权值的影响关系,和更新频次等等,比如前面说到的,身价几十亿的那个80后创业者。

基于结果反推策略,比身在其中却不识全局的参与者,更能找到系统的关键点,有意思不。

3、查询展现

用户在浏览器或者在手机客户端输入一个关键词,或者几个关键词,甚至一句话,这个在服务端,应答程序获取后处理步骤如下

第一步,会检查最近时间有没有人搜索过同样的关键词,如果存在这样的缓存,最快的处理是将这块缓存提供给你,这样查询效率最高,对后端负载压力最低。

第二步,发现这个输入查询最近没有搜索,或者有其他条件的原因必须更新结果,那么会将这个用户输入的词,进行分词,没错,如果不止一个关键词,或者是一句话的情况下,应答程序会又一次分词,将搜索的查询拆成几个不同的关键词。

第三步,将切分后的关键词分发到查询系统中,查询系统会去索引库查询,索引库是个庞大的分布式系统,先分析这个关键词属于哪一块哪一台服务器,索引是一种有序的数据组合,我们用可以用近似二分法的方式思考,不管数据规模多大,你用二分法去查找一个结果,查询频次是log2(N),这个就保证了海量数据下,查询一个关键词是非常快非常快的。 当然,实际情况会比二分法复杂很多,这样说比较容易理解而已,再复杂些不是我不告诉大家,是我自己都不是很清楚呢。

第四步,不同关键词的查询结果(只是按权值排序的部分顶部结果,绝对不是全部结果),基于权值倒序,会再汇总在一起,然后把共同命中的部分反馈回来,并做最后的权值排序。

记住,搜索引擎绝对不会返回所有结果,这个开销谁都受不了,百度也不行,google也不行,翻页都是有限制的。

再记住,如果你多个关键词里有多个不同品类冷门词,搜索引擎有可能会舍弃其中一个冷门词,因为汇总数据很可能不包含共同结果。搜索技术不要神话,这样的范例偶尔会出现。

这是三大部分,多说一点,其实还有第四部分。

用户点击行为采集和反馈部分

基于用户的翻页,点击分布,对搜索结果的优劣做判定,并对权值做调整,但这个早期搜索引擎是没有的,后面才有,所以暂时不列为必备的三大块。

此外,一些对搜索优化的机器学习策略,对易混词识别,同音词识别等等,相当部分也都基于用户行为反馈进行,这是后话,这里不展开。

关于第四部分,我以前说过一个词,点击提权,我说这个词价值千金,我猜很多人并没理解。没理解就好,要不我要被一些同行骂死了。

以上是单指搜索引擎的工作原理,和一些技术逻辑,当然,只是入门级的解读,毕竟再深入就不是我能讲解的了。更多SEO解读:www.yangfenzi.com/tag/seo

搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

但搜索引擎的本地化,并不局限于搜索技术的本地化。

百度的强大,不只是搜索技术,当然有些人会说百度没有搜索技术,这种言论我就不争论了,我不试图改变任何人的观点,我只列一些事实而已。

百度的强大还来自于两大块,第一是内容护城河,第二是入口把控。

前者是百度贴吧,百度mp3,百度知道,百度百科,百度文库
后者是hao123和百度联盟。

这两块都是本地化,google进中国的时候,在这两块都有动作
投资天涯,收购265,以及大力发展google联盟,这些都是本地化。

此外,重申一下,百度全家桶的出现以及,百度全家桶和hao123的捆绑,是360崛起之后的事情,hao123从百度收购到360崛起之前,一直风平浪静的没做任何推广和捆绑,从历史事实而言,请勿将本地化等同于流氓化。

【文/曹政  “caoz 的梦呓”(微信号:caozsay)】

 

————————————— 氧分子网延伸阅读 —————————————

《全球化的误区,本地化的机会》

最近我老婆去台湾,我在网上帮她订一些便宜的旅游资源,意外发现,groupon台湾已经关闭了,而现在台湾最大的团购平台,叫做gomaji。

联想到最近很多有意思的案例,比如,新加坡最大的电商平台,是本地的qoo10,而不是amazon, ebay,甚至不是lazada; 东南亚最大的打车软件,是grabtaxi,而不是uber。 越南最大的即时通讯,是zalo; 更不用说日本的line牢牢把持本地市场地位。

虽然说google 和facebook依然牢牢把持着世界各国互联网(除了少数几个国家)之外的优势地位,但是如果我们认真的去看看一些排行数据和一些市场行为,必须承认一个现象,美国互联网巨头已经不是包打天下,可以在任何市场轻易的获得领先地位了。

我以前说过这个概念,但今天又要重复一下。

我们以前有个思维误区,认为美国的互联网巨头,天然是面向全球化研发,面向全球化拓展;天然认为好的产品,是可以全球化的。

其实,真相是什么呢?

1、互联网从美国开始,美国的先发优势太大,他们已经做得非常成熟非常发达的时候,各国各地的本地互联网才开始萌芽,人才匮乏,资金匮乏,所以,无法构成竞争。

2、大部分国家和地区,都缺乏足够的互联网研发人才,特别是一些有一定技术含量的互联网产品,比如搜索引擎,比如大型社交网络和通讯软件,比如有一定复杂程度和规模的电商平台等。在缺乏本地人才的前提下,很多本地需求被压制,他们选择美国互联网巨头的产品,不是因为这些产品对他们最合适,而是因为他们没有其他选择。

3、由于很多国家和地区的市场空间小,市场容量有限,所以同等研发成本下,满足主要市场的需求肯定是效率最优的选择。在这种情况下,很多小国家,小地区的市场需求根本不会得到互联网巨头任何重视。

以上,是互联网巨头,在早期,横扫各个国家和地区的真正原因。根本不是因为他们产品符合大部分国家,而是大部分国家根本没有选择。(所谓互联网中国特色的真相,是因为中国具有自己的研发能力,能够满足自己的诉求,所以才有自己不同的选择) 所以,这也是我一直强调的,即便没有墙,西方巨头在中国一样没有太大机会,当然,我对墙的憎恶态度是一贯的。

但最近这些年,新的变化产生了。

搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

1、移动互联网,美国先发优势没有那么大。很简单一个对比,中国移动互联网其实起步还是比美国晚一点,但现在在很多应用场景的普及率和先进性上,已经可以说胜过美国。

2、互联网研发技术的成熟度较高,各种公开技术方案都比较成型,一些小地区,小市场的研发差距和美国没有以前那么大,更何况小地区,小市场的研发复杂度也没有美国,中国那么高。

3、当大市场的竞争残酷化,白热化的时候;研发投入到大市场,所遇到的竞争激烈程度远远大于满足小市场的需求,在这种情况下,考虑到成功率因素,小市场回报效率有望超越大市场。

最近中国出海企业越来越多,在早期,这些企业的策略也是抢量抢用户,很多工具类企业,选择了,去用低成本抢一些欠发达地区的流量,第一呢,这个数据起来的比较快,相对花钱不多,这个数据好看了对投资商,对市场估值都有帮助。(简单说,前两年,搞1万个菲律宾安装比搞1万个美国安装,便宜95%以上吧。) 另一方面呢,其实在对方市场尚未发育起来的时候,提前占了一些用户资源,只要能保证留存率,这个升值空间其实也是蛮大的,也不能说都是骗人的数据。

但问题是,这些企业其实一开始并没有针对当地市场做什么优化和定制化,只是用通用的英文版本,横扫所有可以扫的国家而已,所以,我实话说,到一定阶段后,当遇到定制化和本地化的产品,他们的产品留存率是堪忧的。

最近两年,我们出去搞本地化的东西越来越多了,比如有的在中东做的效果很好,有的在印度市场对本地化需求把握的很精准,我以前也讲过这样的案例。有些直播平台在东南亚开始针对每个市场做不同的策略和定制。

中国的研发实力足以满足每个细分市场的独特需求,所需要的就是不要自满于中国的成绩,不要存在傲慢和偏见,能够跟当地人深入沟通和交流,并给予当地的运营和产品团队以足够的权限和责任。

不同地区用户 ,在产品使用习惯,使用偏好,都存在非常大的差异,我们不要简单认为说,曾经他们习惯用某个产品,就代表那个产品符合他们的习惯,不是的,那通常是因为他们没有选择。即便那是巨头的产品,是很多极客认为是典范的产品,其实,很多细节,在不同地区,都是有优化,改进空间的。

举个简单的例子,就好比我们中国人,使用美国电商产品,都会遇到一个尴尬,为什么姓和名要特么的单独写两行?当年美国电商巨头收购中国电商平台后,系统统一,都延续了这个输入方式,其实你说改起来复杂么?他们就是不改。类似的问题在其他国家和地区会不会出现?一定会,但并不是每个国家都有自己的淘宝,有自己的京东。

将心比心,这里的市场机会,可能每个都不算大,但是要汇总起来看,超级巨大。

我说一句简单的判断方法,很多国家和地区,如果他们市场各个榜单的前几名,不是他们国家和地区的主流语言,那么说明,这个本地化的空间还是超级巨大的,那么,按照这个方法你们去看一下,就会发现,有多少机会在里面。

最近互联网热点新闻一堆,不敢跟,几个原则
1、不轻信一面之词;2、不急于下结论;3、不过度脑补;

当然,从涨粉角度来说,跟热点,加政治正确的观点,肯定是最有效的方法,不过,咱还是老老实实做点自己该做的吧。

搜索引擎的工作原理(爬虫 索引 查询展现技术)|SEO优化的那些事

———————————— 氧分子网精选网友评论 ————————————

白杨@杨红林在路上:谢谢曹大大,第一次打赏。 六年专注于seo优化,不管百度还是谷歌还是雅虎,了解搜索引擎的原理是基础课 认同文章提的,即使你是百度的,或者阿里的,并不一定比我们草根更懂,他们也许只是工作,而我们是用这个来养家糊口,必须付出更多,过来人经历。

yeyyy:为什么有很多人觉得百度应该背谷歌退出中国的锅呢。
作者:因为百度确实是最大既得利益获得者

夜息:seo直到今日,依旧是技术人员能快速赚到第一桶金的优质选择。seo集成了大量的技术问题,以及对数据用户的敏感性,和强大的心理承受压力。昨天还在日入几万,今天只剩几百块的惨剧一直在上演。

隔夜:曹大,空穴来风 一词你用错了哦,它的本意就是“不完全没有根据”,如果在前面加上“并非”,那就三重否定表否定,说明这事情是没有根据咯

小绵狼:SEO一直被外界知之甚少,然而这行业水很深。可以说阿里巴巴最开始是靠SEO成功的

隔壁老王Wman:互联网变化够快,当年的很多站长例如落伍的鱼 阿飞 图王 大C 还有域名大佬 蔡文胜 丸子都早已身价几甚至几十亿。互联网创富能力很强~

阿彪:利润是公司的是老板的,我只是小罗罗,分不了几个钱。 曹大,关于点击提权,我是不是说中了,哈哈。 仅从市场和行业发展前景来看,曹大觉得坚守SEO(入行一年)还是转战机器学习,投身人工智能行业?毕竟从拉勾网上看,如果同样五年工作经历,工资水平,SEO是明显比不上后者的。
作者回复:人工智能行业很好,但门槛也很高,过几天我会写一篇,不过话说回来,关于点击提权,有很多种理解和操作方式,你说的是属于作弊的类型,我不喜欢的那种。从合规的角度来说,有其他操作方式。

宋跳跳:自然不止SEO,SEM很多广告产品也是搜索引擎工作原理的一部分。百度被骂的多,但作为一个从业者,百度毫无疑问是中国最优秀的搜索引擎,即便是竞价排名,广告算法也比教主家的成熟的多。

蒿建雷:大辉哥的叫无码搜索么,哈哈

Someone:作为新手seo,真是受教啦 曹大大有没有推荐的公众号,可以看一些seo方面文章的。

天天天行:两次提到那身价几十亿80后上市公司董事长是toking wang

高兴:书终于收到了,虽然里边的文章都看过,但是再读一次仍然都有大把收获,超值!

认识我你太幸运了:阿拉神灯啊,为嘛不从排斥捆绑,搞成为我所用呢?

姜锐(森原):太赞呢 正想了解一下seo就看到你的文章。

分词正确是保证搜索结果正确的前提,分词也是Google进入中国面临的最早技术难题!

黄培荣:收到书啦,刚好重看《商业分析的思维养成》的 搜索引擎 部分。

成增存-互联网金融:技术贴,输入,处理,输出。 看来大部分的业务单元,个体,企业都有IPO三大过程。

程冉(互联网情报共享站):坐等开喷百度的,歌颂Google的

heyjude:记得曹大在之前文章有写过这位知名80后上市公司董事长,还开玩笑地说准备叫他T百亿。想请问曹大如果想要深入了解搜索引擎相关的,可以通过什么渠道?

不二:说百度没有搜索技术的人,应该去看看360搜索做成啥样了,搜索这玩意没有技术积淀怎么行
昨天

于善志:快说说这些牛逼的80后上市公司的ceo 最早知道李想 后来也不怎么关注这些了

Darter Dai:抛开墙的因素,单论中日韩语言版块的搜索技术来言,百度跟谷歌哪家强叻?曹大可否透露下?。另,其实以前有看到一篇搜索引擎在各国的占有率的图的,当时应该比对下这两大搜索引擎在日本新加坡和韩国各自的占有率的

杜 | Mercy:不争论,罗列事实就是事实

氧分子网(www.yangfenzi.com)是关注互联网生态圈的科技新媒体

·氧分子网http://www.yangfenzi.com)延伸阅读:

➤ 揭秘Google养成之道:勇于尝试新事物

➤ 被遗忘的搜索引擎之父:乔纳森-弗莱彻

➤ 知乎:如何用好Google等搜索引擎?

➤ 深度学习驱动智能搜索引擎,RankBrain革了SEO的命

➤ 谈谈搜索引擎优化中的网站内容、结构及关键字

➤ 盘点百度Moments的干货|向海龙:搜索+推荐的双引擎驱动时代

分享给您的好友:

您可能还喜欢…

发表评论

电子邮件地址不会被公开。 必填项已用*标注

您可以使用这些HTML标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>