浅析PageRank算法

    文章来源:万象互联 更新时间:2018-9-8 10:45:07
分享:

很早就对 Google 的 PageRank 算法很感兴趣,但一直没有深究,只有个轮廓性的概念。前几天趁团队 outing 的机会,在动车上看了一些相关的资料,趁热打铁,将所看的东西整理成此文。

本文首先会讨论搜索引擎的核心难题,同时讨论早期搜索引擎关于结果页面重要性评价算法的困境,借此引出 PageRank 产生的背景。第二部分会详细讨论 PageRank 的思想来源、基础框架,并结合互联网页面拓扑结构讨论 PageRank 处理 Dead Ends 及平滑化的方法。第三部分讨论 Topic-Sensitive PageRank 算法。****将讨论对 PageRank 的 Spam 攻击方法:Spam Farm 以及搜索引擎对 Spam Farm 的防御。

搜索引擎的难题

Google 早已成为全球最成功的互联网搜索引擎,但这个当前的搜索引擎巨无霸却不是最早的互联网搜索引擎,在 Google 出现之前,曾出现过许多通用或专业领域搜索引擎。Google 最终能击败所有竞争对手,很大程度上是因为它解决了困扰前辈们的****难题:对搜索结果按重要性排序。而解决这个问题的算法就是 PageRank。毫不夸张的说,是 PageRank 算法成就了 Google 今天的低位。要理解为什么解决这个难题如此重要,我们先来看一下搜索引擎的核心框架。

搜索引擎的核心框架

虽然搜索引擎已经发展了很多年,但是其核心却没有太大变化。从本质上说,搜索引擎是一个资料检索系统,搜索引擎拥有一个资料库(具体到这里就是互联 网页面),用户提交一个检索条件(例如关键词),搜索引擎返回符合查询条件的资料列表。理论上检索条件可以非常复杂,为了简单起见,我们不妨设检索条件是 一至多个以空格分隔的词,而其表达的语义是同时含有这些词的资料(等价于布尔代数的逻辑与)。例如,提交“张洋博客”,意思就是“给我既含有‘张洋’又含 有‘博客’词语的页面”,以下是 Google 对这条关键词的搜索结果:

可以看到我的博客出现在第五条,而第四条是我之前在博客园的博客。

当然,实际上现在的搜索引擎都是有分词机制的,例如如果以“张洋的博客”为关键词,搜索引擎会自动将其分解为“张洋的博客”三个词,而“的”作为停止词(Stop Word)会被过滤掉。关于分词及词权评价算法(如 TF-IDF 算法)是一个很大的话题,这里就不展开讨论了,为了简单此处可以将搜索引擎想象为一个只会机械匹配词语的检索系统。

这样看来,建立一个搜索引擎的核心问题就是两个:1、建立资料库;2、建立一种数据结构,可以根据关键词找到含有这个词的页面。

第一个问题一般是通过一种叫爬虫(Spider)的特殊程序实现的(当然,专业领域搜索引擎例如某个学术会议的论文检索系统可能直接从数据库建立资 料库),简单来说,爬虫就是从一个页面出发(例如新浪首页),通过 HTTP 协议通信获取这个页面的所有内容,把这个页面 url 和内容记录下来(记录到资料库),然后分析页面中的链接,再去分别获取这些链接链向页面的内容,记录到资料库后再分析这个页面的链接……重复这个过程,就 可以将整个互联网的页面全部获取下来(当然这是理想情况,要求整个 Web 是一个强连通(Strongly Connected),并且所有页面的 robots 协议允许爬虫抓取页面,为了简单,我们仍然假设 Web 是一个强连通图,且不考虑 robots 协议)。抽象来看,可以将资料库看做一个巨大的 key-value 结构,key 是页面 url,value是页面内容。

第二个问题是通过一种叫倒排索引(inverted index)的数据结构实现的,抽象来说倒排索引也是一组 key-value 结构,key 是关键词,value 是一个页面编号集合(假设资料库中每个页面有****编号),表示这些页面含有这个关键词。本文不详细讨论倒排索引的建立方法。

有了上面的分析,就可以简要说明搜索引擎的核心动作了:搜索引擎获取“张洋博客”查询条件,将其分为“张洋”和“博客”两个词。然后分别从倒排索引 中找到“张洋”所对应的集合,假设是{1, 3, 6, 8, 11, 15};“博客”对应的集合是{1, 6, 10, 11, 12, 17, 20, 22},将两个集合做交运算(intersection),结果是{1, 6, 11}。****,从资料库中找出1、6、11对应的页面返回给用户就可以了。

搜索引擎的核心难题

上面阐述了一个非常简单的搜索引擎工作框架,虽然现代搜索引擎的具体细节原理要复杂的多,但其本质却与这个简单的模型并无二异。实际 Google 在上述两点上相比其前辈并无高明之处。其****的成功是解决了第三个、也是最为困难的问题:如何对查询结果排序。

我们知道 Web 页面数量非常巨大,所以一个检索的结果条目数量也非常多,例如上面“张洋博客”的检索返回了超过 260 万条结果。用户不可能从如此众多的结果中一一查找对自己有用的信息,所以,一个好的搜索引擎必须想办法将“质量”较高的页面排在前面。其实直观上也可以感 觉出,在使用搜索引擎时,我们并不太关心页面是否够全(上百万的结果,全不全有什么区别?而且实际上搜索引擎都是取 top,并不会真的返回全部结果。),而很关心前一两页是否都是质量较高的页面,是否能满足我们的实际需求。

因此,对搜索结果按重要性合理的排序就成为搜索引擎的****核心,也是 Google 最终成功的突破点。

早期搜索引擎的做法

不评价

这个看起来可能有点搞笑,但实际上早期很多搜索引擎(甚至包括现在的很多专业领域搜索引擎)根本不评价结果重要性,而是直接按照某自然顺序(例如时 间顺序或编号顺序)返回结果。这在结果集比较少的情况下还说得过去,但是一旦结果集变大,用户叫苦不迭,试想让你从几万条质量参差不齐的页面中寻找需要的 内容,简直就是一场灾难,这也注定这种方法不可能用于现代的通用搜索引擎。

基于检索词的评价

后来,一些搜索引擎引入了基于检索关键词去评价搜索结构重要性的方法,实际上,这类方法如 TF-IDF 算法在现代搜索引擎中仍在使用,但其已经不是评价质量的****指标。完整描述 TF-IDF 比较繁琐,本文这里用一种更简单的抽象模型描述这种方法。

基于检索词评价的思想非常朴素:和检索词匹配度越高的页面重要性越高。“匹配度”就是要定义的具体度量。一个最直接的想法是关键词出现次数越多的页 面匹配度越高。还是搜索“张洋博客”的例子:假设A页面出现“张洋”5次,“博客”10次;B页面出现“张洋”2次,“博客”8次。于是A页面的匹配度为 5 + 10 = 15,B页面为 2 + 8 = 10,于是认为A页面的重要性高于B页面。很多朋友可能意识到这里的不合理性:内容较长的网页往往更可能比内容较短的网页关键词出现的次数多。因此,我们 可以修改一下算法,用关键词出现次数除以页面总词数,也就是通过关键词占比作为匹配度,这样可以克服上面提到的不合理。

早期一些搜索引擎确实是基于类似的算法评价网页重要性的。这种评价算法看似依据充分、实现直观简单,但却非常容易受到一种叫“Term Spam”的攻击。


Term Spam

其实从搜索引擎出现的那天起,spammer 和搜索引擎反作弊的斗法就没有停止过。Spammer 是这样一群人——试图通过搜索引擎算法的漏洞来提高目标页面(通常是一些广告页面或垃圾页面)的重要性,使目标页面在搜索结果中排名靠前。

现在假设 Google 单纯使用关键词占比评价页面重要性,而我想让我的博客在搜索结果中排名更靠前(****排第一)。那么我可以这么做:在页面中加入一个隐藏的 html 元素(例如一个 div),然后其内容是“张洋”重复一万次。这样,搜索引擎在计算“张洋博客”的搜索结果时,我的博客关键词占比就会非常大,从而做到排名靠前的效果。更 进一步,我甚至可以干扰别的关键词搜索结果,例如我知道现在欧洲杯很火热,我就在我博客的隐藏 div 里加一万个“欧洲杯”,当有用户搜索欧洲杯时,我的博客就能出现在搜索结果较靠前的位置。这种行为就叫做“Term Spam”。

早期搜索引擎深受这种作弊方法的困扰,加之基于关键词的评价算法本身也不甚合理,因此经常是搜出一堆质量低下的结果,用户体验大大打了折扣。而 Google 正是在这种背景下,提出了 PageRank 算法,并申请了专利保护。此举充分保护了当时相对弱小 Google,也使得 Google 一举成为全球********的搜索引擎。

PageRank 算法

上文已经说到,PageRank 的作用是评价网页的重要性,以此作为搜索结果的排序重要依据之一。实际中,为了抵御 spam,各个搜索引擎的具体排名算法是保密的,PageRank 的具体计算方法也不尽相同,本节介绍一种最简单的基于页面链接属性的 PageRank 算法。这个算法虽然简单,却能揭示 PageRank 的本质,实际上目前各大搜索引擎在计算 PageRank 时链接属性确实是重要度量指标之一。

简单 PageRank 计算

首先,我们将Web 做如下抽象:1、将每个网页抽象成一个节点;2、如果一个页面A有链接直接链向B,则存在一条有向边从A到B(多个相同链接不重复计算边)。因此,整个 Web 被抽象为一张有向图。

现在假设世界上只有四张网页:A、B、C、D,其抽象结构如下图:

显然这个图是强连通的(从任一节点出发都可以到达另外任何一个节点)。

然后需要用一种合适的数据结构表示页面间的连接关系。其实,PageRank 算法是基于这样一种背景思想:被用户访问越多的网页更可能质量越高,而用户在浏览网页时主要通过超链接进行页面跳转,因此我们需要通过分析超链接组成的拓 扑结构来推算每个网页被访问频率的高低。最简单的,我们可以假设当一个用户停留在某页面时,跳转到页面上每个被链页面的概率是相同的。例如,上图中A页面 链向B、C、D,所以一个用户从A跳转到B、C、D的概率各为1/3。设一共有N个网页,则可以组织这样一个N维矩阵:其中i行j列的值表示用户从页面j 转到页面i的概率。这样一个矩阵叫做转移矩阵(Transition Matrix)。下面的转移矩阵M对应上图:

然后,设初始时每个页面的 rank 值为1/N,这里就是1/4。按A-D顺序将页面 rank 为向量v:

注意,M第一行分别是A、B、C和D转移到页面A的概率,而v的第一列分别是A、B、C和D当前的 rank,因此用M的第一行乘以v的第一列,所得结果就是页面A最新 rank 的合理估计,同理,Mv 的结果就分别代表A、B、C、D新 rank:

然后用M再乘以这个新的 rank 向量,又会产生一个更新的 rank 向量。迭代这个过程,可以证明v最终会收敛,即v约等于 Mv,此时计算停止。最终的v就是各个页面的 pagerank 值。例如上面的向量经过几步迭代后,大约收敛在(1/4, 1/4, 1/5, 1/4),这就是A、B、C、D****的 pagerank。

处理 Dead Ends

上面的 PageRank 计算方法假设 Web 是强连通的,但实际上,Web 并不是强连通(甚至不是联通的)。下面看看 PageRank 算法如何处理一种叫做 Dead Ends 的情况。

所谓 Dead Ends,就是这样一类节点:它们不存在外链。看下面的图:

注意这里D页面不存在外链,是一个 Dead End。上面的算法之所以能成功收敛到非零值,很大程度依赖转移矩阵这样一个性质:每列的加和为1。而在这个图中,M第四列将全为0。在没有 Dead Ends 的情况下,每次迭代后向量v各项的和始终保持为1,而有了 Dead Ends,迭代结果将最终归零(要解释为什么会这样,需要一些矩阵论的知识,比较枯燥,此处略)。

处理 Dead Ends 的方法如下:迭代拿掉图中的 Dead Ends 节点及 Dead Ends 节点相关的边(之所以迭代拿掉是因为当目前的 Dead Ends 被拿掉后,可能会出现一批新的 Dead Ends),直到图中没有 Dead Ends。对剩下部分计算 rank,然后以拿掉 Dead Ends 逆向顺序反推 Dead Ends 的 rank。

以上图为例,首先拿到D和D相关的边,D被拿到后,C就变成了一个新的 Dead Ends,于是拿掉C,最终只剩A、B。此时可很容易算出A、B的 PageRank 均为1/2。然后我们需要反推 Dead Ends 的 rank,****被拿掉的是C,可以看到C前置节点有A和B,而A和B的出度分别为 3 和2,因此C的 rank 为:1/2 * 1/3 + 1/2 * 1/2 = 5/12;****,D的 rank 为:1/2 * 1/3 + 5/12 * 1 = 7/12。所以最终的 PageRank 为(1/2, 1/2, 5/12, 7/12)。

Spider Traps 及平滑处理

可以预见,如果把真实的 Web 组织成转移矩阵,那么这将是一个极为稀疏的矩阵,从矩阵论知识可以推断,极度稀疏的转移矩阵迭代相乘可能会使得向量v变得非常不平滑,即一些节点拥有很大 的 rank,而大多数节点 rank 值接近0。而一种叫做 Spider Traps 节点的存在加剧了这种不平滑。例如下图:

D 有外链所以不是 Dead Ends,但是它只链向自己(注意链向自己也算外链,当然同时也是个内链)。这种节点叫做 Spider Trap,如果对这个图进行计算,会发现D的 rank 越来越大趋近于1,而其它节点 rank 值几乎归零。

为了克服这种由于矩阵稀疏性和 Spider Traps 带来的问题,需要对 PageRank 计算方法进行一个平滑处理,具体做法是加入“心灵转移(teleporting)”。所谓心灵转移,就是我们认为在任何一个页面浏览的用户都有可能以一个 极小的概率瞬间转移到另外一个随机页面。当然,这两个页面可能不存在超链接,因此不可能真的直接转移过去,心灵转移只是为了算法需要而强加的一种纯数学意 义的概率数字。

加入心灵转移后,向量迭代公式变为:

其中β往往被设置为一个比较小的参数(0.2或更小),e为N维单位向量,加入e的原因是这个公式的前半部分是向量,因此必须将β/N转为向量才能相加。这样,整个计算就变得平滑,因为每次迭代的结果除了依赖转移矩阵外,还依赖一个小概率的心灵转移。

以上图为例,转移矩阵M为:

设β为0.2,则加权后的M为:

因此:

如果按这个公式迭代算下去,会发现 Spider Traps 的效应被抑制了,从而每个页面都拥有一个合理的 pagerank。

Topic-Sensitive PageRank

其实上面的讨论我们回避了一个事实,那就是“网页重要性”其实没一个标准答案,对于不同的用户,甚至有很大的差别。例如,当搜索“苹果”时,一个数 码爱好者可能是想要看 iphone 的信息,一个果农可能是想看苹果的价格走势和种植技巧,而一个小朋友可能在找苹果的简笔画。理想情况下,应该为每个用户维护一套专用向量,但面对海量用户 这种方法显然不可行。所以搜索引擎一般会选择一种称为 Topic-Sensitive 的折中方案。Topic-Sensitive PageRank 的做法是预定义几个话题类别,例如体育、娱乐、科技等等,为每个话题单独维护一个向量,然后想办法关联用户的话题倾向,根据用户的话题倾向排序结果。


版权说明:本站原创文章,由SEO优化发表.
本文地址:https://www.hulian.top/zixun/post/5006.html
在线咨询
  • 在线时间
  • 8:00-21:00