PAMM中使用的检索多样性的评估方法为:。
在NDCG中,文档的相关度可以分为多个等级进行打分。
(1)CG(Cumulative Gain):
表示前p个位置累计得到的效益,公式为:
其中rel表示第i个文档的相关等级,如2表示非常相关,1表示相关,0表示无关,-1表示垃圾文件。
(2)DCG(Discounted Cumulative gain)
在CG中的计算没有考虑到位置信息,比如检索到了三个文档相关度一次为(3,-1,1)和(-1,1,3),显然前面的排序好一点,但是两个排名的CG值是相同的,所以要在CG运算中中加入位置信息的计算。假设每个位置按照从小到大排序,它们的价值依次递减,如:假设第i个位置的价值为。
DCG的公式为:
另一种比较常用的,用来增加相关度影响比重的DCG计算方式是:
(3)IDCG(ideal DCG)
IDCG是指理想情况下的DCG,即DCG取得最大值的情况。公式为:
其中|REL|表示文档按照相关性从大到小的顺序排序,取前p个文档组成的集合。
(4)NDCG(Normalize DCG)
由于每个查询语句所能检索到的结果文档集合长度不一,p值的不同会对DCG的计算有较大的影响。所以不能对不同查询语句的DCG进行求平均,需要进行归一化处理。NDCG就是用IDCG进行归一化处理,表示当前DCG比IDCG还差多大的距离。公式如下:
这样每个查询语句的NDCG就是从0到1,不同查询语句之间就可以做比较,就可以求多个查询语句的平均NDCG。NDCG@10、NDCG@20分别表示求p为10和20的时候的NDCG。
(5)PAMM中的
是NDCG的变形,其中新发现的subtopics被奖励,多余的subtopics被惩罚。等级k的得分可以通过将标准NDCG@k中的原始增益值替换为新颖性收益来定义。公式为:
其中是排名列表y中排在r位置的新颖性收益;
是包含第s个subtopic的r-1排名内观察到的文档数目;
为在正排名中排在r位的新颖性收益;
y(k)是排名为k的文档索引;
参数通常设置为0.5 。