相关参考链接:
理解三个指标：Recall、NDCG、RMSE
Ranking算法评测指标之 CG、DCG、NDCG
搜索的评价指标DCG
搜索的结构框架
大致可以分为四个部分：搜集、分析、索引和查询。
- 信息搜集：利用爬虫等技术实时更新、自动获取相关的网页和信息
将整个互联网看作数据结构中的有向图，把每个页面看作一个顶点。如果某个页面中包含另外一个页面的链接，那我们就在两个顶点之间连一条有向边。可以利用图的遍历搜索算法，来遍历整个互联网中的网页。 - 分析：主要是提取网页中的关键词和内容，进行一个网页的质量评估，通过分析网页的链接结构来确定网页的权重和排名，以便在查询时能够匹配到相关的关键词。
- 索引：建立索引数据库。快速地检索和定位网页内容
- 查询：响应用户的请求，根据索引获取相关网页，按照一定的算法和规则对匹配结果进行排序，返回查询结果给用户。
优化搜索策略的方法：
- 关键词研究：深入了解目标受众的搜索行为，包括他们使用的关键词和短语。通过研究这些关键词，可以发现哪些词是人们最常用来搜索的，以及哪些词与业务最相关。
- 竞品分析：研究竞争对手的搜索策略，看看他们是如何使用关键词和定位的。这可以发现优势和不足，从而调整搜索策略。
- 内容优化：创建高质量、独特的内容，以吸引搜索引擎和用户。确保内容与关键词相关，并使用适当的标题和元描述。
- 关键词密度和分布：合理使用关键词，避免过度优化。将关键词自然地融入内容中，而不是刻意堆砌。
- 外部链接：建立高质量的外部链接，以提升网站权重和排名。寻找与业务相关的合作伙伴和网站，与他们建立联系并请求链接。
- 内部链接：合理规划内部链接结构，使搜索引擎更好地理解网站结构。确保重要页面有内部链接指向，以提升其排名。
- 移动友好：优化网站以适应移动设备，确保用户在任何设备上都能顺利访问网站。
- 用户体验：关注用户体验，确保网站易于使用、加载速度快、导航清晰。良好的用户体验有助于提升搜索引擎排名。
- SEO工具：使用SEO工具如Google Analytics、SEOMOZ等，跟踪和分析网站表现，以便调整和优化你的搜索策略。
- 持续更新：定期更新网站内容，保持其新鲜度和相关性。这有助于吸引搜索引擎的注意，提高排名。
评估视频的内容质量：
- 完播率：完播率是衡量视频质量的重要指标之一，它表示用户完整观看视频的比例。完播率越高，说明视频内容越吸引人，质量越高。
- 点赞量：点赞量反映了用户对视频的认可和喜爱程度。点赞量越高，说明视频内容越符合用户口味和需求。
- 评论量：评论量反映了用户对视频的参与度和话题性。如果一个视频的评论量较高，说明用户对视频内容感兴趣并愿意参与讨论。
- 转发量：转发量反映了用户对视频的传播价值和认可度。如果一个视频的转发量较高，说明用户认为该视频有价值并愿意将其分享给其他人。
- 互动度：互动度是指用户与视频的互动程度，包括评论、点赞、转发等行为。互动度越高的视频，说明用户参与度越高，质量越高。
- 内容质量：内容质量是指视频内容的原创性、独特性、价值性和可信度等方面。如果一个视频内容新颖独特、信息量大、实用性强，且没有违反法律法规和平台规定，那么它的内容质量就比较高。
- 视觉效果：视觉效果是指视频的画面质量、剪辑流畅度、配乐等方面。如果一个视频的画面清晰、剪辑流畅、配乐得当，那么它的视觉效果就比较好。
- 话题性：话题性是指视频内容是否具有话题性和热度，比如是否涉及热门事件、社会热点等。如果一个视频的话题性比较高，那么它的曝光量和关注度就比较高。
搜索的机制和算法
- 关键词匹配：搜索根据用户输入的关键词与视频内容进行匹配，将相关视频推荐给用户。
- 用户行为数据：搜索会收集用户的搜索历史、观看记录、点赞、评论等行为数据，并根据这些数据来分析用户的兴趣爱好，从而推荐相关内容。
- 内容质量：搜索会评估视频的内容质量、原创性、观看时长等因素，并根据这些因素来决定是否推荐该视频。
- 社交关系：搜索会考虑用户的社交关系，例如关注的人、点赞的人、留言的人等，从而推荐相关内容。
- 时效性：搜索会根据视频发布的时间和用户搜索的时间来决定是否推荐该视频，以保证推荐的内容是最新发布的。
- 地理位置：搜索会考虑用户的地理位置，例如用户所在的城市、地区等，从而推荐相关内容。
DCG
DCG(Discounted cumulative gain)——折扣累计收益
是一种用于评估搜索结果的一个排序质量的指标或者说方法。具体来说，DCG的计算是基于相关性的权重计算，根据结果的相关性程度给予不同的权重，然后对搜索结果按照这个权重进行排序。
在搜索中，DCG可以结合其他指标和因素进行综合评估，用户群体和使用场景非常多样化，那就需要考虑很多的因素，比如：用户行为分析、内容质量、视频的点击率、完播率、个性化偏好以及时效性等等因素，进行一个细化和优化，来提高用户的满意度和粘性。
局限性：
- 忽略了个性化偏好：传统DCG评估方法没有考虑用户的个性化偏好，无法准确评估推荐系统的效果。
- 隐式点击偏差：传统DCG方法对点击数据进行了二值化处理，忽略了用户的点击行为对排序算法评估的重要性。
- 不能处理长尾问题：DCG评估策略无法很好地处理长尾问题，即少数几个热门的搜索结果占据了大部分的点击，而其他大量的搜索结果被冷落。
- 对排名敏感：DCG评估策略对结果的排名非常敏感，排名位置的变化可能导致评估结果的显著变化。
- 无法处理动态内容：DCG评估策略无法很好地处理动态内容，例如实时新闻或体育比赛比分等，这些内容的价值随着时间的推移而发生变化。
为什么要除以log2
除以log2是为了在DCG的计算中更好地考虑排序因素和用户的偏好分布，从而提高评估的准确性和可靠性。
除以log2可以更好地反映排序质量，可以用一个通俗易懂的游戏评分例子来说明。
假设有一个游戏评分系统，用户可以对游戏进行评分，分数范围是1-10分。现在有10个用户对两款游戏A和B进行评分，游戏A的平均分是8分，游戏B的平均分是9分。如果单纯比较平均分，似乎游戏B的得分更高，但是这并不能反映游戏的真实质量和用户体验。
如果我们采用DCG算法，并将分数按照排序位置进行加权处理，情况就有所不同。假设游戏A的分数分布是：10分（1人），9分（2人），8分（3人），7分（4人）；游戏B的分数分布是：10分（3人），9分（4人），8分（2人），7分（1人）。
根据DCG算法，游戏A的DCG值为：10×log2(1+1)+9×log2(1+2)+8×log2(1+3)+7×log2(1+4)=80.3；
游戏B的DCG值为：10×log2(1+3)+9×log2(1+4)+8×log2(1+2)+7×log2(1+1)=78.5。
通过计算DCG值，我们可以发现游戏A的DCG值更高，这说明游戏A的用户体验更好，尽管其平均分较低。这是因为DCG算法考虑了排序因素和用户的偏好分布，从而更准确地反映了游戏的真实质量和用户体验。
在这个例子中，除以log2的作用在于对分数进行加权处理，使得排名靠前的分数对于整体评价的影响更大。通过这种方式，DCG算法可以更好地反映排序质量，从而更准确地评估游戏的用户体验。
召回结果的排序依据
- 相关性：这是最重要的依据，主要是指推荐结果与用户查询的相关程度。如果推荐结果与用户查询高度相关，那么它的排序位置就会靠前。
- 位置因素：位置因素也是重要的依据之一。对于排序引擎而言，不同请求的结果列表长度往往不相同，这会影响到结果的排序。因此，需要考虑位置因素，对不同位置的推荐结果进行加权处理。
- 用户行为分析：点击率、停留时间、行为数据等。如果用户对某个推荐结果有积极的反馈，那么这个结果的排序位置可能会靠前。
- 内容质量：内容的质量也是评价排序依据的一个方面。
- 个性化偏好：个性化偏好是指用户的个人喜好和兴趣。考虑用户的个性化偏好可以使得推荐结果更加符合用户的需求和口味，提高用户的满意度和粘性。
- 时效性：如果推荐结果是过时的，那么它的排序位置可能会靠后。
- 社会影响力：用户的社会影响力也是评价排序依据之一。如果某个用户的粉丝量、关注度等比较高，那么他的发帖或分享的内容在排序时可能会获得一定的加分。
- 话题热度：对于一些热门话题或流行趋势，推荐结果的话题热度也是评价排序依据之一。如果推荐结果与当前热门话题或流行趋势相关，那么它的排序位置可能会靠前。
- 广告收入：在一些商业化场景下，推荐结果的广告收入也是评价排序依据之一。如果某个推荐结果能够带来较高的广告收入，那么它的排序位置可能会靠前。
- 验证新策略或算法的效果，帮助搜索引擎持续优化。
通过将用户随机分成两组，分别展示不同的策略，可以观察到新策略是否能够提高搜索结果的点击率、转化率等指标，从而评估新策略的效果。 - 比较不同算法的性能，提升效率和价值驱动。
可以比较不同算法的性能，观察其对用户点击率、转化率等指标的影响，找到最优的算法组合，提高搜索结果的满意度。 - 精细化运营。
例如，可以测试不同的广告位、广告创意等，观察其对用户点击率和转化率的影响，从而找到最优的广告策略，提高搜索引擎的商业价值。 - 降低风险。
在搜索引擎优化过程中，尝试新的策略或算法可能会带来风险。通过AB实验，可以在小流量环境下测试新策略或算法的效果，降低风险。如果新策略或算法在小流量环境下表现不佳，可以及时调整和优化，避免对整个搜索引擎造成影响。