原理：通过深度学习模型将文本映射为向量，基于向量相似度检索。 代表模型： DPR（Dense Passage Retrieval）：双塔模型，分别编码查询与文档。 Sentence-BERT：预训练模型生成句向量。 ColBERT：交互式模型，保留token级交互信息。 优点：捕捉语义相似性，解决词汇不匹配问题。 缺点：...

在信息检索和推荐系统中，MRR@k（Mean Reciprocal Rank at k）和NDCG@k（Normalized Discounted Cumulative Gain at k）是两个核心评估指标，用于衡量排序结果的质量。以下是它们的详细对比与应用说明： 1. MRR@k（平均倒数排名@k） 定义 目标：衡量系统返回的排序列表中第一个相关结果的位置。 公式： \(...

Bi-Encoder和Cross-Encoder是自然语言处理中用于文本匹配的两种主要模型架构，它们在处理方式、效率和应用场景上存在显著差异。以下是它们的详细对比： 1. 核心区别 Bi-Encoder（双编码器） 处理方式：分别对两个输入文本进行独立编码，生成各自的向量表示，再通过相似度计算（如点积、余弦相似度）进行比较。 结构：通常共享参数（...

在重排序（Reranking）任务中，损失函数的选择对于模型的性能至关重要。不同的损失函数适用于不同的场景和模型架构。以下是一些常见的用于重排序任务的损失函数： 1. Point-wise 损失函数 Point-wise 损失函数将每个文档视为独立的样本，对每个文档的相关性进行打分，然后根据这些得分进行排序。常见的 Point-wise 损失函数 括： 均方误差（Mean...

在信息检索和机器学习排序（LTR）中，Point-wise、Pair-wise和List-wise是三种主要的方法，各自针对不同粒度的排序优化。 其中，三种方法并不是特定的算法，而是排序学习模型的设计思路，主要区别体现在损失函数（Loss Function）、以及相应的标签标注方式和优化方法的不同。 以下是它们的详细对比： — 1. Point-wise（单点排序） 核心思想：将排...

在信息检索和对比学习任务中，正负样本的构建质量直接影响模型性能。以下是针对科学文献检索场景的正负样本构建高级技巧，结合sciFact数据集特点的详细说明： 一、基础构建原则 1. 显式正样本（Positive Samples） 定义：与声明（claim）存在明确支持关系的摘要 sciFact处理技巧： # 从标注数据中提取SUPPORT标签的证据 positives ...

Python 提供了许多内置的数据类型，这些数据类型在处理不同类型的数据时非常有用。以下是 Python 中常用数据类型的介绍： 1. 列表（List） 列表是 Python 中最常用的数据类型之一，它是一个有序的可变序列，可以存储不同类型的元素。列表中的元素可以通过索引访问，支持正向索引和负向索引。 特点： 可变：列表的大小和内容可以动态改变。 有序：列表中的元素按照插入顺序...

双指针是一种在算法设计中非常实用且高效的技巧，特别适合处理线性数据结构（如数组、链表、字符串）中的问题。以下是双指针的基本原理和常见使用场景的介绍： 双指针基本原理 双指针的核心思想是使用两个指针变量在数据结构中有规律地移动，以线性时间复杂度解决问题。根据指针的移动方式，双指针可以分为以下两种主要类型： 1. 同向双指针（快慢指针） 原理：两个指针同向移动，通常一个指针（快指针）移...

Rerank 相关基础知识 定义：Rerank 即重排序，是指在检索出一组与查询相关的候选文档后，使用更精确的模型或方法对这些文档进行重新排序，以提高检索结果的准确性和相关性。 常见模型： Cross-encoders：能够更好地理解文档与查询之间的上下文关联，提供更高的排序精度。但计算上更为密集，通常不适合处理大规模数据集。 Bi-encoder...

在信息检索系统中，摘要级检索与句子级检索模型的训练存在显著差异，主要体现在数据构造、模型架构、训练目标和应用场景等方面。以下是两者的核心区别及对应的技术方案设计： 1. 训练数据构造差异 维度 摘要级检索模型 句子级检索模型 文本长度 处理200-1000词的长文本（文档摘要...