Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

ADK Qdrant官方 / ADK编译 2026-07-24 5 分钟 107 次浏览
速览导读 / Summary

Qdrant 团队分享了构建基于 580 万真实商品数据的电商搜索系统的经验。文章核心在于打破传统“检索 + 过滤 + 排序”的割裂架构,提出将过滤内嵌于查询、混合检索(BM25+ 向量)作为首选方案、以及通过内存量化与公式重排序实现高性能排名的策略。实测显示,移除重排序(Rescore)可提升 4.5 倍查询速度,而将个性化权重控制在 0.45 即可在保持召回率的同时显著减少无关推荐。

查询延迟 ~40ms 混合检索与过滤的端到端响应时间
模型选择 MiniLM (384 维) 相比大模型,精度损失仅 2%,但延迟降低 4.5 倍,内存减少 3 倍
个性化权重 0.45 平衡召回率与无关推荐的最佳权重阈值

Key Insights / 核心看点

  • 1 混合检索架构:单次 Query API 请求融合 BM25 精确匹配与 Dense Vector 意图匹配,通过 RRF 算法实现高效排序。
  • 2 过滤内嵌策略:利用 Filterable HNSW 图结构在检索阶段直接应用过滤条件,避免传统“先搜后滤”导致的空结果和性能浪费。
  • 3 小模型优先原则:实测证明,优化 Embedding 输入配方比升级大模型更能解决问题,MiniLM 在精度与延迟间实现了最佳平衡。
  • 4 跳过重排序优化:在 RRF 融合机制下,内存量化 (int8) 的误差可被平滑,移除磁盘重排序 (Rescore) 可将查询延迟降低 4.5 倍以上。
  • 5 个性化权重校准:将用户偏好从检索阶段移至排名阶段,并将权重设定为 0.45,可在保持高召回率的同时显著减少无关推荐。

Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

在构建电商搜索系统时,相关性、过滤、个性化、商品展示和推荐通常被拆分为五个独立服务,最终排名由多方拼凑而成。Qdrant 团队通过搭建 Qdrant Shopping(基于 580 万真实亚马逊时尚商品数据),探索了这些模块如何收敛为单一高效架构。其核心发现是:通过 Query API 实现毫秒级响应,将检索、过滤与排序统一在向量数据库中完成。

核心架构突破:从“五步走”到“一步到位”

1. 混合检索是标配:BM25 与向量的融合

商品查询本质是双重需求:一部分是精确匹配(品牌、型号、SKU),另一部分是意图匹配(如“适合徒步的保暖衣物”)。

  • 策略:同时构建 Dense Vector(基于标题和类别)和 BM25 Sparse Vector(基于标题、品牌、类别)。
  • 融合:在单次 Query API 请求中,利用 Reciprocal Rank Fusion (RRF) 将两个分支的结果融合。
  • 价值:避免了传统架构中先检索后过滤导致的“空结果”问题,也解决了纯向量检索无法匹配精确关键词的痛点。

2. 过滤内嵌于查询:拒绝“先搜后滤”

传统做法是先检索 Top 100 候选再应用过滤,若库存不足或规格不符,页面极易变空。

  • Qdrant 方案:利用 Filterable HNSW 图结构,在检索阶段直接应用过滤条件(如价格区间、库存状态)。
  • 性能提升:仅对匹配的产品进行打分,避免了无效计算。同时,侧边栏的 Facet Counts 直接来源于同一 Payload,确保数据一致性。

3. 模型选择:小模型 + 精准 Embedding > 大模型

团队曾误以为需要更大模型来解决“按品牌而非按衣物排序”的 Bug,实则是输入文本(Embedding Input)设计不当。

  • 关键发现:仅使用标题作为 Embedding 输入会导致品牌词主导向量。加入 Product Category 后,所有模型均表现稳定。
  • 性能对比:
    • MiniLM (384 维): 精度@10 为 90.3%,延迟 ~40ms,RAM 仅 1.9GB。
    • 大模型 (1024 维): 精度@10 仅提升 2 个百分点,但延迟飙升至 ~180ms,RAM 占用 6GB。
  • 结论:对于 580 万商品库,大模型带来的精度提升(2%)无法抵消其 4.5 倍的延迟和 3 倍的内存成本。建议优先优化 Embedding 配方,而非盲目升级模型。

4. 内存量化与跳过重排序 (Rescore)

  • 存储策略:向量在 RAM 中存储为 int8,原始 float32 数据保留在磁盘。
  • 去重排序 (Rescore):传统做法会在检索后读取磁盘原始向量进行重排序以消除量化误差。
  • 实测结果:Rescore 最多仅提升 2 点 Recall@10,但将查询时间从 41ms 延长至 334ms(延迟增加 4.5-8 倍)。
  • 结论:由于 RRF 融合机制本身能平滑量化噪声,且重排序涉及昂贵的磁盘 I/O,跳过 Rescore 是更优选择。

5. 个性化:从检索阶段移至排名阶段

  • 早期尝试:将用户偏好向量作为第三分支参与检索,导致搜索“牛仔裤”时返回“法兰绒衬衫”(因用户偏好)。
  • 优化方案:将个性化移至 Ranking 阶段。
    • 机制:文本查询决定“哪些商品合格”,用户偏好仅用于“重新排序”。
    • 权重:经过测试,权重 0.45 是最佳平衡点。相比 0.6 的权重,它在保持高召回率(0.82 vs 0.79)的同时,将 Top 10 中的无关推荐从 1.7 个降至 0.03 个。
  • 冷启动与无意图场景:无历史用户使用纯文本排名;无文本查询(如落地页)则完全由偏好驱动。

6. 商品化即权重组合

利润率、热度、新鲜度、价格、评分和库存等商业信号不应由独立服务处理,而应通过 Formula Query 在融合后进行重排序,直接组合 Payload 字段生成最终分数。

关键技术指标 (Metrics)

指标项 数值/描述 说明
查询延迟 ~40ms 包含混合检索与过滤的端到端时间
精度@10 90.3% (MiniLM) 小模型在 20 万商品子集上的表现
内存占用 1.9GB (int8) 580 万商品全量索引 (MiniLM)
Rescore 延迟 增加 4.5-8 倍 引入磁盘重排序后的性能损耗
个性化权重 0.45 平衡召回率与无关推荐的黄金比例

总结

Qdrant 的电商搜索实践表明,高性能搜索系统的关键不在于堆砌算力,而在于架构的简洁性与数据流的优化。通过 混合检索 解决语义与精确匹配矛盾,利用 内存量化 换取极致速度,并将 个性化 与 商品化 逻辑下沉至排名阶段,开发者可以构建出既快又准的搜索体验。这套方案不仅适用于电商,对任何大规模产品目录的搜索优化都具有极高的参考价值。

“What You Embed Matters More Than Which Model. A quality bug looked like a job for a bigger model... The fix turned out to be in the input text.”

— Qdrant Team

同主题深度资讯

查看更多 →
模型发布 2026-10-14

Qdrant Edge 赋能机器人 Reachy:实现本地语义记忆与零断网交互

Qdrant 发布 Qdrant Edge,为开源机器人 Reachy 赋予本地语义记忆能力。该系统将向量数据库直接嵌入机器人进程,无需联网即可毫秒级检索图片与文本记忆。通过优化工具调用描述与向量检索阈值策略,解决了机器人“看什么”与“如何回答”的幻觉问题,实现了从上下文窗口溢出到长期记忆管理的完整闭环。

Qdrant官方 / ADK编译 4 分钟
AI 工具 2026-10-13

首创集团 2027 秋招解读:北京国企金融平台,算法与产品岗投递策略

首创集团 2027 秋季校园招聘启动,作为北京国企金融平台,其算法工程师与产品经理岗位成为关注焦点。本文深度解析该秋招的确定性机会与信息缺口,指出企业性质为央企国企,业务横跨环保、基础设施及金融板块。核心建议为:目标明确且接受国企节奏的应届生可将其纳入秋招清单,但需警惕信息缺失(如薪资、学历门槛),避免将单一机会作为唯一押注。文章详细对比了算法与产品岗的差异化准备路径,并提供了针对国企场景的简历优化策略。

超级简历官方 / ADK编译 5 分钟
模型发布 2026-10-13

Qdrant TurboQuant 1 位压缩技术突破:Perplexity 视觉检索向量体积缩减 21 倍且保持 96.5% 召回质量

针对 Perplexity 新发布的 pplx-embed-v2-late 视觉检索模型(单页约 856KB 向量)存储体积过大问题,Qdrant 推出 TurboQuant 1 位压缩技术。该技术将单页向量体积从 856KB 压缩至 40KB,实现 21 倍缩减,同时保留 96.5% 的检索质量(配合重评分可达 99.9%)。此举推动文档检索从“文本优先”转向“视觉优先”,大幅降低亿级文档索引的内存占用,为 PDF 及图表检索提供低成本高能效方案。

Qdrant官方 / ADK编译 5 分钟
AI 工具 2026-10-13

Erase.bg 2025 评测:AI 背景移除工具的免费新标杆

Erase.bg 作为 2025 年领先的免费透明背景制作工具,凭借极简的 AI 驱动架构和跨平台支持,重新定义了电商与营销领域的图像编辑标准。本文深度解析其核心功能,对比 PhotoScissors 与 Clipping Magic 等竞品,突显其在处理复杂背景时的优势,并展示从上传图片到秒级处理的全流程体验,为开发者与创作者提供实用指南。

Erase.bg官方 / ADK编译 3 分钟