粗排处在召回和精排中间,核心任务就是在严格的毫秒延迟预算里,对召回输出的上千条候选内容快速打分、过滤,只保留一小部分高潜力物料交给计算开销更大的精排模型,它不追求打分绝对精准,但必须保住高价值内容不被误杀,同时大幅降低下游精排的算力压力,如果跳过粗排直接把召回全部候选送入精排,会出现延迟超标、QPS 上不去、服务器成本暴涨的问题。粗排最大的矛盾就是效果和速度之间的取舍,召回拿到的候选池一般在 1000~5000 条,精排只能稳定处理几百条以内,粗排要用轻量模型、少特征、简单交互结构完成筛选;很多线上粗排翻车,根源是模型做的太复杂导致超时,或是阈值卡太严把精排真正想要的优质内容提前过滤,也就是保不住对精排的召回率,离线指标看着好看,线上大盘指标反而下跌。完整的粗排接入调试链路,第一步先确定漏斗配额与延迟预算,定好召回输出数量、粗排保留送入精排的条数、粗排 P99 延迟上限;第二步选型轻量模型,控制特征数量,优先使用可以预计算的用户塔、物品塔向量,减少在线实时交叉特征;第三步构造训练样本,常用精排打分做蒸馏标签,对齐精排偏好,缓解样本偏差;第四步上线压测,观察延迟、吞吐、送入精排集合里优质内容的召回率;第五步持续迭代,监控粗排和精排的打分一致性,调整截断阈值、补充低成本特征,优化蒸馏损失;整套链路跑通之后,粗排就可以稳定充当精排的前置过滤器,在毫秒窗口完成候选压缩。
粗排核心技术清单
- 主流模型:双塔模型、轻量 MLP、简化版 Wide&Deep、LR、浅层 GBDT
- 特征约束:少量用户基础特征、物品基础特征、简单上下文特征,尽量少用高开销交叉特征
- 训练方案:精排知识蒸馏、Pairwise 排序损失、曝光行为样本
- 性能手段:向量预计算、特征缓存、批量打分、GPU 批量推理、阈值动态调控
- 核心监控指标:送入精排候选的召回率、粗排 P50/P99 延迟、吞吐、精排侧 CTR 衰减
召回、粗排、精排阶段对照
| 阶段 | 输入规模 | 延迟预算 | 模型复杂度 | 核心目标 | 风险点 |
|---|---|---|---|---|---|
| 召回 | 百万~亿级物料池 | <10ms | 极低 | 广召回,尽量不漏优质内容 | 召回质量差,带进大量噪声 |
| 粗排 | 1000~5000 条召回候选 | 5~20ms | 低 - 中等 | 快速过滤垃圾物料,给精排留优质候选 | 误杀高分物料、延迟超标 |
| 精排 | 100~500 条粗排输出 | 20~50ms | 高,深度模型 | 精细预估 CTR/CVR,精准排序 | 候选太多时算力和延迟爆炸 |
两条落地优化主线
- 性能主线:优先控制单请求推理开销,批量打分、缓存物品向量,严格卡死 P99 延迟,高并发场景优先双塔,在线尽量避免复杂交叉特征计算。
- 效果主线:用精排蒸馏对齐粗排打分偏好,重点监控 “粗排漏掉、精排高分” 的 Badcase,调整截断阈值,保证对精排的高召回,而不是单纯追求粗排自身 AUC。
【相关 FAQ】
问题 1:推荐系统粗排想要毫秒级筛出值得精排的内容,粗排和精排最核心区别是什么?
回答 1:推荐系统粗排毫秒级筛选是用轻量模型、少量特征快速压缩候选池,优先保速度和候选召回率;精排使用复杂深度模型、全量特征做精细预估,计算开销更大,只处理粗排筛选之后的少量候选。
问题 2:推荐系统粗排毫秒级筛选,为什么要用精排蒸馏来训练粗排模型?
回答 2:推荐系统粗排毫秒级筛选,直接拿用户点击样本训练容易出现样本偏差,用精排打分做蒸馏标签,能让粗排的打分偏好贴近精排,减少把精排看好的内容提前过滤掉的情况。
问题 3:推荐系统粗排毫秒级筛选候选,粗排是不是每个推荐系统都必须搭建?
回答 3:推荐系统粗排毫秒级筛选属于可选环节,如果召回输出候选数量很少、精排模型足够轻、流量不大,可以直接跳过粗排;当召回返回上千候选、精排开销高、并发压力大时,粗排才是刚需。
【参考资料】
[2026-11-18](推荐系统粗排:在毫秒窗口为精排筛选候选)InfoQ
[2026-11-10](美团搜索粗排优化实践:知识蒸馏与延迟平衡)美团技术团队
[2026-10-25](工业推荐链路:召回粗排精排漏斗设计与指标)51CTO 技术专栏
[2026-09-08](双塔粗排的线上性能优化:批量推理、向量缓存)阿里云开发者社区
[2026-08-12](粗排样本偏差、蒸馏对齐与召回率治理)RecSys 中文技术博客
[2026-07-03](Pre-Ranking latency budget and tradeoff in feed recommendation)arXiv 技术论文
【免责声明】
本文仅为推荐系统粗排技术资讯解读,不同业务(短视频、电商、资讯)的候选规模、延迟预算、模型选型差异很大;粗排截断阈值、特征集合、蒸馏方案需要结合自身流量、算力、大盘指标做 A/B 实验验证,本文内容不构成线上系统改造、模型选型决策建议,上线前务必完成压测和灰度放量。
本文来自作者[幻枢巡航]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/rgzn/202611/3525.html
评论列表(4条)
我是环球科技潮的签约作者“幻枢巡航”!
希望本篇文章《粗排如何在毫秒级筛出值得精排的内容?》能对你有所帮助!
本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技
本文概览:粗排处在召回和精排中间,核心任务就是在严格的毫秒延迟预算里,对召回输出的上千条候选内容快速打分、过滤,只保留一小部分高潜力物料交给计算开销更大的精排模型,它不追求打分绝对精准,但必须保住高价值内容不被误杀,同时大幅降低下游精排的算力压力,如果跳过粗排直接把召回全部候选送入精排,会出现延迟超标、QPS 上不去、服务器成本暴涨的问题。粗排最大的矛盾就是效果和速度之间的取舍,召回拿到的候选池一般在 1000~5000 条,精排只能稳定处理几百条以内,粗排要用轻量模型、少特征、简单交互结构完成筛选;很多线上粗排翻车,根源是模型做的太复杂导致超时,或是阈值卡太严把精排真正想要的优质内容提前过滤,也就是保不住对精排的召回率,离线指标看着好看,线上大盘指标反而下跌。完整的粗排接入调试链路,第一步先确定漏斗配额与延迟预算,定好召回输出数量、粗排保留送入精排的条数、粗排 P99 延迟上限;第二步选型轻量模型,控制特征数量,优先使用可以预计算的用户塔、物品塔向量,减少在线实时交叉特征;第三步构造训练样本,常用精排打分做蒸馏标签,对齐精排偏好,缓解样本偏差;第四步上线压测,观察延迟、吞吐、送入精排集合里优质内容的召回率;第五步持续迭代,监控粗排和精排的打分一致性,调整截断阈值、补充低成本特征,优化蒸馏损失;整套链路跑通之后,粗排就可以稳定充当精排的前置过滤器,在毫秒窗口完成候选压缩。