工程实践 Meta Engineering 2026/11/10
Meta 工程博客介绍 Facebook 的“Your algorithm”个性化推荐系统:用户可用自然语言声明兴趣,系统将偏好同步用于 Feed 和 Reels。文章拆解画像生成、偏好校验与存储、排序和投放优化,说明 Interested In 通过多路召回、相关性校验和配额控制避免新兴趣淹没信息流,Not Interested In 则在排序、LLM 重排和设备缓存失效中分层过滤。投放侧用补充尾部加载与缓存失效提升响应速度。LLM 用于生成画像、校验主题和最终重排,并用 LLM-as-judge 评估;文章也承认模糊输入理解等仍待改进,但未给出量化实验和模型内部细节。
推荐收录。文章给出可操作的推荐系统改造路径:偏好存储共享、多路召回、配额控制、分层过滤、补充拉取与缓存失效,以及小模型微调做重排和 LLM-as-judge 评估,均来自真实产品系统。适合推荐系统、LLM 应用和平台工程读者参考;主要风险是缺少量化指标与模型细节,迁移时需自行验证效果与成本。
职业经验 Spotify Engineering 2026/11/09
文章由Spotify三位产品经理从研究、模型、体验三个层次拆解AI产品管理:研究层以技术杠杆和跨团队方法为产品,模型层把基础模型当作面向内部团队的能力平台,体验层直接面向用户处理开放式输入。作者分别讨论如何用数据与评测塑造模型行为、把离线指标与线上体验连接起来、以集成契约和先验假设测试推动团队采用,并强调对话式反馈可反哺各层。核心结论是AI PM并非单一新工种,而是在产品管理基本功上叠加按栈位分化的专业能力。文章以Spotify内部实践为主,偏经验总结,缺少量化结果和可复现流程,适用边界需结合组织规模与产品形态判断。
推荐收录:文章以Spotify三个真实PM岗位为例,具体说明研究、基础模型和用户体验三层在目标、评测和“交付”上的差异,并给出评测即产品、先对齐成功指标再谈架构、用对话反馈反哺模型等可迁移做法。适合AI产品经理、推荐/平台团队和ML工程负责人理解跨层协作;局限是定性经验、缺少量化验证,不能直接当作通用流程模板。
工程实践 Meta Engineering 2026/10/28
文章介绍 Meta 新一代广告检索系统 Andromeda,针对候选广告规模激增后检索阶段模型质量与吞吐不足的问题,提出模型、系统与 GPU 硬件协同设计。模型侧将 LLM 式 MoE 引入检索,以多用户专家塔、上下文广告编码和 MoE 注意力门控在约少 300 倍推理 FLOPs 下逼近排序级效果;系统侧把索引匹配、融合打分与 Top-K 选择共置到单 GPU,并用单核融合避免中间张量写入 HBM、将网络流量降低约 100 倍。结果是在单 GH200 上打分超过 100 亿广告/秒,单 GPU 服务器端到端超过 10 亿广告/秒,并与 NVIDIA 优化使各组件获得 2–5 倍加速。文章还讨论向 Grace Blackwell 扩展及硬件余量,但实现细节和指标高度依赖 Meta 的生产负载与特定硬件,复现边界有限。
推荐收录:文章给出了从 MoE 检索架构、融合 GPU kernel 到索引/打分/Top-K 共置的完整工程证据,并量化了约 100 倍网络流量下降、单 GH200 100 亿广告/秒等结果。适合推荐系统、ML 系统与 GPU 性能工程师阅读,其按内存带宽和网络瓶颈做模型-系统联合设计的方法可迁移到大规模在线推理;需注意其专有生产环境和硬件依赖,不能直接复现。
工程实践 Meta Engineering 2026/10/19
Meta 工程博客介绍广告推荐中的 GenRecs Tokenization:不再为每个广告、商品或页面维护独立 ID,而是用稳定语义词表把多模态内容和互动信号编码为离散 token。流程是先用预训练多模态模型生成语义嵌入,再分解为独立子空间并量化到码本,得到短 token 序列。文章用聚类纯度、分布均衡、码本利用率等内在指标评估 tokenizer,称其与下游 CTR 预测相关,并在 GEM 与 Adaptive Ranking 中取得 +0.35% 转化提升。该表示有助于新品和长尾广告冷启动、跨广告系列迁移,并形成改善训练数据的反馈循环。未来方向包括统一多模态词表与高效服务 LLM 原生架构;但这是公司生产报告,未披露完整实验设置和复现细节,增益也较有限。
推荐收录。文章给出了语义 token 化在 Meta 广告推荐中的生产架构、三阶段流水线、tokenizer 质量指标和 +0.35% 转化增益,属于可迁移的推荐系统工程案例。适合推荐系统、LLM 应用和 AI 工程化读者参考其冷启动与尾部分布思路;但需注意其公司博客属性和复现细节不足,增益幅度有限。
工程实践 Spotify Engineering 2026/10/16
文章介绍 Spotify 生成式推荐的推理工程实践:播客推荐用语义 ID 与 beam search 生成候选,用候选打分排序,并将用户 embedding 投影为 soft token 注入提示以实现个性化。作者对比 vLLM 与 SGLang 的生产限制,说明如何与 NVIDIA 合作,将多序列 beam search、out-of-tree 模型、embedding 注入和多项目打分等能力补齐到 TensorRT LLM,并以自定义 Qwen3 插件接入 soft token。基准显示 Qwen3-1.7B 上 beam search 成本最多降 54%、打分成本降 7%。文章展示了从原型到统一推理栈的工程取舍,但结论主要限于特定模型与负载,部分自定义 serving 仍需自建,量化与 Blackwell 优化尚未展开。
推荐收录:文章以 Spotify 播客推荐的真实生产化为背景,具体说明 beam search、multi-item scoring 和 soft token 个性化在 vLLM、SGLang 与 TensorRT LLM 间的取舍,并给出上游功能与 54%/7% 成本收益。适合推荐系统、LLM 推理优化和平台工程读者,可迁移的是需求拆解、引擎选型与开源协作方法;局限是基准集中于 Qwen3-1.7B,复现细节有限。
工程实践 Netflix TechBlog 2026/10/14
文章介绍 Netflix 如何把个性化推荐基础模型集成到生产应用,提出三种集成模式:Embedding、Subgraph 和 Fine-tuning。Embedding 通过 Embedding Store 每日刷新画像与物品向量,并用嵌入稳定化解决重训漂移,成本低、易接入,但有新鲜度延迟。Subgraph 把基础模型解码器嵌入下游模型,可端到端微调且无推理时差,但特征生成和推理成本更高,适合高收益场景。Fine-tuning 用应用数据定制模型,可加输出头或冻结层,能快速形成基线,但模型与流水线维护、延迟 SLA 更复杂。文章结论是三种模式需按延迟、成本、技术栈和收益权衡选用,并依赖配套平台能力。
推荐收录。文章来自 Netflix 生产实践,给出三种集成模式的具体机制、代价与适用边界,而非泛泛介绍大模型。对做推荐系统、基础模型工程化或 MLOps 的读者,可迁移其关于嵌入新鲜度、子图集成、微调框架和平台基础设施的权衡方法。
科研议题 Netflix TechBlog 2026/10/14
文章介绍 Netflix 如何衡量个性化推荐创造的因果价值,并总结其发表于 International Journal of Industrial Organization、将在 ACM EC 展示的研究。作者指出直接比较推荐标题观看量会混淆推荐 targeting 与用户既有偏好,而大规模关闭个性化又不可接受,因此采用行为模型加小规模 A/B 实验验证的混合方案:用低秩选择模型分离用户动态偏好、标题吸引力和推荐加成,再用随机扰动标题可见性得到的 diversion ratio 验证模型。模型预测与实验相关性达 0.86、R² 为 0.73;反事实显示随机、热度、矩阵分解推荐分别使观看量下降 16%、12% 和 4%,且当前系统在提升 engagement 时保持更分散消费。分解表明推荐价值主要来自 targeting,对中等热度标题最强,但结论依赖条件可忽略性等假设,外推需谨慎。
推荐收录,因为文章把推荐系统评估从相关性指标推进到因果测量:它给出低秩选择模型、A/B 验证方案和反事实基线对比,并用 0.86 相关性、R² 0.73 以及 16%/12%/4% 的 engagement 差异支撑结论。适合推荐系统、增长实验、因果推断和平台策略的读者,其“模型估计反事实、实验校验替代模式”的流程可迁移到搜索、广告等内容平台。主要风险是条件可忽略性与 Netflix 场景特有限制,跨平台使用需重新验证。
工程实践 Meta Engineering 2026/10/13
Meta 工程博客介绍 GEM 广告推荐基础模型 2026 版:它从 Facebook、Instagram、Reels 等分域优化转向单一中心基础模型,跨全部广告场景与目标联合预测点击和转化。核心包括 LLM 式 Kunlun 架构、超长用户序列、Block Attention、GDPA、MoE 交叉交互,以及 LoopFM 结构化表示和 Solaris 推测预计算来迁移知识。训练侧用低精度算子和 5D 并行把 E2E MFU 提升到 20-25%,总 FLOPs 扩大 4 倍,并报告 18.9% 转化和 12% CTR 提升。局限是厂商自述、缺少独立复现和完整实现细节,更适合大规模广告或推荐系统团队参考。
推荐收录。文章给出 Meta 生产级广告推荐基础模型的完整工程叙事:从统一 cross-surface 训练、Kunlun 架构、LoopFM/Solaris 知识迁移到 5D 并行与低精度算子,均附有量化的性能与业务收益。适合推荐系统、AI 工程化和大规模训练基础设施读者,可迁移其中心模型、后训练和训练效率分解思路;但需注意这是厂商博客,缺少独立评测与可复现细节。
工程实践 Meta Engineering 2026/10/12
文章介绍 Meta 如何把推理集群中局部闲置、可随时回收的 opportunistic capacity 汇聚成共享池,在不影响基线广告服务的前提下提升推荐质量。系统利用 Ads 推理的高弹性和自包含特征,设计两个互补杠杆:Rank More Ads 动态增加排序候选数量,需 CPU 与加速器余量;Serve Better Models 动态提高更强模型覆盖比例,主要消耗加速器余量。为安全消费波动容量,文章采用物理/逻辑隔离、RMA 延迟反馈 PID 控制、SBM 价值感知路由,以及服务端与客户端毫秒级 value-aware load shedding。核心结论是可选项随容量扩张收缩,基线延迟与可靠性受保护;边界是依赖特定负载结构,未来需扩展弹性范围、跨区域硬件可迁移性和自动容量分配。
推荐收录:文章给出 Meta 在大规模推理 fleet 中真实落地的容量池化方案,包括 RMA/SBM 对 CPU 与加速器的不同消耗、隔离与反馈控制、价值感知丢载等直接证据。适合推荐系统、推理平台、容量调度和 SRE 稳定性工程读者,其机会容量复用与优雅降级方法可迁移到其他高并发 ML 服务。
工程实践 NVIDIA Technical Blog 2026/09/30
文章介绍如何把 HSTU 生成式推荐模型从 PyTorch 开发迁移到生产推理,结合 NVIDIA Dynamo-Triton、PyTorch AOTInductor 编译、FlexKV KV 缓存与 NV Embedding Cache。HSTU 将推荐建模为用户行为序列的下一项预测,输入由上下文、物品和动作 token 组成,长历史导致重复计算。作者给出端到端流程:构建自定义算子、AOTI 导出并使用 torch.export 编译成 C++ 可加载包、启动 KV 缓存服务、原生 C++ replay 校验、以 Dynamo-Triton 的 torch_aoti 后端部署,并说明 GPU 分页缓存与主机侧缓存的分层设计。在 RTX PRO 6000 Blackwell 单卡、KuaiRand-1K 排序配置(8,320 对齐序列长度、BF16 权重与 KV)下,batch size 8 时三层和八层模型相比同配置无缓存分别取得最高 4.47x 和 5.93x 延迟下降,八层达 0.678 ms/逻辑请求。该方案适用于历史前缀稳定、用户频繁返回的推荐场景,但基准限于单卡与特定数据集,未讨论多卡扩展、缓存一致性与命中率下降时的退化行为。
推荐收录:文章给出可复现的端到端部署路径与明确量化基准(最高 5.93x 延迟下降、0.678 ms/请求),并解释了 AOTI 编译、分页 KV 缓存与嵌入缓存各自带来的收益来源,属于真实工程取舍而非单纯产品宣传。适合负责推荐系统推理、GPU 服务优化或 Dynamo-Triton 落地的工程师,其缓存分层与编译部署思路可迁移到其他长序列模型服务;需注意结论基于单卡与 KuaiRand-1K 配置,扩展性与缓存命中率波动仍需自行验证。
工程实践 知乎 - SmartCode 得物技术 2026/09/24
文章系统复盘得物交易搜索团队一年内从判别式检索走向生成式召回的工程实践。作者先以LLM增强文本索引,覆盖视觉理解、社区语料、I2I推理、详情页OCR与线上行为锚点,再用四塔多模态向量融合视觉、文本与行为信号。随后引入HLLM进行用户、商品、Query语义解耦,以HSTU把行为序列Token化并验证搜索场景的Scaling Law,并通过语义ID实现语义索引召回与自回归候选生成。最后提出召粗一体化架构,试图用统一生成模型替代部分级联链路。文章给出离线与线上收益趋势,但关键指标披露有限,且SID量化损失、实时增量更新、MFU约17%等仍是待解问题。
推荐收录:文章给出了从LLM索引增强、多模态表征、HLLM/HSTU到语义ID与召粗一体的完整落地路径,并讨论Scaling Law、MFU、SID增量更新等真实约束,工程证据密度高。适合搜索/推荐算法与工程团队参考,可迁移到生成式召回、语义ID和端到端排序系统设计;不足是关键线上指标披露有限,部分模块细节需结合后续文章验证。
工程实践 美团技术团队
美团技术团队介绍统一推荐基座大模型 MTFM,在 MTGR 基础上首次实现外卖多个主要业务的统一精排。文章围绕规模可扩展性、场景可延展性和架构高效性三大挑战,提出异构 Tokenizer 与动态掩码实现多场景特征免对齐,混合注意力与 Target Scale-Up 提升 Scaling 能力,并借鉴 LLM 的初始化、Muon 优化器、动态归一化等训练实践。系统层面采用 User-Level 训练范式与定制 GPU 算子,降低训推开销;在线多个业务订单提升 2.06%~6.68%,推理成本降低 24%,工作被 KDD 2026 收录。适用边界在于结论来自美团外卖业务与特定模型规模,跨行业迁移仍需验证。
推荐收录。文章给出 MTFM 的完整架构、训练策略、GPU 算子优化、Scaling 验证与线上 A/B 收益(多业务订单提升 2.06%~6.68%、推理成本降 24%),属于少见的工业级推荐基座落地复盘。适合推荐系统、AI 工程化与大规模训推基础设施读者,其异构 Tokenizer、User-Level 训练和算子优化可迁移;但具体收益依赖美团外卖数据与业务结构,跨场景复用需重新验证。
工程实践 Netflix TechBlog 2026/08/28
这篇文章介绍了 Netflix 如何利用多模态嵌入(CLIP 与 MediaFM)解决艺术作品和视频预览的冷启动个性化问题。作者首先说明 ID 型模型在资产新上线时缺乏行为数据的痛点,然后提出将预训练 CLIP 图像嵌入拼接进资产表示,使模型能“看到”画面内容,并将五个按画布分别训练的模型合并为一个统一模型,通过基于长期奖励的样本加权来混合不同画布数据。离线评估采用基于探索流量的逆倾向得分(IPS),在线 A/B 与消融实验表明,只有图像嵌入与模型合并结合才能获得显著提升。视频预览方面引入多模态基础模型 MediaFM,融合视觉、音频和文本信号,超越纯视觉 SeqCLIP。此外,文章描述了一个线性探针代理任务来低成本筛选新嵌入,以及共享 Embedding Store 基础设施支撑快速部署。该方案对大规模内容推荐系统有参考价值,但其效果依赖于充足的预训练模型和成熟的 A/B 实验平台。
这篇文章提供了完整的生产级案例:从问题定义、方案设计、消融实验、离线评估到线上 A/B,证据充分。适合推荐系统、AI 工程化和媒体个性化领域的工程师与研究者。其可迁移价值在于冷启动处理、模型合并、IPS 离线评估和代理任务筛选嵌入的方法论;风险是这些实践需要相应的基础设施(如 Embedding Store)和实验体系支持。
科研议题 美团技术团队
本文是美团技术团队对其被 KDD 2026 收录的 8 篇论文的精选介绍,覆盖工业推荐、奖励建模、智能体搜索、广告拍卖与竞价、ETA 预测及生成式推荐训练系统等方向。每篇论文配有核心问题、方法创新和实验结论,例如 MTFM 通过异质 Token 无对齐跨域建模,CDRRM 用对比驱动生成评分准则提升奖励模型可解释性,LocalSearchBench 构建本地生活智能体搜索基准,HMAF 提出分层多坑位广告分配框架,MTGenRec 基于 PyTorch 优化稀疏-稠密训练并取得 1.6-2.4 倍加速。文章还介绍了团队在 KDD Cup 2026 DataAgents 赛道夺冠的竞赛思路,包括 Agent 运行时、多模态子智能体和错误重试机制。整体偏重成果摘要,细节有限,但对了解工业界前沿布局有快速参考价值。
推荐收录。文章提供了美团在多个数据挖掘与推荐广告方向的最新研究条目和核心贡献,每篇论文都给出了问题定义、方法要点和实验结论,适合研究者快速检索相关主题并追踪后续全文。竞赛部分展示了数据智能体在真实异构数据场景下的工程化方案,对 Agent 落地有借鉴意义。但注意内容为摘要性质,需要读者进一步阅读原论文获取完整细节。
工程实践 LinkedIn Engineering - Scalability
本文介绍 LinkedIn 自研图数据库 LIquid 如何支撑其经济图谱(2700 亿条边、200 万 QPS)的实时访问。文章以 People You May Know 功能为例,说明从遗留系统 GAIA 迁移到 LIquid 的架构:用声明式 Datalog 查询做图遍历,再由 Venice 和 Pinot 提供特征与排序。迁移后 QPS 从 120 提升到 18000,延迟降到平均 50ms 以下,CPU 降低 3 倍以上,并支持更细粒度、可解释的推荐和快速 A/B 实验。作者也指出当前同质化架构在数据规模扩大时的低效问题,以及未来分层存储与工作负载优化的方向。
文章以真实生产系统为例,提供了从离线批量到实时图查询的完整迁移路径和可量化性能结果,证据具体、架构清晰。适合关注大规模图数据库、实时推荐或高并发基础设施的工程师借鉴,其关于声明式查询、索引优化和成本控制的方法具有跨团队可迁移价值。
工程实践 LinkedIn Engineering - Scalability
文章详细介绍了 LinkedIn 如何集成 SGLang 来优化其基于 LLM 的推荐系统,重点解决长输入短输出场景下的推理延迟问题。作者提出了多项目评分(MIS)方法,通过自定义注意力掩码复用成员前缀,将单个请求的延迟降低 69%,并进一步通过 FA3 内核和逐 token FP8 量化获得额外加速。此外,文章还介绍了 Knock-Knock 技术,利用预取成员上下文 KV 缓存并与项目检索并行,将整体延迟从 520ms 降低到 200ms。文中包含具体性能数据和开源贡献,展示了从内核到系统层面的优化路径。
文章展示了 LinkedIn 在真实生产环境中优化推荐系统推理的完整工程案例,提供了多项目评分、FP8 精细量化、延迟隐藏等可复用的技术方案和量化指标。适合从事推荐系统、LLM 推理优化和基础设施建设的工程师参考,其从内核到系统的优化顺序和取舍思路可迁移至类似长上下文低延迟场景。
工程实践 Meta Engineering 2026/08/05
本文介绍了 Meta 广告排序系统在大规模序列学习上的两项架构创新:多阶段序列模型将计算密集的离线用户建模与对延迟敏感的在线排序解耦,通过异步处理长用户历史并缓存嵌入,在不线性增加服务资源的前提下提升模型容量;密集 tokenization 和目标感知多头注意力让模型直接从数据中学习稀疏特征与行为序列的交互,取代手动特征工程。该设计带来了可预测的 LLM 式扩展规律,即性能随计算量呈对数线性增长,并总结出模型形状平衡、多阶段可调性、序列组成多样性和语义特征表征四个扩展杠杆。文章给出了在 Instagram 和 Facebook 上的转化率与点击率提升数据,并指出该架构已作为 GEM 模型的核心组件,可泛化至各类广告排序任务。
推荐收录,因为文章不仅公开了关键技术细节(离线/在线解耦、密集 tokenization、目标感知注意力),还系统论证了在广告推荐领域建立起可预测扩展规律的方法与实验证据。对于推荐系统、广告架构及大规模模型服务的工程师和研究者,文中分离建模阶段以平衡复杂度与延迟的思路具有很强的可迁移性,而扩展规律的识别路径可为探索其他大规模机器学习系统提供参考。
工程实践 Netflix TechBlog 2026/07/30
文章介绍了 Netflix 的 GenRec,一个基于内部基础 LLM 并经过后训练的推荐排序模型。它将用户历史、物品元数据和上下文通过“上下文工程”转化为自然语言提示,添加目录感知的评分头,并采用奖励加权的多目标损失(排序、语言建模、与长期满意度对齐)进行训练。在离线评估和大规模在线 A/B 测试中,GenRec 在仅使用少量 Phase-2 标注数据和输入信号的情况下,超越了成熟的生产级排序器,并在短期和长期指标上取得统计显著提升。该工作展示了从特征工程到上下文工程、从定制架构到共享基础骨架的范式转变,以及通过预填充推理和上下文压缩控制服务成本的方法。文章还讨论了数据与模型缩放规律、各训练阶段的贡献以及上下文长度优化,为大规模个性化推荐系统提供了可迁移的设计思路和工程权衡。
强烈推荐收录,因为本文提供了真实生产环境中将 LLM 应用于推荐排序的端到端工程案例,覆盖架构设计、训练策略、成本优化和实验验证,并揭示了从特征工程到上下文工程的范式转变。适合推荐系统工程师、ML 架构师和关注 LLM 工程化的读者,文中关于数据效率、缩放定律和上下文压缩的实践经验具有高迁移价值。
工程实践 Meta Engineering 2026/07/15
本文介绍了 Meta 广告漏斗深度优化中的层级兴趣表征系统,旨在通过统一嵌入连接用户、广告主与产品。系统基于大规模异构交互图,融合多模态世界知识(由 LLM 处理)以缓解稀疏信号问题,并采用 Transformer 架构实施层级编码:引入图结构偏差的注意力机制(使用 FlexAttention 实现内存高效计算)、自监督跨视图蒸馏(结合 Sinkhorn-Knopp 均衡)与交互预测联合训练。最终输出通用嵌入和“意义包”离散令牌,可服务于检索、排序等下游任务。文章详细阐述了图构建、在线基础设施、因果性保证与规模化训练流水线,提供了工业级推荐系统在复杂图学习上的工程实践,但方法高度依赖 Meta 内部平台与数据规模,迁移时需考虑领域适配。
推荐收录。本文来自 Meta 工程博客,系统披露了用于大规模广告推荐的上游层级兴趣表征系统,完整覆盖从图构建、多模态知识融合、Transformer 层级编码到在线推理的工程细节,并公开了 FlexAttention、跨视图蒸馏等具体设计决策与缩放经验。适合推荐系统、图学习及大规模 ML 基础设施方向的研究者和工程师参考,可迁移至处理稀疏信号、层级表征与工业级图应用的场景。需注意部分架构深度绑定 Meta 生态,但核心思想与权衡思路具备通用价值。
工程实践 知乎 - SmartCode 得物技术 2026/07/14
本文详细介绍了得物推荐系统诊断Agent“推查查”的设计与工程实践。针对推荐系统异常排查中人工依赖高、经验难沉淀的痛点,设计了一种混合智能体架构:Highway模式通过预编排的Story标准化流水线快速处理80%常见问题,ATV模式基于ReAct循环自主推理解决20%长尾复杂问题,中间由智能调度器无缝切换。技术实现上,通过插件化Skill工具集、Story编排、ReAct约束机制以及结合OpenViking与Graphify的知识库,保障了诊断的确定性与可扩展性。进化层从排查记录中自动提炼通用方法并生成新Story,实现系统自进化。实战案例验证了方案的有效性,也指出了知识检索触发策略等现有局限。
展示了一个推荐系统智能诊断系统的完整工程落地过程,包含架构设计、关键技术实现和进化机制,对于从事推荐系统、AI工程化或系统可靠性的工程师具有可迁移的参考价值。文章细节丰富,从问题定义到方案权衡再到验证,体现了工程实践的深度,值得收录。
工程实践 知乎 - SmartCode 得物技术 2026/06/30
文章梳理得物推荐团队自研 AI Harness 的工程化实践,核心目标不是让 AI 只会写代码,而是把需求、开发、评测和复盘纳入 PDCA 闭环,让 AI 在复杂推荐系统中按目标生产。作者将流程拆成 Plan/Do/Check/Act 的七阶段护栏:用结构化 Contract 约束需求,用零等待环境支撑执行,用 AI 评测平台做 7x24 体验检查,并把 Bad Case 回流为可复用经验。文中还提出 L1/L2/L3 知识治理与 Highway+ATV 混合 Agent 架构,用确定性代码覆盖高频路径、用受控探索处理长尾问题。文章给出了补充注释后准确率提升、token 消耗下降等结果,但整体更偏体系框架与方法论,具体实现细节仍留待后续篇章展开。
文章直接展示了将 LLM/Agent 纳入推荐系统生产链路的完整工程框架,并给出 Contract、7x24 评测和混合 Agent 的落地证据。适合做 AI 工程化、推荐系统和研发流程治理的参考,尤其对想把生成式 AI 变成稳定生产能力的团队有迁移价值。
工程实践 Netflix TechBlog 2026/06/29
文章介绍 Netflix 将首页推荐重构为端到端生成式系统 GenPage:把用户历史、画像和请求上下文序列化为提示词,再由单个 decoder-only Transformer 自回归生成整页首页,包括行、实体和布局。训练上沿用 LLM 方案,先做 next-token 预训练学习“首页语言”,再用加权二分类或强化学习做后训练,以对齐用户满意度和页面级奖励。工程上作者重点解决了实时延迟、冷启动、目录更新、业务规则约束和增量训练等问题,采用领域定制分词、语义 embedding 融合、fallback token、约束解码与混合行解码来兼顾可控性与效率。离线实验显示,丰富上下文往往比单纯扩大模型更有效,RL 还能提升页面多样性;在线 A/B 中,GenPage 在核心参与度指标上显著优于成熟多阶段基线,同时将端到端延迟降低约 20%。文章也指出当前仍依赖部分手工摘要,长上下文与更通用的语言/多模态能力仍是后续方向。
推荐收录,因为它给出了把推荐系统改造成生成式 Transformer 的完整工程链路:数据表示、训练范式、RL 对齐、业务规则约束与线上验证都有直接证据。适合做个性化推荐、AI 工程化和大模型落地的读者参考,尤其可迁移的是“先丰富上下文再扩模型”“用约束解码保业务规则”“用混合解码降延迟”的方法。
工程实践 Netflix TechBlog 2026/06/19
这篇文章介绍了 Netflix 在个性化通知系统上的一次架构重构:将原本耦合的单一发送决策拆分为“慢策略”和“快策略”两层。慢层负责按周尺度为用户制定消息频率和渠道节奏等长期计划,快层负责在实时机会到来时选择具体发送内容,从而同时兼顾短期点击与长期疲劳、退订风险。文章还解释了效用函数如何把正向参与信号、负反馈信号和统一消息成本结合起来,以及如何通过 feature store 在两层之间异步传递策略状态。
推荐收录,因为它不仅讲“怎么建模”,更讲清了推荐/通知系统中长期目标与短期决策冲突的工程化解法,具有很强的可迁移性。对于做推荐系统、消息触达、AI 产品决策或策略分层架构的读者,这篇文章能直接提供可复用的设计思路和权衡框架。
工程实践 Instacart Tech Blog 2026/06/02
文章复盘了 Instacart 广告召回系统从“对固定候选集打分”转向“按 token 自回归生成”的重构过程。作者先分析了旧式 BERT 检索在词表膨胀、冷启动和候选结构漂移上的瓶颈,再介绍用 Semantic IDs 作为新产品词汇、用上下文模板组织训练输入、以及通过 beam search 生成候选并映射回商品索引的完整方案。为了支撑新模型,团队还重建了 GPU serving 栈(TensorRT-LLM、Triton、Go-native 服务),最终在两条发现型广告位上取得了约 +5% CTR、+34% add-to-carts 的线上收益,并显著提升了长尾类目和品牌多样性。
推荐收录,因为它不是单纯的产品宣传,而是把广告召回从建模、表示、训练、检索到推理基础设施完整串起来,呈现了一个可迁移的工业级重构范式。对于做推荐系统、检索系统和大模型推理落地的读者,这篇文章能直接提供“何时从打分转向生成”“如何重做表示层”“如何为生成式召回重建 serving 栈”的判断框架。
工程实践 Instacart Tech Blog 2026/06/02
文章介绍了 Instacart 如何在海量商品目录中构建 semantic IDs,用离散代码来表达商品语义关系,从而解决冷启动、长尾覆盖和类目标注错误等问题。核心方法是基于产品 embedding 训练残差向量量化器,并加入利用目录树结构的对比学习正则,使代码前缀与商品语义层级对齐;同时作者还区分了面向精确替代的 ESCI 与面向探索发现的 ESCI+Gemma 两种表示策略。文章还给出了离线评估方式、失效案例和生产落地收益,说明该方案不仅能支持召回和推荐,也能反向用于目录质量审计。
推荐收录,因为文章把一个大规模推荐/检索系统中的表示学习、量化压缩、对比训练和评估方法串成了完整工程方案,而不是停留在概念介绍。它对做推荐系统、商品理解、向量检索和 AI 工程化的读者都有可迁移价值,尤其适合理解“如何把连续 embedding 变成可生产的离散语义 ID”。
工程实践 Instacart Tech Blog 2026/05/04
文章围绕 Instacart 的 Carrot Ads 在新零售伙伴接入时遇到的冷启动问题展开,核心是如何把 Marketplace 中海量第一方点击数据的经验迁移到目标伙伴站点的 pCTR 预测上。作者提出了 Domain Adaptive Learning 方案,从神经网络层复用并微调共享 embedding 和深层表示,同时在训练数据层对齐分类体系、归一化信号并裁剪低价值特征,以兼顾效果和实时拍卖延迟。文中还给出了评估结论:在低数据和高数据场景下都能提升 CTR、点击量和广告收入,但 schema 映射与模型对齐仍需要人工审核,以避免 negative transfer。
推荐收录,因为它不是泛泛介绍迁移学习,而是结合广告排序、冷启动、特征对齐和延迟约束,讲清了一个可落地的跨域建模方案。对做推荐、广告、增长或多租户模型复用的工程团队都有直接参考价值,尤其适合借鉴其“模型层 + 数据层”双重适配思路。
工程实践 Instacart Tech Blog 2026/02/26
本文讲述 Instacart 将 LLM 引入 Shopping Hub 推荐页的早期实践,目标是突破传统“静态内容库+统一排序”在个性化、页面一致性和快速迭代上的限制。作者先比较了自底向上与自顶向下两种生成范式,最终选择分阶段的自顶向下流水线:先生成页面主题与用户意图,再将主题映射为可检索关键词,随后做质量、多样性与业务约束过滤,最后接入既有排序系统。实现上使用了教师-学生微调、RAG、结构化约束解码以及 LLM-as-a-judge 和轻量分类器等多层评估与过滤手段,以控制成本并保证线上安全。文章还总结了将任务拆小、把评估前置、用结构化输入输出提升稳定性的经验。其边界在于当前仍处于早期阶段,效果主要来自离线评估和初步 A/B,尚未完全替代原有推荐体系。
收录价值明确:文章给出了 LLM 介入推荐系统的完整工程链路,包括分层生成、RAG、教师-学生训练和多级评估,且说明了为何放弃单模型端到端方案。适合做 AI 推荐、生成式内容和线上评估体系设计的参考,但需注意它仍是早期实验,结论以初步离线/A/B 结果为主。