Meta Engineering

34 篇内容

工程实践Meta Engineering

Your Algorithm: Giving People More Ways to Personalize Facebook Recommendations

Meta 工程博客介绍 Facebook 的“Your algorithm”个性化推荐系统:用户可用自然语言声明兴趣,系统将偏好同步用于 Feed 和 Reels。文章拆解画像生成、偏好校验与存储、排序和投放优化,说明 Interested In 通过多路召回、相关性校验和配额控制避免新兴趣淹没信息流,Not Interested In 则在排序、LLM 重排和设备缓存失效中分层过滤。投放侧用补充尾部加载与缓存失效提升响应速度。LLM 用于生成画像、校验主题和最终重排,并用 LLM-as-judge 评估;文章也承认模糊输入理解等仍待改进,但未给出量化实验和模型内部细节。

推荐收录。文章给出可操作的推荐系统改造路径:偏好存储共享、多路召回、配额控制、分层过滤、补充拉取与缓存失效,以及小模型微调做重排和 LLM-as-judge 评估,均来自真实产品系统。适合推荐系统、LLM 应用和平台工程读者参考;主要风险是缺少量化指标与模型细节,迁移时需自行验证效果与成本。

工程实践Meta Engineering

How We Built TLX: A Hardware-Native GPU Compiler for Production ML at Scale

文章介绍 Meta 为弥合 Triton 的高生产力与 CUDA 底层控制之间的鸿沟而构建的 TLX:它在 Triton 之上引入以 warp group 为一级执行单元的 MIMW 抽象,显式表达生产者/消费者分工、mbarrier 同步、TMA/TMEM 异步内存搬运、cluster 协作和可选布局。TLX 保留 Triton 的 Python 编程与自动调优体验,同时让开发者直接编排现代 GPU 的异步执行结构。文中给出 GEM 推荐模型训练、RecSys 推理 IKBO 和 MoE 分布式 grouped GEMM 三个生产案例,报告 20–25% E2E MFU、最高约 2/3 计算密集延迟下降和 4 倍单 kernel 加速。其适用边界是主要覆盖 NVIDIA Hopper/Blackwell 与 AMD MI300/MI350x,自动生成编排及 torch.compile 后端仍在推进。

推荐收录:文章不仅解释 TLX 的 MIMW 抽象和五类扩展,还用 GEM、IKBO、分布式 grouped GEMM 的生产部署及量化收益证明其工程价值。适合 GPU 编译器、训练/推理性能和 ML 基础设施工程师,尤其关注 Triton 扩展、warp specialization 与 kernel 融合的读者。可迁移的是从真实负载出发、以生产力与性能为乘数、渐进扩展而非重写语言的编译器设计方法;需注意案例依赖 Meta 的 PyTorch/Triton 栈,外部复现证据有限。

工程实践Meta Engineering

Extending LLDB to Debug Applications That Span CPUs and GPUs

文章介绍 Meta 在 lldb-server 中构建的厂商中立加速器插件架构,用于调试跨 CPU 与 GPU 的应用。其核心是把 CPU 和 GPU 表示为两个独立 LLDB target,各自维护架构、线程、寄存器和地址空间,再由插件在宿主进程设置内部断点、初始化厂商调试 API 并建立设备连接,在单一会话中协同调试。公共层负责插件发现、GDB remote 协议扩展、断点与执行同步,厂商后端只需把设备调试 API 映射到 LLDB 的进程、线程、内存和停止原因等抽象;文中给出 HIP 示例、mock 插件测试,并说明大部分框架已上游至 LLVM。该方案适用于使用受支持 GPU runtime 的应用,CPU-only 路径无额外开销,但仍依赖厂商插件,且未量化性能与复杂故障场景下的效果。

推荐收录:文章给出可验证的架构边界、GDB remote 协议扩展、mock 测试和上游进展,不是产品宣传。它适合调试器、IDE、GPU runtime 和开发者工具基础设施工程师,读者可迁移其中的“共享调试器+厂商插件”分层、双 target 协调和测试隔离方法;主要局限是未提供性能数据与多厂商落地细节。

工程实践Meta Engineering

F3 Lightning: How Meta Accelerates Ads ML Features to Production at Scale

Meta 的 F3 把广告排序模型所需的上万特征编译成共享 DAG 合并图以提升服务效率,但合并图同时是发布单元,任一特征定义或模型测试失败都会阻塞整个流水线。F3 Lightning 将部署边界与执行边界拆开:每个特征独立编译、校验、发布和回滚,服务启动时再用内容派生的稳定标识、全局执行计划与拓扑排序合并共享计算,并通过单请求共享内存缓冲和稠密索引映射降低重复计算与缓存缺失。线上结果表明,同类特征到达生产约快 3.6 倍,且基础设施算力成本不增加。该方案适用于高并发 ML 特征服务平台,但高度依赖 Meta 的广告特征规模和运行时约束,文章未充分讨论跨机房容灾与长期维护成本。

推荐收录。文章以 Meta 广告 ML 特征服务为真实场景,完整呈现了从合并图全量发布瓶颈到独立发布、启动期共享执行、共享缓冲区和稠密索引的工程演进,并报告 3.6 倍发布提速且算力不增。对构建大规模特征平台、ML 基础设施和低延迟服务的读者,“部署与执行解耦”“启动期做不变工作”“内存布局影响 CPU”三条经验可直接迁移;但需注意方案依赖 Meta 的规模和运行时,不能简单照搬。

工程实践Meta Engineering

Catching Bugs Before They Land: JiTTesting’s Human-on-the-Loop Approach at Full Scale

Meta 工程团队介绍 Catching JiTTests:在代码合入前用 LLM 自动生成可执行测试,让测试以失败方式暴露 diff 引入的行为差异。系统含意图感知与“dodgy diff”两条生成工作流,并用 LLM-as-Judge 集成和规则化 RubFake 过滤误报,最后以 human-on-the-loop 让工程师按聚合结果介入。它利用夜间空闲算力优先处理高风险 diff,避免拖慢开发节奏。上线后 589 名工程师参与,真阳性率约 60%,2026 年上半年在合入前捕获 74 个隐私 SEV,并使相关隐私 SEV 下降 20%。其效果依赖 Meta 的规模、算力和风险模型,外部可迁移性与误报成本仍需验证。

推荐收录。文章给出了从高风险 diff 触发、双工作流生成、LLM-as-Judge 与规则过滤到 human-on-the-loop 的完整工程闭环,并披露 60% 真阳性、74 个隐私 SEV 等量化结果。对构建 AI 辅助测试、代码审查或大规模 CI 质量门禁的团队有较高迁移价值,但需注意其算力消耗、误报治理和 Meta 环境特异性。

工程实践Meta Engineering

Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design

文章介绍 Meta 新一代广告检索系统 Andromeda,针对候选广告规模激增后检索阶段模型质量与吞吐不足的问题,提出模型、系统与 GPU 硬件协同设计。模型侧将 LLM 式 MoE 引入检索,以多用户专家塔、上下文广告编码和 MoE 注意力门控在约少 300 倍推理 FLOPs 下逼近排序级效果;系统侧把索引匹配、融合打分与 Top-K 选择共置到单 GPU,并用单核融合避免中间张量写入 HBM、将网络流量降低约 100 倍。结果是在单 GH200 上打分超过 100 亿广告/秒,单 GPU 服务器端到端超过 10 亿广告/秒,并与 NVIDIA 优化使各组件获得 2–5 倍加速。文章还讨论向 Grace Blackwell 扩展及硬件余量,但实现细节和指标高度依赖 Meta 的生产负载与特定硬件,复现边界有限。

推荐收录:文章给出了从 MoE 检索架构、融合 GPU kernel 到索引/打分/Top-K 共置的完整工程证据,并量化了约 100 倍网络流量下降、单 GH200 100 亿广告/秒等结果。适合推荐系统、ML 系统与 GPU 性能工程师阅读,其按内存带宽和网络瓶颈做模型-系统联合设计的方法可迁移到大规模在线推理;需注意其专有生产环境和硬件依赖,不能直接复现。

工程实践Meta Engineering

PrivacyLib: Privacy Controls at the Data Access Boundary

文章介绍 Meta 的 PrivacyLib:在数百个数据与处理系统客户端的数据访问边界运行通用隐私检查库,把系统集成与具体需求实现分离,通过 enforcing/observing 模块复用同一接入。它归纳覆盖、规模与可靠性挑战,并用五类通用操作、构建期化简、进程内缓存、轻量遥测和 RPC 签名令牌降低每次检查成本。变更采用仿真对比、独立服务部署和运行时灰度,限制故障边界。对内部 AI Agent,PrivacyLib 借助上下文传播与 Agent Observability 模块观察并阻断越权访问。其边界是未集成客户端和不受支持 RPC 路径仍需单独接入,且逐服务部署使变更全量传播较慢。

推荐收录。文章给出架构挑战表、代码示例、模块灰度与仿真回放等直接证据,说明如何在热路径上兼顾覆盖、低延迟和可回滚,适合基础设施、平台与隐私安全工程师参考。其“稳定接入边界+通用操作+模块复用”及按服务部署控制风险的做法可迁移到其他跨系统策略执行场景;但部分实现依赖 Meta 内部系统,落地时需评估可观测性与运维成本。

科研议题Meta Engineering

Python Typing Survey 2026: AI Tools and the Shifting Checker Landscape

Meta 的 2026 Python 类型标注调查基于 1,794 名开发者反馈并与前两年对比,覆盖类型提示、检查器选择、AI 辅助编码和求助渠道。调查发现类型提示使用率稳定在 85% 左右,但检查器格局变化明显,速度成为首要选择原因,近半受访者同时使用多个检查器。AI 已用于编写类型、修复检查错误和改善 AI 生成代码,但约三成受访者仍不确定其收益;第三方库类型缺失(65.1%)和动态框架难以类型化是主要痛点。文章建议改进 callable 语法、降低首次配置成本并完善错误解释与库类型,但样本以资深开发者为主且逐年受访者不同,更适合观察趋势而非精确因果。

推荐收录:文章基于 1,794 份问卷并做三年纵向对比,给出检查器采用率、AI 写类型与修错比例、库类型缺失等可量化证据,而非泛泛讨论。适合 Python 工具链维护者、类型检查器开发者、AI 编程工具设计者和技术负责人参考,可用于工具选型、生态兼容和开发者体验改进;但样本偏资深开发者、逐年受访者不同且含自报数据,应侧重趋势而非精确比例。

工程实践Meta Engineering

GenRecs Tokenization: Transforming Ads Recommendation at Meta with Stable Model Vocabulary

Meta 工程博客介绍广告推荐中的 GenRecs Tokenization:不再为每个广告、商品或页面维护独立 ID,而是用稳定语义词表把多模态内容和互动信号编码为离散 token。流程是先用预训练多模态模型生成语义嵌入,再分解为独立子空间并量化到码本,得到短 token 序列。文章用聚类纯度、分布均衡、码本利用率等内在指标评估 tokenizer,称其与下游 CTR 预测相关,并在 GEM 与 Adaptive Ranking 中取得 +0.35% 转化提升。该表示有助于新品和长尾广告冷启动、跨广告系列迁移,并形成改善训练数据的反馈循环。未来方向包括统一多模态词表与高效服务 LLM 原生架构;但这是公司生产报告,未披露完整实验设置和复现细节,增益也较有限。

推荐收录。文章给出了语义 token 化在 Meta 广告推荐中的生产架构、三阶段流水线、tokenizer 质量指标和 +0.35% 转化增益,属于可迁移的推荐系统工程案例。适合推荐系统、LLM 应用和 AI 工程化读者参考其冷启动与尾部分布思路;但需注意其公司博客属性和复现细节不足,增益幅度有限。

工程实践Meta Engineering

The Thin Orchestrator: How We Made Our AI Agents More Reliable by Giving the Router Less to Do

Meta 工程团队复盘其数据管道 AI Agent 的生产架构:早期单智能体承载全部领域知识,演示可用但上线后因上下文过载和概念串扰而幻觉频发。作者改用“瘦编排器”:约1300行的确定性路由器只做意图分类、字段收集、可靠性门禁和委派,14个上下文隔离的专家子 Agent 负责 schema、填充、验证等域内推理,并遵循固定7步协议。系统以工作流模板复用同一批子 Agent,按不同阶段顺序覆盖20多个工作流;知识文件运行时加载,新用例无需重写 Agent。效果是新列配置准备从3-4天降至1小时内,约三分之二变更无需显著人工修改。该模式适用于多阶段、异构子系统的生产 Agent,但以牺牲通用性换取领域深度,跨场景收益仍需评估。

推荐收录:文章给出了可核查的生产架构细节——1300行编排器、14个专家子 Agent、7步协议、工作流模板和3-4天降至1小时的指标,而不是泛谈提示词技巧。适合正在把 Agent 落地到多阶段数据或基础设施流程的架构师和工程团队,其“确定性路由与概率性推理分离、上下文隔离、运行时知识加载”可直接迁移。需注意案例来自 Meta 数据管道,换域时应重新验证领域拆分与可靠性门禁。

工程实践Meta Engineering

Inside Prometheus: Meta’s Journey to a Gigawatt-Scale Supercluster

文章系统介绍 Meta 的千兆瓦级 AI 超算集群 Prometheus:以 NVL72 整机柜为单元,部署 GB200、GB300 及即将引入的 Vera Rubin 平台,并通过后端以太网、跨楼宇聚合网络和 FBOSS 将数十万 GPU 连成单一训练系统。文中给出 85%/90% goodput、约 47k 提升到 54k GPU 小时 MTBI、中断率下降 99% 等指标,并详述 72-GPU 故障域下的 64/72 切分与备件、PAFT、检查点、NVLink/HBM 治理、Dynamo Dimmer 功率管理和液冷方案。核心结论是超大规模训练可靠性可通过故障归因、硬件冗余和跨层协同持续改进。文章偏 Meta 自述与平台特定实现,缺少第三方复现和成本细项,但对超算基础设施设计有参考价值。

推荐收录:文章不是产品发布稿,而是以 Prometheus 的真实运行数据(goodput、MTBI、中断率下降 99%)和 72-GPU 故障域、网络分层、功率瞬态等具体约束,展示超大规模训练集群的工程设计取舍。适合 AI 基础设施、网络、SRE 和硬件系统读者,其故障归因、备件比例计算和供电/冷却协同方法可迁移到其他大规模 GPU 集群;需注意数据为 Meta 自述且平台绑定 NVIDIA。

工程实践Meta Engineering

How Meta Built Forum With AI-Native Engineering

文章复盘 Meta 团队如何用 AI 原生方式从零构建独立 Groups 应用 Forum,核心是从 human-in-the-loop 转向 human-on-the-loop:由 agent 自主完成计划、实现、构建、测试、纠错循环,工程师负责设定目标、监督与验收。成功标准不是代码量,而是可验证、可上线的产出,因此把通过自动化测试与视觉校验作为完成门槛。运营模型由 Rules、Skills、Agents、Commands、Hooks 五部分组成,并强调改变代码与工具而非提示词:提升架构可读性、给 agent 直接查询状态的工具、用独立构建分支隔离原型代码。作者还用导航 agent 做模拟用户压力测试,在开发阶段发现并修复内存问题,使内存占用与页错误大约减半,八周内达到与 Facebook Groups 的核心功能对齐。但文章也承认这并非终态,部分阶段仍需工程师参与,且交付安全边界取决于验证器可被信任的程度。

推荐收录,因为文章给出了可验证证据与明确取舍:以验证而非编译为完成标准、把 agent 当作流程参与者、用工具查询替代描述推理、用独立构建分支隔离原型,并附上内存优化与八周对齐功能的结果。适合正在把 AI agent 引入研发流程的工程团队,借鉴其运营模型、验证闭环与环境改造思路;风险在于文中承认自主程度仍受验证器可信度限制,并非可直接照搬的终态方案。

工程实践Meta Engineering

2026 World Cup: Breaking Records, Spiky Charts and Reliability at Scale

文章复盘 Meta 在 2026 世界杯期间应对全球流量峰值的工程实践。WhatsApp 峰值超 3000 万条消息/秒,决赛五分钟内投递约 84 亿条;流量高峰主要出现在中场、补水、终场和颁奖等中断时段,而非比赛本身。基础设施侧依靠 Taiji、Katran、Proxygen、全局负载均衡与 AutoScaling 分层吸收,Instagram 使用预留容量缓冲、国家级优雅降级、级联阻断和早期预警。WhatsApp 对 100 多个服务压测扩容,并因各区域同时达峰而放弃跨区借容量,也未冻结发布。结论是这些做法可沉淀为 2028 奥运会等大型活动的运行手册,但方案依赖 Meta 内部系统与容量数据,迁移需按自身规模验证。

推荐收录:文章给出真实大规模事件运维的一手证据,包括 WhatsApp 五分钟 84 亿消息、Instagram 预留缓冲、国家级降级、级联阻断、早期预警以及不跨区借容量、不冻结发布等关键取舍。适合 SRE、基础设施和高并发系统读者,可迁移为容量规划、降级策略与大型活动保障清单;但具体阈值和内部系统依赖较强,需结合自身规模验证。

工程实践Meta Engineering

Meta’s Generative Ads Model (GEM): Scaling the Central Model and Compute Engine for Frontier Ads AI

Meta 工程博客介绍 GEM 广告推荐基础模型 2026 版:它从 Facebook、Instagram、Reels 等分域优化转向单一中心基础模型,跨全部广告场景与目标联合预测点击和转化。核心包括 LLM 式 Kunlun 架构、超长用户序列、Block Attention、GDPA、MoE 交叉交互,以及 LoopFM 结构化表示和 Solaris 推测预计算来迁移知识。训练侧用低精度算子和 5D 并行把 E2E MFU 提升到 20-25%,总 FLOPs 扩大 4 倍,并报告 18.9% 转化和 12% CTR 提升。局限是厂商自述、缺少独立复现和完整实现细节,更适合大规模广告或推荐系统团队参考。

推荐收录。文章给出 Meta 生产级广告推荐基础模型的完整工程叙事:从统一 cross-surface 训练、Kunlun 架构、LoopFM/Solaris 知识迁移到 5D 并行与低精度算子,均附有量化的性能与业务收益。适合推荐系统、AI 工程化和大规模训练基础设施读者,可迁移其中心模型、后训练和训练效率分解思路;但需注意这是厂商博客,缺少独立评测与可复现细节。

工程实践Meta Engineering

OCP Summit 2026: Powering AI with Open Innovations in Scale-Up, Scale-Out, and Scale-Across Networks

文章介绍 Meta 在 OCP Summit 2026 发布的开放 AI 网络基础设施,覆盖 scale-up、scale-out 和 scale-across。核心包括液冷网络机架 IcePack、102.4T IceCube 交换机、八平面 Flattened Planar Fabric、开源 RDMA 传输 MetaRoCE,以及跨区域 petabit 级 BAG 和基于 FBOSS/SAI 的 SRv6 骨干。scale-up 侧以 Tahan 以太网交换机支持 MTIA 300,并预览 102.4T 硅上 72 加速器/机架与 ESUN 规范演进。文章还讨论多云标准化、长距链路缓冲、降级路径负载均衡和 OSPA 交换机平台架构等工程取舍,但缺少实验数据和长期运维验证,偏向开放生态公告。

推荐收录:文章虽带 OCP 发布性质,但给出了 102.4T 液冷交换、FPF 多平面、BAG、MetaRoCE 和 ESUN 等具体架构与工程约束,并讨论多云异构建网、长距缓冲和降级路径负载均衡等可迁移问题。适合 AI 基础设施与数据中心网络工程师参考,可帮助理解超大规模 AI 集群在带宽、散热、可靠性和开放标准间的取舍;主要不足是缺少实测性能与长期运维数据。

工程实践Meta Engineering

Shipping Media Over QUIC at Meta Scale for Instagram Live Ingest

文章介绍 Meta 在 Instagram Live 直播推流中部署 Media over QUIC(MoQ)的工程实践。MoQ 是基于 QUIC 的 IETF 新兴媒体传输标准,以 Track 和 relay 为核心抽象,支持原生扇出/缓存、按订阅可调延迟、Track 感知转发和 TCP 回退。Meta 为替换内部 RUSH 协议,先在 Instagram Live 推流侧落地,通过 moxygen 客户端、边缘翻译层兼容旧后端、服务端路由灰度,并处理规范演进、UDP/443 防火墙阻断和加密下调试等难题。结果是在 iOS/Android 上 MoQ 路径与 RUSH 在流质量和可靠性指标上持平,验证了生产级替换可行性,为后续端到端直播播放、实时交互 AI 和 QMUX 标准化打基础。适用边界是当前主要覆盖 ingest,播放端和更广泛场景仍待探索。

推荐收录,因为这是少见的工业级传输协议替换案例,给出了从协议选型、客户端集成、边缘翻译、灰度路由到指标持平验证的完整工程证据。对做实时音视频、网络传输、直播基础设施或大规模灰度发布的读者,其约束处理和回退策略有直接迁移价值;不足是偏部署总结,未展开详细性能数据和失败细节。

工程实践Meta Engineering

Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations

文章介绍 Meta 如何把推理集群中局部闲置、可随时回收的 opportunistic capacity 汇聚成共享池,在不影响基线广告服务的前提下提升推荐质量。系统利用 Ads 推理的高弹性和自包含特征,设计两个互补杠杆:Rank More Ads 动态增加排序候选数量,需 CPU 与加速器余量;Serve Better Models 动态提高更强模型覆盖比例,主要消耗加速器余量。为安全消费波动容量,文章采用物理/逻辑隔离、RMA 延迟反馈 PID 控制、SBM 价值感知路由,以及服务端与客户端毫秒级 value-aware load shedding。核心结论是可选项随容量扩张收缩,基线延迟与可靠性受保护;边界是依赖特定负载结构,未来需扩展弹性范围、跨区域硬件可迁移性和自动容量分配。

推荐收录:文章给出 Meta 在大规模推理 fleet 中真实落地的容量池化方案,包括 RMA/SBM 对 CPU 与加速器的不同消耗、隔离与反馈控制、价值感知丢载等直接证据。适合推荐系统、推理平台、容量调度和 SRE 稳定性工程读者,其机会容量复用与优雅降级方法可迁移到其他高并发 ML 服务。

工程实践Meta Engineering

NTS: Authenticated Time at Meta

Meta 工程博客介绍 nts.meta.com 上线的 NTS(RFC 8915)认证时间服务,核心是让设备验证时间来源且包未被篡改。实现分两阶段:NTS-KE 基于 TLS 1.3 协商 AEAD 并用 RFC 5705 导出双向会话密钥,签发八个 cookie;随后在 UDP/123 的 NTPv4 中携带唯一标识、cookie 和认证器,响应认证器内加密新 cookie。服务端免复制状态,用主密钥加 epoch 日号经 HKDF 派生 cookie 封印密钥,支持跨日偏斜,因此 KE 与 NTP responder 可完全解耦。文章还讨论防 MITM、时钟回拨/前滚,但明确不防延迟攻击、TLS 引导循环、错误服务器和墙钟非单调问题,并指出 Android/iOS 缺 NTS 客户端。

推荐收录:文章不仅宣布服务上线,还给出 NTS 两阶段协议、无状态 cookie 派生、chrony 多源配置与输出、攻击面和未覆盖边界,属于可验证的工程实践。适合安全、网络、基础设施和 SRE 读者,其去状态化密钥设计、密钥轮换和认证时间威胁模型可迁移到其他协议与时间系统。主要风险是结论依赖 Meta 服务语境,移动端采用仍是开放问题。

工程实践Meta Engineering

Bringing Private Processing to Meta AI Glasses

文章介绍 Meta 将 Private Processing 扩展到 AI 眼镜的工程方案:因眼镜本地算力有限且 AI 助手需长期有状态与个性化,计算必须上云,但传统云架构会在使用时暴露内存数据。Meta 基于 CPU/GPU 的 TEE 与机密虚拟机 CVM,让模型在硬件隔离环境中执行,并提出硬件隔离、失败关闭、公开可验证、不可定向和加密存储五项要求。请求路径通过盲签名令牌与第三方 OHTTP 中继解耦身份,设备用 RA-TLS 远程证明核对二进制哈希与公开透明账本,数据仅在 TEE 内处理。持久化存储被放入 TEE 边界,以避免访问模式泄露与远程加密查询性能崩溃;可观测性只能依赖聚合健康指标。文章还说明第三方审计与漏洞奖励,但未给出性能数据、实现细节和失败案例,且方案与 Meta 基础设施强绑定。

推荐收录。文章不是产品发布稿,而是给出了可验证的隐私计算系统设计证据:五项工程要求、盲签名令牌/OHTTP 非定向路由、RA-TLS 证明与公开账本、TEE 内加密存储,以及在无法调试环境下的聚合可观测性方案。对做 AI 基础设施、隐私/安全架构和机密计算的读者,这些信任边界与运维取舍有迁移价值;不足是缺少性能数据和更细的实现验证。

工程实践Meta Engineering

Open-Sourcing Rebalancer: A Generic, High-Performance Library for Solving Assignment Problems

Meta 开源了内部使用九年多的通用指派问题求解库 Rebalancer,并配套 OSDI'24 论文。文章把指派问题抽象为对象、箱子、约束与目标,核心设计是解耦问题描述与求解过程:先用维度、分区、作用域、利用率等建模原语刻画现实策略,再通过表达式 API 与高层 spec API 表达约束和目标,最终编译成表达式图 DAG。求解提供两条路径:最优解器把图翻译成 MIP,靠变量聚合、可互换性与对称性破缺压缩模型,最坏规模为 O(|objects|*|bins|);局部搜索解器直接在图上游走,邻域最坏 O(|objects|+|bins|),可并行、每秒数百万次评估并支持剪枝。文中给出生产数据(每日约 4000 万次求解、30 多种问题形式、P99 12 秒)以及调试用 Web UI Rebalancer Explorer,并以 Apache 2.0 开源。

推荐收录:文章提供了可复用的优化系统设计证据——描述与求解解耦的建模原语、表达式图,以及 MIP 与局部搜索两条路径的复杂度、规模上限和选型建议,还有每日 4000 万次求解、P99 12 秒等生产数据与 OSDI'24 论文支撑。适合从事资源调度、容量规划、负载均衡和组合优化落地的工程与算法读者,其中“先用最优解器原型、再迁移到局部搜索”的经验可直接迁移。

工程实践Meta Engineering

Inside Petal: Building the World’s First Petabit-Class Transoceanic Subsea Cable

Meta 介绍规划中的跨洋海缆 Petal:连接法国与美国约 7000 公里,目标 2029 年投运,实现 1 Pbps 容量,成为首个皮比特级跨洋系统。其核心是采用 2-core fiber,在 24 光纤对中达到等效 48 对的空分复用容量,并通过超纯石英、折射率控制和反向传输来降低衰减与串扰。中继器使用 96 芯单体内放大和 FIFO 将双芯转换为单芯再恢复,结合泵浦共享把功耗控制在 18 kV 供电限制内。文章还梳理从 Marea、Amitié、Anjana 到 Petal 的容量演进及 NEC、住友电工、Orange 的分工。不足是公告性强,缺少独立测试、成本和长期运维数据。

推荐收录。文章虽带有 Meta 基础设施发布色彩,但给出了 Petal 的容量目标、2-core fiber 与 24 对光纤等效 48 对的 SDM 设计、FIFO 中继器、96 芯放大和 18 kV 供电边界等具体工程约束。适合网络基础设施、光通信与海缆系统读者参考,其容量扩展路径和功耗/工艺取舍可迁移到大规模互联系统评估。

工程实践Meta Engineering

ZGateway: Learnings from Putting a Proxy in Front of ZippyDB

ZGateway 是 Meta 为 ZippyDB 键值存储新增的无状态代理层,目的是改变超百万客户端直接连数据库产生的稠密连接网格及其可靠性风险。它把客户端与后端收敛成两跳,使连接扇入扇出规模由代理层可控,并通过跨客户端批处理和合并降低 RPC 开销、缓解热键冲撞。代理层同时承载租户级准入控制、按 CPU 自适应的负载均衡、带实时失效的读缓存,以及可配置的跨区域容灾;迁移采用分服务、分前缀的百分比开关实现可逆灰度。文章给出的实测边界是:ZGateway 承载约 40% ZippyDB 流量、平均约 6% 计算开销,压测中丢弃只作用于少数噪声租户,其他租户成功率保持 99.9%。最后作者展望了多进程隔离、控制面外置与 AI 辅助调优等方向。

本文来自 Meta 生产环境的系统级工程复盘并包含明确数据和机制,不只是架构简介。它展示了一个代理层如何同时解决连接管理、高可用、租户隔离与流量治理,适合关注分布式系统、基础架构和可靠性设计的读者。文中的扇入扇出建模、灰度迁移和自适应负载均衡思路可以迁移到其他大规模代理或网关场景,但需注意 Meta 内部基础设施的耦合与规模化条件。

工程实践Meta Engineering

An Organizational Second Brain: Building an AI That Learns From Experts

本文由 Meta 工程团队分享,介绍他们为组织级专家知识构建的一个 AI 代理系统,使其成为可长期积累的“组织第二大脑”。系统核心由两层组成:一是结构化的、可审计的知识架构,将专家知识预先蒸馏为带依赖图的文本文件(如立场文件、路由索引、网关门),并区分高密度、高频知识放于精编知识库,稀疏、低频知识通过 RAG 检索补充;二是可组合的“食谱”(recipes)程序化推理层,将分析流程拆解为多阶段步骤,实现“知道什么”与“如何推理”的分离。此外,系统还包含一个自我改进飞轮:专家反馈经历诊断、编译、验证、落地四阶段,自动生成最小化且经回归测试的文件编辑,无需重训模型。文中报告六周后专家评估输出几乎总是有用,单次评估时间从数天降至分钟,且零回归。该架构适用于合规、安全审查、金融风险等需要机构性专业知识的领域,但前提是具备可编辑的知识文件、程序化流程、自动化评测和人工监督。

推荐收录。文章给出了一个可落地的企业级 AI 代理设计范式,重点展示了知识架构与推理层分离、基于依赖图的文本知识库、以及专家反馈自动转化为经过验证的文件编辑等完整的工程循环。直接证据包括 Meta 实际部署后的量化结果(数天到分钟、零回归)和领域无关的适用条件。适合从事 LLM 应用、AI Agent、知识工程或企业级 AI 平台的工程师参考,其“以文本文件为持久化知识并用自动化编译维护”的思想具有很高可迁移价值,但需注意其依赖严格的人工审核与评估基础设施,复制成本不低。

工程实践Meta Engineering

MetaRoCE: A New RDMA Transport Built for AI-Scale Ethernet

Meta发布自研RDMA传输协议MetaRoCE,面向AI规模GPU集群,运行于普通以太网,并计划通过OCP开放规范、参考实现和一致性测试套件。其核心是将网络智能从交换机移向NIC,支持原生乱序投递、逐路径喷发、免PFC的丢失容忍传输,以及发送端AIMD与接收端速率提示的拥塞控制。在64节点AMD GPU集群测试中,相比RoCEv2,MetaRoCE在all-reduce和all-to-all上吞吐更高、流完成时间更低,1%丢包时保持约86%吞吐,多平面扩展近线性,平面故障可自动恢复。现有RDMA Verbs应用无需修改即可使用,文章也承认在机内、跨数据中心和存储/KV缓存等场景仍需后续优化。

推荐收录。文章来自Meta工程博客,详细阐述了MetaRoCE的动机、设计权衡和实测数据,包括与RoCEv2的对比、损失下的优雅降级和多平面弹性,证据链完整。适合网络协议开发者、AI基础设施架构师和分布式系统工程师参考,其端点智能、逐路径拥塞控制等思路可迁移到其他高性能网络设计。需要注意文章同时是产品发布稿,基准规模和场景有限,实际部署效果需独立验证。

工程实践Meta Engineering

MTIA 300: Meta’s First Training Chip with Built-in NICs and Communication-Offloading Engines

文章介绍 Meta 自研训练与推理加速器 MTIA 300,它针对推荐排序模型训练中的通信瓶颈,将网络接口直接集成进芯片封装,通过两个包含 6 个 800 Gbps RDMA NIC 的 chiplet 提供 1.2 TB/s 总带宽,避免 PCIe 和 CPU 中介开销。芯片加入 16 个独立消息引擎和近存计算单元,以超过 2.8 TB/s 归约吞吐实现线速 AllReduce/ReduceScatter,与计算网格隔离,并行运行 GEMM 时计算吞吐损失小于 0.5%。通信库 HCCL 与硬件协同设计,采用编译通信模型,将集合通信编译为依赖子图后由消息引擎自主执行,无需主机参与,并支持拓扑感知算法和 PyTorch 接口集成。在生产环境中,1500 亿参数推荐模型跨 40 个加速器训练时,通信时间比等效 GPU 集群快 3.9 倍。文章也讨论了架构对未来推理工作负载的适应性,并指出当前设计主要面向推荐模型。

本文是 Meta 工程团队对其训练芯片的深度技术解析,公开了芯片架构、NIC 集成、通信卸载引擎及 HCCL 编译模型的具体设计和性能数据,直接给出与 GPU 的量化对比(0.5% 干扰、3.9 倍加速)。适合 AI 基础设施、分布式训练、芯片设计与高性能网络方向的工程师和研究者阅读。其通信一体化和软硬件协同设计思路可迁移到其他 AI 加速系统,但性能数据来自厂商自测,需保持一定批判性。

工程实践Meta Engineering

How We’re Building Scam Alert on WhatsApp With End-to-End Encryption and Verifiability Guarantees

本文介绍 WhatsApp 的 Scam Alert 可选功能,其在设备端运行机器学习模型,对非联系人消息做诈骗分类,不将消息内容上传,也不自动举报。系统遵循仅设备端、无自动上报和用户控制三项原则,核心保障包括基于可信执行环境和差分隐私的机密联邦分析管道,只向 Meta 提供聚合后的告警与用户操作计数。模型发布采用第三方只追加透明账本与匿名下载,防止定向分发,并公开模型权重和客户端日志供独立验证。文中还给出了威胁模型与纵深防御设计,包括 OHTTP 中继、匿名凭证和远程证明等。当前功能处于有限 Beta 阶段,作者强调欢迎安全研究社区反馈,尚未全面上线。

推荐收录。本文不是产品发布,而是给出了从设计原则到技术实现的完整链路:设备端推理、基于 TEE 的机密联邦分析、差分隐私聚合、模型哈希上链与匿名下载、客户端验证和公开权重,且包含威胁模型。对从事隐私保护、安全工程、移动端机器学习或可信分析系统的读者有直接参考价值,其方案与边界可作为同类系统设计的范例。当前仍为有限 Beta,需注意实际生产验证尚不足。

工程实践Meta Engineering

From User Sequences to Scaling Laws: A Multi-Stage Architecture for Meta’s Ads Ranking

本文介绍了 Meta 广告排序系统在大规模序列学习上的两项架构创新:多阶段序列模型将计算密集的离线用户建模与对延迟敏感的在线排序解耦,通过异步处理长用户历史并缓存嵌入,在不线性增加服务资源的前提下提升模型容量;密集 tokenization 和目标感知多头注意力让模型直接从数据中学习稀疏特征与行为序列的交互,取代手动特征工程。该设计带来了可预测的 LLM 式扩展规律,即性能随计算量呈对数线性增长,并总结出模型形状平衡、多阶段可调性、序列组成多样性和语义特征表征四个扩展杠杆。文章给出了在 Instagram 和 Facebook 上的转化率与点击率提升数据,并指出该架构已作为 GEM 模型的核心组件,可泛化至各类广告排序任务。

推荐收录,因为文章不仅公开了关键技术细节(离线/在线解耦、密集 tokenization、目标感知注意力),还系统论证了在广告推荐领域建立起可预测扩展规律的方法与实验证据。对于推荐系统、广告架构及大规模模型服务的工程师和研究者,文中分离建模阶段以平衡复杂度与延迟的思路具有很强的可迁移性,而扩展规律的识别路径可为探索其他大规模机器学习系统提供参考。

工程实践Meta Engineering

GEM Training: How Meta Doubled the Efficiency of Its LLM-Scale Ads Foundation Model

本文介绍了Meta如何将广告推荐基础模型GEM的训练规模提升至LLM级别,并在12个月内将端到端训练效率提升一倍至20-25%模型算力利用率(MFU),同时训练算力规模扩大4倍。文章从计算效率和扩展效率两个维度分别展开:计算效率通过定制化推荐内核库(Jagged Flash Attention、Generalized Dot-Product Attention、BlockAttention)和混合超低精度训练(MXFP8注意力与MLP)实现;扩展效率则依靠拓扑感知的5D并行策略(2D FSDP加专家并行处理稠密参数,全分片2D模型并行处理稀疏参数)配合SM-free通信、自动激活检查点及序列长度感知负载均衡。所提方案针对推荐系统特有的变长序列、非对称交互和数值敏感性等挑战进行了专门设计,其方法论和具体技术对大规模推荐模型训练具有参考价值,但部分优化(如内核定制)与特定GPU架构强相关,迁移时需适配自身硬件和数据特性。

本文是真实的工业级工程案例,完整展示了在数千GPU上训练万亿参数推荐模型的全栈优化过程,涵盖内核、精度、并行、网络和内存的协同设计,而非孤立技巧罗列。适合负责大规模深度学习训练、推荐系统基础设施或GPU性能优化的工程师,可迁移价值在于其将MFU分解为计算效率和扩展效率的分析框架,以及针对混合架构和变长数据的特定解决方案,对类似规模系统的构建与调优具有直接借鉴意义。

工程实践Meta Engineering

Exploring Hierarchical Interest Representation For Meta Ads Deep Funnel Optimization

本文介绍了 Meta 广告漏斗深度优化中的层级兴趣表征系统,旨在通过统一嵌入连接用户、广告主与产品。系统基于大规模异构交互图,融合多模态世界知识(由 LLM 处理)以缓解稀疏信号问题,并采用 Transformer 架构实施层级编码:引入图结构偏差的注意力机制(使用 FlexAttention 实现内存高效计算)、自监督跨视图蒸馏(结合 Sinkhorn-Knopp 均衡)与交互预测联合训练。最终输出通用嵌入和“意义包”离散令牌,可服务于检索、排序等下游任务。文章详细阐述了图构建、在线基础设施、因果性保证与规模化训练流水线,提供了工业级推荐系统在复杂图学习上的工程实践,但方法高度依赖 Meta 内部平台与数据规模,迁移时需考虑领域适配。

推荐收录。本文来自 Meta 工程博客,系统披露了用于大规模广告推荐的上游层级兴趣表征系统,完整覆盖从图构建、多模态知识融合、Transformer 层级编码到在线推理的工程细节,并公开了 FlexAttention、跨视图蒸馏等具体设计决策与缩放经验。适合推荐系统、图学习及大规模 ML 基础设施方向的研究者和工程师参考,可迁移至处理稀疏信号、层级表征与工业级图应用的场景。需注意部分架构深度绑定 Meta 生态,但核心思想与权衡思路具备通用价值。

工程实践Meta Engineering

Modernizing the Meta Ads Service With an Open-Source Kernel Scheduler

文章介绍 Meta 广告服务在 Linux 内核升级至 6.9 时遭遇 EEVDF 调度器导致的延迟回归,影响广告排序。团队利用开源的 sched_ext(BPF 扩展调度框架)构建了面向广告交付的自定义调度策略,通过将 CPU 软分区为延迟关键池和非关键池,并根据负载动态调整池大小,显著提升最后一级缓存局部性。初始部署在最大广告服务器上后,广告检索的 p99 延迟降低 28%,功耗节省 3.28 兆瓦,加权广告排名提升 1.1%,后续两次用户空间策略更新进一步降低延迟并减少超时错误。该方案将调度优化从依赖内核发版的路径中解耦,使迭代周期从数月缩短至数天,并将 sched_ext 从短期修复发展为持续优化平台,同时已上游化至 Linux v6.12。文章未探讨该策略对其他混部负载的公平性影响,且定制策略需依工作负载特性重新设计。

推荐收录,因为它提供了一个完整的高负载服务调度优化工程案例,从问题诊断、基于 sched_ext 的自定义策略实现到量化效果验证,证据充分。适合基础设施、后端性能优化和 SRE 读者,文中展示的软分区、缓存局部性利用以及借助 BPF 快速迭代的方法可迁移至其他延迟敏感系统。

工程实践Meta Engineering

Meta’s AI Storage Blueprint at Scale

文章系统复盘了 Meta 为 AI 工作负载重构 BLOB 存储的过程,目标是同时提升 GPU 利用率与研究迭代速度。旧架构沿用多层状态化元数据与全局默认复制,面对闪存级低延迟和 pMax 要求时,跨层查询与跨地域访问会把元数据延迟放大到毫秒乃至百毫秒级,直接造成 GPU stall。新方案将元数据压平为统一 schema 并由 ZippyDB 支撑,去掉数据面代理,改为客户端 SDK 直接从 Tectonic 拉取数据,同时按区域部署以贴近 GPU。为应对热点和突发流量,文中引入 GPU 主机分布式缓存、read-plan 缓存、hedged read 与动态并发控制,并通过预取、显式 hydration 和分层缓存把跨地域等待降到分钟级。文章也明确了边界:该架构更适合写一次、多次读取的训练数据与检查点场景,未来还需继续解决更高规模的网络上限与推理负载。

推荐收录,因为文章给出了从旧版全局存储到 AI 友好型区域化存储的完整重构证据,包括元数据压平、客户端直连、缓存分层和并发控制等可验证设计。适合做大规模训练存储、GPU 利用率优化和数据分发架构的参考,迁移价值高,但也明确依赖写多读多、可预取的训练型负载。

工程实践Meta Engineering

Privacy-Aware Infrastructure in the AI-Native Era: An Asset Classification Case Study

文章以 Meta 的隐私感知基础设施为案例,讨论在 AI 原生产品中如何做资产分类,核心目标是先准确识别数据“是什么”,再谈保留、访问、共享和匿名化等控制。作者指出仅靠字段名会产生误判,因此系统先汇聚代码解析、血缘、归属、语义注释和使用模式,形成 evidence brief,再让模型处理歧义与冷启动。生产路径采用“确定性规则优先、LLM 兜底”的两段式架构:大部分请求由版本化规则在毫秒级完成,少量新颖或模糊资产才进入模型推理。文章强调评估必须与优化解耦,参考标签不能由模型自举生成,并通过校准、kappa、宏 F1、对抗遮蔽和独立人工复核来防止自我验证。最后,系统把稳定模式蒸馏成可审计、可回放的确定性规则,并用灰度、黑名单和内容寻址发布保证规则升级不会悄然降低保护强度;其边界是依赖高质量上下文、明确政策口径和持续人工治理。

收录理由直接且充分:文章给出了隐私资产分类的完整工程链路,包括上下文聚合、LLM 兜底、规则蒸馏、独立评估与可回放发布,而不是泛泛谈 AI+隐私。适合做隐私治理、AI 基础设施和高风险分类系统的设计参考,但前提是有清晰 taxonomy、人工标注和严格的版本控制。

工程实践Meta Engineering

How Meta Engineered Ultra-Narrow Batteries for AI Glasses

这篇文章围绕 Meta 为 AI 眼镜定制超窄钢壳电池的工程实践,解释了为什么传统软包电池难以适配眼镜镜腿这种极窄空间,以及他们如何通过改变电芯形态、极片结构和制造公差来提升可用体积与峰值供电能力。文中还讨论了双电池系统的同步、交叉充电风险、不同代际产品的容量提升与系统级续航优化,展示了硬件、固件和结构设计协同迭代的思路。

推荐收录,因为它不是单纯的产品宣传,而是给出了在极端尺寸约束下重做电池形态、降低内阻、处理双电池协同的具体工程思路。对可穿戴设备、嵌入式硬件和低功耗系统设计读者都有较强迁移价值。

工程实践Meta Engineering

Adopting AV1 for Real-Time Communication (RTC) at Scale

这篇文章系统复盘了 Meta 在实时通信场景大规模引入 AV1 的全过程,覆盖编码器/解码器选择、移动端功耗与内存约束、二进制体积控制、Android 设备准入、以及基于编码/解码延迟的动态码率与码流切换策略。作者进一步讲解了面向 RTC 的关键质量优化,包括更精确的 CBR rate control、VBV delay 评估、Temporal Layer、自适应 FEC 和 Long-Term Reference 等抗丢包机制,并说明这些设计如何在低带宽、弱网络和低端设备上兼顾清晰度、时延与稳定性。文章最后给出当前覆盖进展与后续扩展到群聊、硬件 AV1 的边界和方向。

推荐收录,因为它不是泛泛介绍 AV1 优势,而是完整呈现了一个大规模 RTC 系统从选型、落地到持续优化的工程路径,尤其适合关注端侧性能、网络适应和多约束权衡的读者。文章对 device eligibility、rate control、error resilience 的处理方式具有较强迁移价值,能为音视频、移动端和实时通信系统提供可复用的方法论。