Featured image of post WhatsApp 反诈:AI 在手机里判诈骗,消息一个字节都不上云

WhatsApp 反诈:AI 在手机里判诈骗,消息一个字节都不上云

WhatsApp 测试 Scam Alert,把判诈骗的 AI 塞进手机本地,端到端加密不被破坏——透明度账本防服务器暗箱、机密计算封遥测。

反诈通常靠云端扫消息。WhatsApp 反其道——把判诈骗的 AI 塞进手机本地,消息内容一个字节都不离开设备。

2026 年 8 月,WhatsApp 小范围测试可选反诈功能 Scam Alert(Malwarebytes、PCMag、Forbes、Meta Engineering 博客同月报道,InfoQ 技术解读)。它的核心设计是:针对非联系人消息的诈骗分类,在设备本地完成。

一、它怎么工作

分两段:

  • 实时检测:启用后,非联系人发来消息,设备上的小模型基于对话结构与语言信号判断。模型用用户此前举报的诈骗对话模式训练。识别为疑似诈骗时,弹一条发送者不可见的警告,用户可屏蔽、举报、继续,或把聊天标记为"可信"。
  • 性能评估:设备本地把警告事件和用户操作汇总成计数,用匿名凭据经 Oblivious HTTP(OHTTP)中继传到机密虚拟机里处理,应用最小群组阈值和差分隐私——WhatsApp 最终只能拿到近似的总体统计,反推不到个人。

二、为什么设计得这么绕

原稿把流程列得很细,没讲透"绕"的动机。三条。

1. 端侧 = 保住端到端加密。 WhatsApp 消息端到端加密,云端扫会破坏"连自己都看不到内容"的承诺。把模型放设备本地,是在不解密的前提下做识别——这是"反诈 vs 隐私"的解法选择,不是性能选择。

2. 透明度账本 = 防服务器暗箱。 每个模型版本及其 SHA-256 哈希,部署前发布到第三方"仅追加"透明度账本;客户端加载模型前自验账本条目、签名、时效和哈希。这一步防的是:服务器为特定用户挑选特定模型变体(即防定向监控)。

3. 机密计算 + 差分隐私 = 遥测也不泄密。 哪怕只是聚合统计,也走机密虚拟机 + 差分隐私,WhatsApp 只能拿到近似总体数据。把"性能评估"这一最易泄密的环节,也封在可信执行环境里。

三、和谁比

维度WhatsApp Scam AlertGoogle Messages
检测位置消息分类全在设备本地因功能而异,部分端侧部分云
隐私机制机密计算 + 差分隐私 + OHTTP + 透明度账本使用隐私保护机制,边界不完全相同
训练数据用户此前举报的诈骗对话模式未说明
模型验证客户端验 SHA-256 哈希、签名、账本条目未说明

共同目标是在"不把消息内容交给服务器扫描"的前提下,提高对诈骗和钓鱼的识别。但各平台对端侧、云端、遥测的边界划分并不一致——WhatsApp 的边界画得更硬。

四、对你意味着什么

  • 常收陌生消息的用户:若功能后续开放,是额外一层风险提示。它不会自动举报,你自己决定屏蔽、举报、继续或标记可信。
  • 注意两点:测试期模型可能误报漏报;若你选择帮改进功能,会主动分享可信聊天最近 5 条消息。

五、判断

反诈正从"云端实时扫描"扩展到"端侧模式识别"——即时通信在安全与隐私之间找到了新平衡点。Meta 计划扩大 Bug Bounty 覆盖到机密联邦分析管线,并发布机密虚拟机二进制与隐私相关源代码组件供独立审查。这是"隐私优先架构"走向主流安全设计的信号。