Featured image of post AI安全新势力AIUC获4000万美元A轮融资,推出企业级AI代理审计认证标准

AI安全新势力AIUC获4000万美元A轮融资,推出企业级AI代理审计认证标准

由前Anthropic员工与METR前COO联合创立的AIUC推出AIUC-1安全标准,为企业提供AI代理第三方审计服务。

核心事件:AIUC发布企业级AI安全审计标准并完成A轮融资

核心事件:AIUC发布企业级AI安全审计标准并完成A轮融资
核心事件:AIUC发布企业级AI安全审计标准并完成A轮融资|新闻截图

2026年9月15日,人工智能安全公司Artificial Intelligence Underwriting Company(AIUC)正式宣布完成4000万美元A轮融资,由Ribbit Capital领投,First Harmonic参投。此前该公司已完成1500万美元种子轮,投资人包括Nat Friedman(NFDG基金)、Emergence、Terrain及Anthropic联合创始人Ben Mann等人,融资总额达5500万美元。AIUC currently披露的客户包括Cursor、Lovable、Harvey和ElevenLabs。

关键事实如下:

  • 融资轮次:A轮(4000万美元)
  • 领投方:Ribbit Capital
  • 参投方:First Harmonic、NFDG、Emergence、Terrain、Ben Mann
  • 总融资额:5500万美元
  • 现有客户:Cursor、Lovable、Harvey、ElevenLabs
  • 安全标准名称:AIUC-1
  • 测试用例数量:约5000个

安全标准:从网络安全借鉴经验,构建AI代理审核体系

AIUC的核心产品是一个类似 cybersecurity 领域SOC 2认证的AI代理审计与认证层。公司结合SOC 2广泛采用的框架逻辑,开发了名为AIUC-1的专属评估标准。该标准并非企业内部自建标准,而是以购买方(即银行、医院、政府等实际部署AI系统的机构)的实际需求为出发点。

为制定这套标准,创始人Rune Kvist与Rajiv Dattani组建了由约250名安全与风险决策者组成的咨询联盟——他们正是AI代理的实际采购方。团队定期与其沟通,聚焦三个核心问题:采购AI代理时应查验什么?应提出哪些关键问题?应重点关注哪些安全风险?

基于这些反馈,AIUC构建了包含约5000个测试用例的评估套件,覆盖三大典型风险场景:

  • Jailbreaks(越狱攻击):测试模型是否会被诱导执行超出权限的指令
  • Hallucinations(幻觉生成):评估模型编造事实或输出错误信息的频率
  • Data leaks(数据泄露):验证敏感信息是否可能被恶意提取或意外暴露

测试流程采用“AI执行+人工复核”模式:AI代理自动运行全部测试并生成数据,人类专家最终复核并签署审计报告。每份完整审计产出约100页PDF文档,清晰标注代理在哪些方面可被信任、哪些环节存在隐患。

创始团队背景:跨领域安全经验与行业直觉

创始团队背景:跨领域安全经验与行业直觉
创始团队背景:跨领域安全经验与行业直觉|新闻截图

两位创始人构成了一组互补的“安全拼图”。Rune Kvist是Anthropic早期员工(非核心研发岗),同时作为联合创始人Ben Mann的 colleague,并与Rajiv Dattani结为连襟(Kvist娶了Dattani的姐姐)。Rajiv Dattani曾任AI安全研究组织METR的首席运营官(2024年–2025年),目前仍担任其董事会成员。

这一背景带来一个重要反差:METR此前的工作重心主要在性能验证(能否可靠完成任务),而AIUC则聚焦行为安全(是否会在安全场景下出错或恶意行为)。Dattani在METR期间,曾协助OpenAI对Hugging Face数据泄露事件开展独立调查,积累了第三方评估的实战经验。

业内观察指出,目前主流AI厂商多面向开发者宣传模型性能提升,却较少系统披露其部署风险。AIUC的差异化在于——它回答的是CISO(首席信息安全官)与采购部门最关心的问题:“我们能否向客户承诺这个AI系统在约束范围内稳定运行?” 正如Kvist所言:“银行、医院和政府部门不是因模型不够聪明而拒绝部署AI,而是因无法 garantuee 系统行为边界而却步。”

产品定位与落地建议

面对AI野蛮生长带来的失控风险,AIUC提供了一套企业可采购的“AI安全保险”服务:客户将自研或采购的AI代理送检,获得第三方验证报告,可基于报告结果调整部署策略、补充护栏策略或向监管方证明尽职审查。

适合优先试用的群体:

  • 正在评估采购第三方AI Agent的企业安全团队(尤其金融、医疗、政务场景)
  • 自建AI代理部署流程但缺乏安全验证能力的中大型科技公司
  • 需满足合规审计要求、向内部风控部门证明AI系统风险可控的产品负责人

建议再观望的群体:

  • 尚未明确AI代理在业务中扮演核心角色的小型创业公司(当前测试成本可能高于收益)
  • 仅使用开源基础模型进行轻量集成的应用开发者(可优先参考公开评估榜单)

写在最后

AIUC的出现标志着AI治理从实验室走向商业现实。当模型能力以指数级增长,安全验证的标准化与工业化正在成为行业刚需。其模式并非替代实验室的前沿研究,而是在应用层搭建一道“行为护栏”——这或许是当前最现实的减缓AI失控路径。