企业安全部署生成式 AI 得益于 Virtue AI 的 3000 万美元融资支持

Virtue AI 近日宣布完成了 3000 万美元的种子轮和 A 轮融资。本轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ventures 领投，Prosperity7 以及其他现有投资者包括 Factory、Osage University Partners、Lip-Bu Tan、Amarjit Gill 和 Chris Re 等也参与了投资。

融资背景

Virtue AI 由世界领先的 AI 安全和安保专家创立，创始团队成员包括 Bo Li、Dawn Song、Carlos Guestrin 和 Sanmi Koyejo。他们在 AI 安全和安保领域拥有超过 80 年的累计研究经验，目睹了企业在部署 AI 时面临的两难困境：要么快速推进但面临更高风险，要么实施繁琐的安全措施而大幅减缓创新速度。

随着生成式 AI 的快速发展，企业面临着数据投毒、幻觉、提示注入和越狱尝试等重大部署风险。这些问题不仅使公司容易受到网络攻击，还带来了监管和合规挑战。

资金用途

此次融资将加速 Virtue AI 的使命，即消除 AI 创新与安全之间的传统权衡，使企业能够放心地部署生成式 AI，而不必担心安全、安全性和合规性问题。具体而言，资金将用于以下几个方面：

• 平台能力扩展：进一步完善其 AI 安全和合规平台。

• 市场拓展：加强市场影响力。

• 人才招聘：继续吸引世界级的 AI 安全人才。

核心产品

Virtue AI 提供的综合平台包括以下产品：

• VirtueRed：一个基于算法而非人工的红队测试平台，覆盖超过 320 个基于法规和用例的风险类别，如幻觉、隐私泄露、越狱和提示注入等，能够提供全面的风险评估，同时显著降低测试成本。

• VirtueGuard：防护栏模型，速度比现有替代方案快 30 倍以上，同时在文本、图像、音频、视频和代码等 90 多种语言中提供 40-50% 更好的性能。

• VirtueAgent：安全代理，能够自动解读公司内部的安全要求、政策和法规要求，消除繁琐的手动流程。

客户反馈

Virtue AI 的技术得到了包括 Uber 和 Glean 在内的顶级企业客户的认可。例如，Uber 利用生成式 AI 为终端用户提供神奇的体验，并与 Virtue AI 密切合作，为其生成式 AI 应用实施强大的内容安全防护栏。

市场前景

随着生成式 AI 在企业中的广泛应用，AI 安全市场预计将迅速扩张。传统计算安全已不足以应对人工智能的用例，而 Virtue AI 的解决方案能够有效填补这一空白。