加州人工智能（AI）安全初创公司CalypsoAI今天宣布获得2300万美元的A-1轮融资，以加速其AI治理解决方案的开发。此次融资由Paladin Capital Group领投，Lockheed Martin Ventures和其他投资者参与。
CalypsoAI的首席执行官兼创始人Neil Serebryany在接受VentureBeat采访时指出，可能会阻碍AI在主流企业中采用的三个主要威胁:“第一，大量信息正在泄漏到（流行的）模型中;第二，底层模型可能不可信;第三，这涉及到问责和审计的问题。”
CalypsoAI的解决方案包括Moderator和Vesper Validate产品，旨在应对这些挑战，确保组织可以安全地接纳生成式AI工具并保护其关键数据。该公司已被Forrester Research确定为重要的AI安全解决方案提供商。
据Serebryany表示，随着企业采用更复杂的AI技术（例如大型语言模型），其解决方案变得越来越重要。这些技术可以创造数万亿美元的价值，但如果被滥用，也会带来网络安全风险。这家初创公司定位自己为AI风险管理的全方位平台，涵盖从算法本身到人们与技术的实际互动的方方面面。
根据Pitchbook的数据，未来几年内，AI安全市场预计将大幅增长。全球生成式AI市场预计将在2023年达到426亿美元，因为企业越来越希望采用这项技术以开启新机会、增强决策能力和推动创新。根据麦肯锡的估计，生成式AI将全球产生4.4万亿美元的经济价值。
Serebryany认为，市场将分为第一方和第三方风险，并且基础模型在企业AI的未来中将发挥核心作用。CalypsoAI旨在保证这些模型在企业中的安全部署。
凭借将近4000万美元的总融资规模，CalypsoAI将在塑造AI安全和治理的未来中发挥关键作用。随着越来越多的组织采用AI技术，对强大的安全解决方案的需求将变得更加重要。
Serebryany表示:“这个问题现在变得如此普遍:我们如何安全地采用大型语言模型?我们如何确保我们的数据不会泄漏到这些模型中?这非常重要，而且随着越来越多的企业采用AI，这只会变得越来越重要。”
随着AI继续改变商业格局，CalypsoAI最近的融资意味着该行业正在认真对待AI安全问题。该公司的创新解决方案和深厚专业知识使其成为快速发展的AI治理和安全领域中的重要参与者。
