谷歌、OpenAI、微软等 14 家科技公司宣布联合成立安全人工智能联盟 (CoSAI) 。该倡议旨在通过提供开源方法、框架和工具来解决“AI 安全碎片化的问题”。
其他创始成员还包括亚马逊、英特尔、英伟达、IBM、思科、Paypal、Anthropic、Cohere、Chainguard、WIZ、GenLab。
CoSAI 被定义为一个开源社区，由项目管理委员会领导，负责推进和管理其整体技术议程，并由来自学术界和工业界的人工智能专家组成的技术指导委员会负责监督其工作流程。
CoSAI 的工作范围包括安全地构建、集成、部署和操作 AI 系统，重点是减轻模型盗窃、数据中毒、提示注入、规模化滥用和推理攻击等风险。该项目旨在制定全面的安全措施，解决 AI 系统中典型和独有的风险。
CoSAI 最初将形成三个工作流：
- AI 系统的软件供应链安全：增强组成和来源追踪以保护 AI 应用的安全。
- 为不断变化的网络安全形势做好防御者的准备：解决 AI 和传统系统中的投资和集成挑战。
- AI 安全治理：为 AI 安全制定最佳实践和风险评估框架。
后续还计划随着时间的推移增加更多工作流。
更多详情可查看官方公告。
