德克萨斯州奥斯汀， 2023 年 8 月 24 日/美通社/ -- 提供用于构建大规模机器学习模型的基础设施和工具的软件开发提供商 MosaicML 选择 Oracle 云基础设施 (OCI) 作为其首选云基础设施，以帮助企业提取数据从他们的数据中获得更多价值。MosaicML 表示，借助 OCI 的高性能 AI 基础设施，与其他云提供商相比，性能提高了 50%，成本节省了 80%。
“数百家组织依靠 MosaicML 的平台来开发和训练大型、复杂的生成人工智能模型。我们提供复杂的系统和硬件，以便我们的客户可以专注于构建和部署自己的高性能定制模型，”首席执行官 Naveen Rao说道。 MosaicML 联合创始人。“我们选择 OCI 是因为我们相信它是 MosaicML 的最佳基础。在使用云中的大量数据训练模型时，每一分钟都很重要——通过 OCI，我们比其他云提供商支付的费用更少，并且几乎可以线性扩展，因为Oracle 配置其互连的方式。”
MosaicML 凭借其模型训练功能，帮助组织更高效、更容易地进行 AI 模型的训练和推理。为了扩展业务以满足对 AI 服务不断增长的需求，MosaicML 选择了 OCI。借助 OCI，MosaicML 能够访问最新的 NVIDIA GPU、节点之间的极高带宽互连以及可扩展到数千个 GPU 的大型计算块大小。这使得 MosaicML 能够帮助企业和初创公司实施人工智能模型，包括十二实验室。
Twelve Labs 是一家人工智能初创公司，致力于构建多模式视频理解的基础模型。通过利用在 OCI 上运行的 MosaicML 平台和 OCI 的人工智能基础设施，十二实验室能够有效地扩展和部署其人工智能模型，以帮助用户轻松搜索、分类并更有效地利用其视频数据进行各种应用。
“MosaicML 和 Oracle 的结合为我们提供了完美的合作，帮助我们高速处理大容量并跟上我们的长期增长，” Twelve Labs 创始人兼首席执行官Jae Lee说道。“MosaicML 使我们能够高效管理大型 AI 集群，而 OCI 的 AI 基础设施确保我们不必在速度上妥协，这为我们节省了数千个小时和数万美元的效率。”
OCI 为 AI 提供了多种功能，包括AI 基础设施。OCI 计算虚拟机和裸机GPU 实例可以为计算机视觉、自然语言处理、推荐系统等应用程序提供支持。为了大规模训练大型复杂模型，例如大规模语言模型 (LLM)，OCI Supercluster提供超低延迟集群网络、HPC 存储和由 NVIDIA GPU 提供支持的 OCI 计算裸机实例。OCI 计算实例通过使用 RoCE v2（基于融合以太网的 RDMA v2）的高性能以太网进行连接。OCI 提供的NVIDIA A100 Tensor Core GPU的带宽超过了替代品提高了 4-16 倍，从而减少了机器学习训练的时间和成本。
“我们看到大量人工智能公司涌入
OCI 来运行生成式人工智能模型，因为我们可以比其他云提供商更快、更经济地运行它们。在 OCI 上在几个小时内训练一个 100
亿参数的模型并不罕见，而在 OCI 上训练一个包含 100 亿个参数的模型并不罕见。在其他平台上几天，” Oracle 高级副总裁Greg Pavlik说。“OCI 的架构和无阻塞、低延迟的网络设计与市场上的任何产品都有根本的不同。”
MosaicML 在 2022 财年第三季度选择了 Oracle。
文章来源：https://www.prnewswire.com/news-releases/mosaicml-trains-generative-ai-models-faster-with-oracle-301908618.html
