谷歌发布轻量级开源大语言模型 Gemma

谷歌发布了开源大语言模型 Gemma，这是一款轻量级、先进的开源模型，供开发者和研究人员用于AI构建。

Gemma模型家族包括 2B（20亿参数）和 7B（70亿参数）两种尺寸，能够在不同的设备类型上运行，包括笔记本电脑、桌面电脑、IoT设备、移动设备和云端。

性能和设计

Gemma模型在技术和基础设施组件上与Gemini共享，这使得Gemma 2B和7B在其大小范围内相比其他开放模型具有最佳性能。

Gemma模型不仅可以直接在开发者的笔记本电脑或桌面电脑上运行，而且在关键基准测试中的表现超过了更大的模型，同时遵循严格的安全和负责任输出标准。

主要特点

1. 轻量级、高性能模型：Gemma模型家族包括Gemma 2B和Gemma 7B两种尺寸，提供预训练和指令调优的变体，针对其大小范围内相比其他开放模型具有最佳性能。
2. 跨框架工具链支持：支持JAX、PyTorch和TensorFlow通过原生Keras 3.0进行推理和监督式微调（SFT），适应多种开发需求和环境。
3. 易于入门和集成：提供准备就绪的Colab和Kaggle笔记本，以及与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等流行工具的集成，方便开发者快速上手。
4. 高效的运算能力：针对多个AI硬件平台上进行优化，确保在NVIDIA GPU和Google Cloud TPU上的行业领先性能。通过与NVIDIA的合作，无论是在数据中心、云端还是本地RTX AI PC上，都确保了行业领先的性能和与尖端技术的集成。

Gemma模型能够在不同的设备类型上运行，包括笔记本电脑、桌面电脑、IoT设备、移动设备和云端。这种广泛的兼容性使得模型能够适应各种应用场景和需求。

• 模型地址：https://huggingface.co/models?other=gemma&sort=trending&search=google…
• 博客：https://blog.google/technology/developers/gemma-open-models/