谷歌推出了Gemma，这是一个开创性的开源语言模型集合，正在重塑我们通过语言与机器交互的方式。Gemma 清楚地表明了 Google 致力于为开源社区做出贡献，并旨在改进我们使用机器学习技术的方式，请查看比较 Gemma AI 与 Llama-2 的基准测试，下表进行性能比较。
Gemma 的核心是 Gemini 技术，它确保这些模型不仅高效，而且处于语言处理的最前沿。Gemma AI 模型旨在以文本到文本为基础工作，并且仅解码器，这意味着它们特别擅长理解和生成听起来像是人类编写的文本。虽然它们最初是用英语发布的，但谷歌正在努力增加对更多语言的支持，这将使它们对更多的人有用。
Gemma AI 的功能和用法
- 谷歌已经发布了两个版本：Gemma 2B 和 Gemma 7B。每种尺寸都带有预先训练和指令调整的变体。
- 此外，新的负责任的生成式 AI 工具包还为使用 Gemma 创建更安全的 AI 应用程序提供了指导和基本工具。
- Google 还通过原生 Keras 3.0 在所有主要框架（JAX、PyTorch 和 TensorFlow）中提供用于推理和监督微调 （SFT） 的工具链。
- 通过现成的 Colab 和 Kaggle 笔记本访问 Gemma，并与 Hugging Face、MaxText、NVIDIA NeMo 和 TensorRT-LLM 等流行工具集成，让您轻松开始使用 Gemma。
- 经过预训练和指令优化的 Gemma 模型可以在您的笔记本电脑、工作站或 Google Cloud 上运行，并轻松部署在 Vertex AI 和 Google Kubernetes Engine （GKE） 上。
- 跨多个 AI 硬件平台进行优化，确保行业领先的性能，包括 NVIDIA GPU 和 Google Cloud TPU。
- 使用条款允许所有组织（无论规模大小）进行负责任的商业使用和分发。
谷歌杰玛 vs 骆驼 2
Gemma 套件由四个型号组成。其中两个特别强大，有 70 亿个参数，而另外两个仍然非常强大，有 20 亿个参数。参数的数量是衡量模型复杂程度以及它们对语言细微差别的理解程度的一种方式。
来自 Google 的开源 AI 模型
Gemma 专为推动 AI 创新的开发人员和研究人员的开放社区而构建。您可以立即开始使用 Gemma 使用 Kaggle 中的免费访问权限、Colab 笔记本电脑的免费套餐以及首次使用 Google Cloud 用户的 300 美元积分。研究人员还可以申请高达 500,000 美元的 Google Cloud 积分，以加速他们的项目。
训练 AI 模型
为了训练像 Gemma 这样复杂的模型，谷歌使用了大量的数据集。该数据集包括 6 万亿个代币，这些代币是来自各种来源的文本片段。谷歌一直小心翼翼地遗漏任何敏感信息，以确保它们符合隐私和道德标准。
对于 Gemma 模型的训练，Google 使用了最新技术，包括 TPU V5e，这是一种尖端的张量处理单元。这些模型的开发也得到了 JAX 和 ML Pathways 框架的支持，这些框架为它们的创建提供了坚实的基础。
Gemma 的初始性能基准看起来很有希望，但 Google 知道总有改进的余地。这就是为什么他们邀请社区帮助完善模型。这种协作方式意味着任何人都可以为使 Gemma 变得更好做出贡献。
Google 已为 Gemma 制定了使用条款政策，以确保以负责任的方式使用 Gemma。这包括某些限制，例如不将模型用于聊天机器人应用程序。要访问模型权重，您必须填写一份申请表，这样 Google 就可以密切关注这些强大工具的使用情况。
对于那些开发软件或进行研究的人来说，Gemma 模型可以很好地与流行的机器学习库（例如 Keras NLP）配合使用。如果使用 PyTorch，则会找到针对不同类型的计算机优化的模型版本。
Gemma 自带的分词器可以处理大量不同的单词和短语，词汇量为 256,000。这表明这些模型可以理解和创建广泛的语言模式，这也意味着它们已经准备好在未来扩展以包含更多语言。
Google 的 Gemma 模型代表了开源语言建模领域的重大进步。凭借其复杂的设计、全面的培训以及社区推动的改进潜力，这些模型将成为开发人员和研究人员的重要工具。当你探索Gemma可以做什么时，你自己对它的发展的贡献可能会对我们未来如何使用自然语言与机器进行交互产生重大影响。
