尝试在手机上运行google 最新开源的gpt模型 gemma

Gemma介绍

Gemma简介

Gemma是谷歌于2024年2月21日发布的一系列轻量级、最先进的开放语言模型，使用了与创建Gemini模型相同的研究和技术。由Google DeepMind和Google其他团队共同开发。
Gemma提供两种尺寸的模型权重：2B和7B。每种尺寸都带有经过预训练（pre-trained）和经过指令调制（instruction-tuned）的变体。旨在为开发人员和研究者提供一个“轻量级、最先进的开源模型系列”Gemma提供了2B和7B两种不同规模的版本，每种都包含了预训练基础版本和经过指令优化的版本，并且无需数据量化处理，拥有高达8K tokens的处理能力。

• 预训练模型可以用于各种自然语言处理任务，例如文本生成、翻译、问答和摘要。
• 指令调制模型经过微调，可以执行特定任务，例如编写代码、撰写不同类型的创意内容、回答开放式问题等。

Gemma模型可以在您的笔记本电脑、工作站或Google Cloud上运行，并可轻松部署到Vertex AI和Google Kubernetes Engine（GKE）。

Gemma优势

Gemma具有以下优势：

• 性能领先：Gemma在多个基准测试中都取得了最先进的成果，都优于Meta的Llama 2。
• 易于使用：Gemma提供简单易用的API，可轻松集成到您的应用程序中。
• 可扩展性：Gemma可以根据您的需要进行扩展，以满足各种规模的需求。
• 开放性：Gemma是开源的，您可以自由使用和修改