谷歌發(fā)布全球最強(qiáng)開源大模型Gemma 可在筆記本運(yùn)行

今日凌晨，Google宣布推出先進(jìn)的輕量級開放模型系列Gemma，該模型采用了與創(chuàng)建 Gemini 模型相同的研究和技術(shù)。

Google表示，受到 Gemini 的啟發(fā)，Google DeepMind 和 Google 其他團(tuán)隊(duì)合作開發(fā)了 Gemma，并用拉丁語中意為“寶石”的 gemma 為其命名。在發(fā)布模型權(quán)重的同時(shí)，還推出了一系列工具，旨在支持開發(fā)者創(chuàng)新，促進(jìn)合作，并將指導(dǎo)開發(fā)者如何負(fù)責(zé)任地使用 Gemma 模型。

Google方面稱，從今天起，Gemma 在全球范圍內(nèi)開放使用。將發(fā)布兩種權(quán)重規(guī)模的模型：Gemma 2B 和 Gemma 7B。每種規(guī)模都有預(yù)訓(xùn)練和指令微調(diào)版本。

“新的 Responsible Generative AI Toolkit 為使用 Gemma 創(chuàng)建更安全的 AI 應(yīng)用程序提供指導(dǎo)和必備工具。我們通過原生 Keras 3.0為所有主要框架（JAX、PyTorch 和 TensorFlow）提供推理和監(jiān)督微調(diào)（SFT）的工具鏈。”

與此同時(shí)，主打上手即用，該模型與 Colab 和 Kaggle notebooks，以及與 Hugging Face、MaxText 和 NVIDIA NeMo 等受歡迎的工具集成，讓開始使用 Gemma 變得簡單容易。

更為重要的是，經(jīng)過預(yù)訓(xùn)練和指令微調(diào)的 Gemma 模型可以在您的筆記本電腦、工作站或 Google Cloud 上運(yùn)行，并可輕松部署在 Vertex AI 和 Google Kubernetes Engine（GKE）上。

在性能表現(xiàn)上，Gemma 在關(guān)鍵基準(zhǔn)測試集上大大超過了更大的模型，同時(shí)還嚴(yán)格遵守了我們對安全和負(fù)責(zé)任輸出的標(biāo)準(zhǔn)。

針對開發(fā)者，谷歌方面說明，開發(fā)者可以基于自己的數(shù)據(jù)微調(diào) Gemma 模型以適應(yīng)特定應(yīng)用需求，例如摘要或檢索增強(qiáng)生成 (RAG)。Gemma 可支持多種工具和系統(tǒng)：

1、多框架工具：Gemma 提供 Keras 3.0、原生 PyTorch、JAX 和 Hugging Face Transformers 多個(gè)框架的參考實(shí)現(xiàn)，您可以選擇熟悉的框架進(jìn)行推理和微調(diào)。

2、跨設(shè)備兼容：Gemma 模型可以在筆記本電腦、臺式機(jī)、物聯(lián)網(wǎng)、移動設(shè)備和云端等多個(gè)主流設(shè)備類型上運(yùn)行，支持廣泛的 AI 功能。

3、前沿的硬件平臺： 我們與 NVIDIA 合作，使用 NVIDIA GPU 來優(yōu)化 Gemma 模型，確保業(yè)界領(lǐng)先的性能與前沿技術(shù)的整合應(yīng)用。

4、基于 Google Cloud 的優(yōu)化：Vertex AI 提供廣泛的 MLOps 工具集，其中包含一系列微調(diào)選項(xiàng)和內(nèi)置推理優(yōu)化的一鍵部署功能。您可以使用完全托管的 Vertex AI 工具或自行管理的 GKE 來進(jìn)行高級定制，以經(jīng)濟(jì)高效的方式自行選擇部署在 GPU、TPU 或 CPU 基礎(chǔ)設(shè)施上。

在負(fù)責(zé)任方面，Gemma 在設(shè)計(jì)時(shí)將 AI 原則放在首位。為了使 Gemma 預(yù)訓(xùn)練模型安全可靠，谷歌使用自動技術(shù)，從訓(xùn)練集中過濾掉特定的個(gè)人信息及其他敏感數(shù)據(jù)。此外，我們進(jìn)行了大量的微調(diào)和人類反饋強(qiáng)化學(xué)習(xí)（RLHF），使指令微調(diào)模型與負(fù)責(zé)任的行為保持一致。

谷歌方面表示，為了解并降低 Gemma 模型帶來的風(fēng)險(xiǎn)，谷歌進(jìn)行了強(qiáng)有力的評估，包括手工紅隊(duì)測試、自動對抗性測試，以及對危險(xiǎn)活動的模型能力評估。