就在最近，谷歌推出了其首個開源人工智慧模型，名為 Gemma，有兩種規格：Gemma 2B 和 7B。該模型適用於文字生成、摘要、基本推理等英語創造性任務。由於體積小，該模型可以下載並在沒有網際網路連線的低資源計算機上本地使用。下面是我們在 Windows、macOS 和 Linux 上下載並執行 Google Gemma AI 模型的教程。
下載 Google Gemma 2B 模型
- 在電腦上下載 LM Studio（免費）。然後，啟動程式。
- 在主頁上，您將找到 “Google 的 Gemma 2B Instruct” 模型。您也可以手動搜尋 “Gemma”。現在，開啟它。
- 然後，點選 “Download”。這是一個 1.5GB 的檔案，因為 Gemma 2B 模型已經過 4 位量化，以壓縮模型大小並減少記憶體使用。如果您的記憶體超過 8GB，您可以下載 8 位量化模型（2.67GB），它將提供更好的效能。
使用 LM Studio 離線執行 Google Gemma
- 在 LM Studio 中，移動到左側的 “Chat” 視窗。
- 然後，點選 “Select a model to load” 並選擇 “gemma”。它將消耗約 1.4GB 記憶體。
- 現在，請繼續提問吧。根據我的經驗，小小的 2B Gemma 模型適用於英語語言中的創造性任務。它拒絕回答任何有價值的問題（例如，C 語言比 Rust 語言好嗎？）
- 您還可以在右側設定 system prompt，自定義人工智慧模型的行為。
這就是如何在 PC、Mac 和 Linux 計算機上下載並執行谷歌 Gemma 模型的方法。雖然我覺得谷歌的開源模型很平淡無奇，但對於那些想在本地執行一個簡單的人工智慧模型的人來說，它可能會很有用。
總之，這就是我們的全部內容。如果你正在尋找真正的本地人工智慧助手，我強烈建議你看看 Open Interpreter。它的工作原理與 ChatGPT 的程式碼直譯器類似，可以在你的電腦上執行實際任務。最後，如果你有任何問題，請在下面的評論區告訴我們。
評論留言