想在 Mac 上直接執行生成式人工智慧?這就是 Ollama 的用武之地。但有一個問題–現代 LLM 每個可能佔用 4GB 到 40GB,很快就會佔滿你的內建硬碟。
這就是本指南的作用所在–我將向你展示如何在外接硬碟上安裝和執行 Ollama,並將你下載的所有 LLM 直接儲存在外接硬碟上,這樣就不會佔用 Mac 內建硬碟的空間了。
在本逐步指南中,我將指導你完成從安裝 Ollama 到將其移動到外接硬碟的全部過程。
安裝Homebrew
首先,讓我們安裝 Homebrew(如果你已經安裝了,請跳過這一步)。
Homebrew 讓安裝 Ollama 變得超級簡單,而且如果你以後想解除安裝 Ollama,它也很方便。
- 開啟終端(點選 Cmd + 空格鍵,輸入“Terminal”,按 Enter 鍵)
- 複製並貼上此命令:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
- 檢查是否成功:
brew --version
安裝Ollama
現在我們已經準備好 Homebrew,安裝 Ollama 只需兩條命令:
- 執行安裝命令:
brew install ollama
- 驗證是否安裝成功:
ollama --version
注意:如果你看到“Warning: could not connect to a running Ollama instance”(警告:無法連線到正在執行的 Ollama 例項)的資訊,請不要擔心!這很正常,因為我們還沒有啟動 Ollama。只要看到類似“client version 0.5.7”的資訊,就可以開始了。
在外接硬碟上設定Ollama
預設情況下,Ollama 會將所有內容儲存在 Mac 內建硬碟上的 ~/.ollama
資料夾中。讓我們把它移到外接硬碟上:
- 將外接硬碟連線到 Mac。
- 在外接硬碟上建立 Ollama 資料夾:
mkdir /Volumes/YourDriveName/.ollama
例如,如果硬碟名為“MyDrive”:
mkdir /Volumes/MyDrive/.ollama
- 將現有 Ollama 檔案移動到外接硬碟:
mv ~/.ollama /Volumes/YourDriveName/.ollama
- 建立連結,以便 Ollama 知道在哪裡查詢:
ln -s /Volumes/YourDriveName/.ollama ~/.ollama
下載並執行首個LLM
是時候執行你的第一個 LLM 了!開啟終端,然後
- 啟動 Ollama:
ollama serve
- 開啟一個新的終端視窗,下載一個 LLM(讓我們試試 Llama 2 ):
ollama pull llama2
由於 LLM 是相當大的檔案,因此下載需要一些時間–根據你的網速,可能需要幾分鐘或更長時間。
- 下載完成後,使用下面命令執行:
ollama run llama2
就是這樣!現在你就可以通過 Ollama 與 Llama 2 聊天了,一切都在你的外接硬碟上執行。
常見問題
如何檢視外接硬碟上的Ollama檔案?
所有檔案都儲存在 /Volumes/YourDriveName/.ollama
資料夾中。模型在 models/blobs
子資料夾中。
在終端中鍵入 ls /Volumes/YourDriveName/.ollama/models/blobs/
檢視所有下載的模型。
如何解除安裝Ollama?
由於我們是通過 Homebrew 安裝的,因此只需執行
brew uninstall ollama
然後刪除外接硬碟中的 .ollama 資料夾。
如何安裝更多LLM?
在 Ollama 的庫頁面查詢更多可以下載的 LLM,然後使用 pull 命令:
ollama pull modelname
例如:ollama pull deepseek-r1
或 ollama pull llama3.3
如何檢視已下載的所有LLM?
執行此命令:
ollama list
這將顯示所有已安裝的模型及其大小。
如何刪除不再使用的 LLM?
使用刪除命令:
ollama rm modelname
例如:ollama rm llama2
我可以在另一臺 Mac 上使用帶有 Ollama 的外接硬碟嗎?
可以。按照上述步驟在另一臺 Mac 上安裝 Ollama,然後建立指向外接硬碟.ollama 資料夾的符號連結並連線外接硬碟。您的模型無需再次下載即可使用。
評論留言