如何使用Ollama從外接硬碟執行LLM

想在 Mac 上直接執行生成式人工智慧?這就是 Ollama 的用武之地。但有一個問題–現代 LLM 每個可能佔用 4GB 到 40GB,很快就會佔滿你的內建硬碟。

如何使用Ollama從外部硬碟執行LLM

這就是本指南的作用所在–我將向你展示如何在外接硬碟上安裝和執行 Ollama,並將你下載的所有 LLM 直接儲存在外接硬碟上,這樣就不會佔用 Mac 內建硬碟的空間了。

在本逐步指南中,我將指導你完成從安裝 Ollama 到將其移動到外接硬碟的全部過程。

安裝Homebrew

首先,讓我們安裝 Homebrew(如果你已經安裝了,請跳過這一步)。

Homebrew 讓安裝 Ollama 變得超級簡單,而且如果你以後想解除安裝 Ollama,它也很方便。

  1. 開啟終端(點選 Cmd + 空格鍵,輸入“Terminal”,按 Enter 鍵)
  2. 複製並貼上此命令:
    /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  3. 檢查是否成功:
    brew --version

安裝Ollama

現在我們已經準備好 Homebrew,安裝 Ollama 只需兩條命令:

  1. 執行安裝命令:
    brew install ollama
  2. 驗證是否安裝成功:
    ollama --version

注意:如果你看到“Warning: could not connect to a running Ollama instance”(警告:無法連線到正在執行的 Ollama 例項)的資訊,請不要擔心!這很正常,因為我們還沒有啟動 Ollama。只要看到類似“client version 0.5.7”的資訊,就可以開始了。

驗證Ollama版本

在外接硬碟上設定Ollama

預設情況下,Ollama 會將所有內容儲存在 Mac 內建硬碟上的 ~/.ollama 資料夾中。讓我們把它移到外接硬碟上:

  1. 將外接硬碟連線到 Mac。
  2. 在外接硬碟上建立 Ollama 資料夾:
    mkdir /Volumes/YourDriveName/.ollama

    例如,如果硬碟名為“MyDrive”:

    mkdir /Volumes/MyDrive/.ollama
  3. 將現有 Ollama 檔案移動到外接硬碟:
    mv ~/.ollama /Volumes/YourDriveName/.ollama
  4. 建立連結,以便 Ollama 知道在哪裡查詢:
    ln -s /Volumes/YourDriveName/.ollama ~/.ollama

下載並執行首個LLM

是時候執行你的第一個 LLM 了!開啟終端,然後

  1. 啟動 Ollama:
    ollama serve
  2. 開啟一個新的終端視窗,下載一個 LLM(讓我們試試 Llama 2 ):
    ollama pull llama2

    由於 LLM 是相當大的檔案,因此下載需要一些時間–根據你的網速,可能需要幾分鐘或更長時間。

    下載一個 LLM

  3. 下載完成後,使用下面命令執行:
    ollama run llama2

    執行您的第一個LLM

就是這樣!現在你就可以通過 Ollama 與 Llama 2 聊天了,一切都在你的外接硬碟上執行。

常見問題

如何檢視外接硬碟上的Ollama檔案?

所有檔案都儲存在 /Volumes/YourDriveName/.ollama 資料夾中。模型在 models/blobs 子資料夾中。

在終端中鍵入 ls /Volumes/YourDriveName/.ollama/models/blobs/ 檢視所有下載的模型。

如何解除安裝Ollama?

由於我們是通過 Homebrew 安裝的,因此只需執行

brew uninstall ollama

然後刪除外接硬碟中的 .ollama 資料夾。

如何安裝更多LLM?

Ollama 的庫頁面查詢更多可以下載的 LLM,然後使用 pull 命令:

ollama pull modelname

例如:ollama pull deepseek-r1ollama pull llama3.3

如何檢視已下載的所有LLM?

執行此命令:

ollama list

這將顯示所有已安裝的模型及其大小。

如何刪除不再使用的 LLM?

使用刪除命令:

ollama rm modelname

例如:ollama rm llama2

我可以在另一臺 Mac 上使用帶有 Ollama 的外接硬碟嗎?

可以。按照上述步驟在另一臺 Mac 上安裝 Ollama,然後建立指向外接硬碟.ollama 資料夾的符號連結並連線外接硬碟。您的模型無需再次下載即可使用。

評論留言