Hi,我想要為使用者建立一個個人工作流程來測試安裝在 Windows Server 2019 上的內部 AI 模型,使用 ollama

我嘗試了很多次,工作流程似乎無法呼叫 ollama AI 模型,但我找不到任何錯誤日誌
有什麼想法嗎?
還是現在還是無法運作。
嗨 @lannyho
以下是你需要注意的事項。
你的 n8n 工作流程無法運作,是因為 AI 軟體(Ollama)和自動化工具(n8n)無法正確通訊。本質上這是一個「連線」問題;n8n 試圖傳送訊息,但它使用了錯誤的名稱,在你的伺服器上撞上了數位牆。
首先,存在一個簡單的命名錯誤。你告訴 n8n 使用一個名叫「llama3.2」的模型,但你的伺服器將其列為「llama3.2:latest」。對電腦來說,這是兩個完全不同的名稱。你只需在 n8n 設定中的模型名稱後面加上「:latest」部分,使它們完全相符。
其次,AI 軟體目前處於「私密模式」。預設情況下,Ollama 只與自己內部的運作進行通訊。你需要更改 Windows 伺服器上的隱藏設定(稱為環境變數),以告訴 AI 停止保持私密,開始接聽來自其他應用程式的請求。
即使 AI 願意通訊,你的 Windows 伺服器也有一個內建的安全防護,稱為防火牆。這個防護阻止幾乎所有傳入流量以保護伺服器安全。你需要建立一個特定的「允許」規則,告訴防護讓訊息通過連接埠 11434,這是 AI 用來通訊的特定通道。
此外,你需要確保 n8n 確切知道伺服器位於何處。如果你在設定中使用了「localhost」這個字,n8n 會在自己內部尋找 AI,而不是在伺服器上。你必須將「localhost」替換為你的 Windows 伺服器的實際 IP 位址,以便 n8n 知道確切要呼叫哪台機器。
一旦你修正了名稱、告訴 AI 開始接聽、打開防火牆通道並提供正確的伺服器位址,連線就應該建立。逐一嘗試這些步驟,你的 AI 代理應該就會開始在聊天中回應你的「你好」訊息。