Oi, quero criar um fluxo de trabalho pessoal para o usuário testar um modelo de IA interno, um modelo instalado em um servidor Windows 2019, usando ollama

E tentei muitas vezes, parece que o fluxo de trabalho não consegue chamar o modelo de IA ollama, mas não encontrei nenhum log de erro
Alguma ideia?
Oi @lannyho
Algum erro se você usar o modelo llama3:8b?
Oi @kjooleng
Ainda não está funcionando agora.
Qual é o erro?
Você pode tentar isto?
Oi @lannyho
Estas são as coisas que você precisa observar.
Seu workflow do n8n não está funcionando porque o software de IA (Ollama) e a ferramenta de automação (n8n) não estão se comunicando corretamente. É essencialmente um problema de “conexão”; o n8n está tentando enviar uma mensagem, mas está usando o nome errado e batendo em uma parede digital no seu servidor.
Primeiramente, há um simples erro de nomenclatura. Você disse ao n8n para usar um modelo chamado “llama3.2”, mas seu servidor o lista como “llama3.2:latest”. Para um computador, estes são dois nomes completamente diferentes. Você simplesmente precisa adicionar a parte “:latest” ao nome do modelo nas configurações do n8n para que correspondam perfeitamente.
Em seguida, o software de IA está atualmente em “modo privado”. Por padrão, o Ollama só se comunica com coisas que acontecem dentro de sua própria bolha imediata. Você precisa mudar uma configuração oculta no seu Windows Server chamada variável de ambiente para dizer à IA para parar de ser privada e começar a ouvir solicitações de outros aplicativos.
Mesmo que a IA esteja disposta a conversar, seu Windows Server tem um guarda de segurança integrado chamado Firewall. Este guarda bloqueia quase todo o tráfego de entrada para manter o servidor seguro. Você precisa criar uma regra “permitir” específica que diga ao guarda para deixar as mensagens passarem na Porta 11434, que é a porta específica que a IA usa para se comunicar.
Adicionalmente, você precisa certificar-se de que o n8n sabe exatamente onde o servidor está localizado. Se você usou a palavra “localhost” nas suas configurações, o n8n está procurando pela IA dentro de si mesmo e não no servidor. Você deve substituir “localhost” pelo endereço IP real do seu Windows Server para que o n8n saiba exatamente qual máquina chamar.
Uma vez que você corrija o nome, diga à IA para ouvir, abra a porta do firewall e forneça o endereço correto do servidor, a conexão deve ser estabelecida. Tente esses passos um por um, e seu agente de IA deve começar a responder às suas mensagens de “olá” no chat.
Oi @lannyho
Você pode tentar seguir este vídeo:
E nos avise em qual parte você fica travado.