Das hängt davon ab, wie dein n8n installiert ist. Wenn es ein Docker-Container ist, musst du entweder das LLM in einen anderen Docker-Container verschieben und über den Container-Namen darauf zugreifen (am einfachsten), oder den Zugriff vom Docker-Container auf den Host-Dienst erlauben
vLLM stellt eine OpenAI-kompatible API bereit, daher kannst du den OpenAI Chat Model-Knoten in n8n verwenden, um dich damit zu verbinden. Stelle in den OpenAI-Anmeldedaten die Base URL auf http://localhost:8000/v1 ein (oder die tatsächliche Host-IP, falls n8n in Docker läuft – verwende http://host.docker.internal:8000/v1 auf Mac/Windows oder die LAN-IP deines Computers unter Linux). Gib einen beliebigen nicht-leeren String als API-Schlüssel ein, da vLLM standardmäßig keine Authentifizierung benötigt. Gib dann im OpenAI Chat Model-Knoten den Modellnamen manuell ein – dieser sollte mit der Modell-ID übereinstimmen, die vLLM bereitstellt (überprüfe mit curl http://localhost:8000/v1/models`).
vLLM stellt bereits eine mit OpenAI kompatible API zur Verfügung, also benötigst du keinen speziellen Node — verwende einfach den OpenAI-Node und zeige ihn auf deinen lokalen Server.
Schritt für Schritt:
Erstelle eine „OpenAI"-Anmeldedaten im n8n.
Gib unter Base URL die Adresse deines vLLM ein, die mit /v1 endet (in deinem Fall localhost auf Port 8000 gefolgt von /v1). Das /v1 am Ende ist essentiell — es ist der Path, den vLLM bereitstellt.
Im Feld API Key erfordert vLLM normalerweise keinen Schlüssel, aber n8n verlangt das Feld auszufüllen: gib einen beliebigen Wert ein, z. B. sk-local.
Im Node gib unter Model exakt den Namen ein, den vLLM bereitstellt (den --served-model-name / --model, wahrscheinlich gpt-oss-20b). Wenn der Name nicht übereinstimmt, gibt es einen Fehler „model not found".
Häufigste Falle: Wenn n8n in Docker läuft, zeigt localhost auf den Container und nicht auf deine Maschine. In diesem Fall ersetze localhost durch host.docker.internal (Mac/Windows) oder durch die IP-Adresse deiner Maschine im LAN, behalte Port 8000 und /v1 bei. Um zu bestätigen, dass die URL korrekt ist, bevor du sie im n8n einsteckst, mache einen curl zum Endpoint /v1/models — wenn gpt-oss-20b aufgelistet wird, repliziere einfach dieselbe Adresse in den Anmeldedaten.
Ein Hinweis hier. Wenn du es auf einem Gerät hostest, das dein LAN jemals verlässt und sich mit einem anderen Netzwerk verbindet, ändert sich deine IP-Adresse. Außerdem, wenn du keine DHCP-Reservierung in deinem Heimrouter für dieses Gerät hast, besteht auch die Möglichkeit, dass sich deine IP-Adresse ändert und es bricht.
Wie bereits erwähnt, versuche host.docker.internal:PORT und wenn das funktioniert, ist das die dauerhafte Lösung, die beide Probleme mit einer statischen IP oben behebt.
