Exécuter à la fois n8n et Ollama (avec un grand modèle de langage) sur une seule VM nécessite un équilibre prudent des ressources. Le goulot d’étranglement principal sera le LLM que vous choisirez d’exécuter via Ollama, car les exigences en RAM et en CPU/GPU varient énormément entre un petit modèle (comme Phi-3 ou Llama 3.2 1B) et un modèle moyen (comme Llama 3.1 8B).
Bonjour @Elimelikeli Bienvenue !
La vitesse d’horloge n’est pas ce qui limite la génération de tokens, c’est la bande passante mémoire qui la limite. Donc un cœur à 3,5 GHz ne vous apporte que très peu par rapport à un cœur à 2,5 GHz sur la même RAM. N’importe quel processeur moderne à 2,5 GHz ou plus est correct. Donnez à la VM des cœurs physiques plutôt que des vCPU hyperthreadés, et attendez-vous à ce que les gains s’aplatissent autour du nombre de cœurs physiques, généralement près de 8, au-delà duquel les threads supplémentaires ajoutent surtout de la surcharge.
Ce qui change bien plus la vitesse d’Ollama que le GHz, c’est le type de CPU invité. Sur Proxmox ou KVM simple, le modèle générique par défaut masque AVX et AVX2 au guest, ce qui fait qu’Ollama passe à son chemin lent et enregistre « CPU does not have minimum vector extensions », ce qui désactive également l’inférence GPU si vous ajoutez une carte plus tard. Définissez le type de CPU de la VM sur host, ou x86-64-v3 si vous avez besoin de la migration en direct, puis confirmez-le à l’intérieur de la VM :
Ubuntu Server 24.04 LTS est le choix d’OS le plus sûr ici, car il offre la meilleure prise en charge prête à l’emploi de Docker et des pilotes NVIDIA si vous ajoutez un passage de GPU plus tard, et la plupart des guides Docker n8n/Ollama le supposent. Pour une VM de base sans connaître encore votre matériel hôte, commencez par 4-8 cœurs CPU physiques (pas des vCPU hyperthreadés), 16 Go de RAM minimum (32 Go si vous prévoyez d’exécuter un modèle 13B+), 100 Go de disque pour l’OS plus les poids du modèle, et une NIC virtio pour le meilleur débit sous KVM/Proxmox. Réglez le type de CPU de la VM sur host comme Anshul l’a mentionné, car cela détermine aussi si un modèle 7B s’exécute correctement ou revient au chemin lent. Installez Docker, tirez d’abord un modèle de classe 8B comme llama3.1:8b, et surveillez l’utilisation de la RAM/CPU avec htop pendant un test de prompt pour voir si vous devez augmenter les ressources.
