Quels devraient être les meilleurs tokens utilisés par n8n pour ses modèles LLM lors de l'envoi d'une invite de workflow builder par l'utilisateur

Feedback General
1

Combien de tokens sont les meilleurs pour extraire la meilleure production du modèle

2

Il n’y a pas de nombre magique pour les tokens, mes recommandations, pour les
Tâches simples, par exemple l’analyse de texte, les mappages basiques, c’est 500 à 1000 tokens maximum, car c’est rapide et peu coûteux, pour la Logique complexe / Génération de code, je recommande 2000 - 4000 tokens maximum, car cela donne au modèle suffisamment de place pour produire du JSON bien commenté, etc. Pour les boucles multi-agents avancées, laissez faire au modèle, ce qui lui permet de choisir naturellement sa longueur de sortie jusqu’à sa capacité maximale native. J’espère que cela vous aide :crossed_fingers:

3

  • Classification ou réponses oui/non : 50 à 200

  • Extraction de données structurées (JSON, champs) : 300 à 800

  • Résumés ou courtes analyses : 500 à 1500

  • Contenu long ou raisonnement détaillé : 1500 à 4000

Si vous obtenez des réponses tronquées, doublez votre limite actuelle et testez à nouveau. Si le coût est une préoccupation, enregistrez l’utilisation réelle des tokens à partir de la réponse du modèle et réglez le plafond à 20 % au-dessus de votre moyenne.

À quoi l’utilisez-vous ? Cela m’aidera à affiner la réponse.

4

This topic was automatically closed 90 days after the last reply. New replies are no longer allowed.