Ich verwende das Google Gemini Chat Model mit der Basic LLM Chain.
In der Gemini-Node-Ausgabe kann ich die tokenUsage-Daten (prompt, completion und total tokens) sehen. Allerdings verschwinden diese Daten im nächsten Node (Set oder Code Node). Nur der text wird weitergeleitet.
Was ich bereits versucht habe:
{{ $json.tokenUsage.totalTokens }} überprüft –> Gibt undefined zurück.
Alle Output Parser entfernt –> Token-Daten sind immer noch nicht vorhanden.
Ein Code Node ausprobiert, um die Daten zu finden –> Sie sind dort nicht vorhanden.
Screenshot 1: Zeigt, dass der Gemini Node die Token-Daten hat. Screenshot 2: Zeigt, dass der nächste Node sagt, dass die Daten undefined sind.
Wie kann ich die Basic LLM Chain dazu bringen, die Token-Usage-Metadaten an den nächsten Node weiterzugeben? Ich benötige dies für die Kostenverfolgung.
Hallo @Kunwei_TAN, willkommen!
Das ist derzeit eine Einschränkung des Basic LLM Chain Nodes.
Es gibt eine mögliche Lösung durch die Verwendung des AI Agent Nodes oder durch das Abrufen von Daten über die N8N API.
Wenn du diese Art von Informationen direkt möchtest, verwende den OpenAI Node oder den Gemini Node.
Wenn du die Nutzung über die N8N API abrufen möchtest, hier ist die Lösung: