Dados de uso de tokens estão faltando após o nó "Basic LLM Chain"

[Kunwei_TAN]

Oi,

Estou usando o Google Gemini Chat Model com a Basic LLM Chain.

No output do nó Gemini, consigo ver os dados de tokenUsage (prompt, completion e total de tokens). No entanto, no próximo nó (Set ou Code node), esses dados desaparecem. Apenas o text é passado adiante.

O que já tentei:

• Verificar {{ $json.tokenUsage.totalTokens }} → Retorna undefined.

• Remover todos os Output Parsers → Ainda sem dados de tokens.

• Tentar um Code node para encontrar os dados → Não estão lá.

Screenshot 1: Mostra que o nó Gemini contém os dados de tokens. Screenshot 2: Mostra que o próximo nó diz que os dados estão undefined.

Como posso fazer com que a Basic LLM Chain passe os metadados de uso de tokens para o próximo nó? Preciso disso para rastreamento de custos.

[Anshul_Namdev]

Olá @Kunwei_TAN, bem-vindo!
Atualmente essa é uma limitação do nó básico do LLM Chain.
Existe uma possível solução alternativa usando o nó AI agent ou recuperando dados pela API do N8N.

Access an agent's chat model output in subsequent nodes

The following is the json output of the chat module of a standard AI Agent node. I’d like the output of my agent to include model_name and tokenUsage so that the user gets an immediate feedback about the cost of usage per message. How do I access this data? I wasn’t able to find a suitable object in subsequent nodes or even in the system message of the agent node. [ { "response": { "generations": [ [ { "text": "TRUNCATED OUTPUT", "generati…

Se você quiser essa informação diretamente, considere usar o nó OpenAI ou nó Gemini.

Se você quiser obter o uso pela API do n8n, aqui está a solução alternativa:

How to retrieve used tokens in a node?

for (const item of $input.all()) { try { // Utilisation de .first() pour forcer n8n à aller chercher les données // dans le nœud Gemini2 peu importe où il se trouve const geminiData = $(‘Gemini2’).first().json; item.json.prompt_tokens = geminiData.tokenUsage?.promptTokens || 0; item.json.completion_tokens = geminiData.tokenUsage?.completionTokens || 0; item.json.total_tokens = geminiData.tokenUsage?.totalTokens || 0; } catch (error) { item.json.prompt_tokens = 0; item.json.completion_tok…