Preventing Text Summarization in AI Conversational Agent Node

szatzger · November 4, 2024, 12:41pm

Hello,

I’m building a chatbot in n8n with multiple functions, and one of its key features is generating a long-form blog post based on the content of a given webpage. However, I encountered a limitation with the default AI node’s output, as I cannot generate texts longer than 300-500 words.

To overcome this, I created a custom tool that successfully generates the long-format text. This output is correctly received by the “AI Conversational Agent” node in my workflow. However, instead of delivering the full text to the user, the conversational agent seems to automatically summarize it down to just a few sentences. This defeats the purpose of providing users with the full-length generated content.

I’ve attached a screenshot of the logs showing that the “Long Text Generator” returns the complete text as expected, but when processed by the “OpenAI Chat Main” node, only a shortened version is displayed. I also tried modifying the prompts to prevent summarization, but this didn’t help.

Is there a way to disable the “Conversational Agent” from summarizing the output provided by my tool? Any advice would be greatly appreciated.

Thank you!

Here you have my workflow:

Here you have the log screen:

And the last step (OpenAI Chat Main) data:

Output

{
“response”: {
“generations”: [
[
{
“text”: “json\n{\n \"action\": \"Final Answer\",\n \"action_input\": \"A Specialized S-Works Turbo Levo SL 2024 egy csúcskategóriás, könnyű eMTB, amelyet a legújabb technológiai újításokkal és kiváló teljesítménnyel terveztek. Az új SL 1.2 motor a Mahle-val közös fejlesztés eredményeként kínál 50 Nm nyomatékot és 320 watt csúcsteljesítményt, amely tökéletes egyensúlyt teremt a támogatás és a természetes kerékpározás érzése között. \\n\\nA beépített 320 Wh-s akkumulátor opcionálisan kiegészíthető egy 160 Wh-s range extenderrel a nagyobb hatótáv érdekében. A MasterMind TCU kijelző informatív visszajelzést ad, és könnyen kezelhető az intuitív mobilalkalmazáson keresztül. A kerékpár 160/150 mm-es rugóúttal rendelkezik elöl és hátul, ami sokoldalú használatot tesz lehetővé.\\n\\nA kerékpár mindössze 17,9 kg-os súlya kiemeli a kategória legkönnyebb modelljei közül. A játékos és fürge vezetési élmény mellett kiemelkedő tulajdonságai közé tartozik a vegyes kerékméret (29\\\" elöl, 27.5\\\" hátul) és az állítható geometria.\\n\\nA Specialized S-Works Turbo Levo SL prémium alkatrészekkel rendelkezik, mint például a FOX Factory felfüggesztés, SRAM XX Eagle hajtásrendszer és Code Ultimate fékek. Ezek az elemek együtt teszik lehetővé a kiváló teljesítményt különböző terepviszonyok között.\\n\\nEz az eMTB ideális választás tapasztalt mountain bike-osoknak, akik szeretnék élvezni az elektromos rásegítés előnyeit anélkül, hogy feláldoznák a természetes bringázási élményt.\"\n}\n”,
“generationInfo”: {
“finish_reason”: “stop”
}
}
]
]
},
“tokenUsage”: {
“completionTokens”: 482,
“promptTokens”: 5209,
“totalTokens”: 5691
}
}

Information on your n8n setup

n8n version: cloud 1.64.3
Database default
n8n EXECUTIONS_PROCESS setting default
Running n8n via n8n cloud
Operating system: Windows 11

n8n · November 4, 2024, 12:41pm

It looks like your topic is missing some important information. Could you provide the following if applicable.

n8n version:
Database (default: SQLite):
n8n EXECUTIONS_PROCESS setting (default: own, main):
Running n8n via (Docker, npm, n8n cloud, desktop app):
Operating system:

szatzger · November 4, 2024, 12:55pm

Here you have the input of the last step of the AI agent (The post size exceeded the limit)

input

{
“messages”: [
“System: Assistant is a large language model trained by OpenAI.\n\nAssistant is designed to be able to assist with a wide range of tasks, from answering simple questions to providing in-depth explanations and discussions on a wide range of topics. As a language model, Assistant is able to generate human-like text based on the input it receives, allowing it to engage in natural-sounding conversations and provide responses that are coherent and relevant to the topic at hand.\n\nAssistant is constantly learning and improving, and its capabilities are constantly evolving. It is able to process and understand large amounts of text, and can use this knowledge to provide accurate and informative responses to a wide range of questions. Additionally, Assistant is able to generate its own text based on the input it receives, allowing it to engage in discussions and provide explanations and descriptions on a wide range of topics.\n\nOverall, Assistant is a powerful system that can help with a wide range of tasks and provide valuable insights and information on a wide range of topics. Whether you need help with a specific question or just want to have a conversation about a particular topic, Assistant is here to assist.\n\nThe primary language of the answer is Hungarian unless the Human ask for translation.\n\nThe assistant uses BBcode for the formatting of the answer, so "Bold" means bold text. Listing is done with "[LIST] []list item 1 []list item 2 [/LIST]" format. However, above all else, all responses must adhere to the format of RESPONSE FORMAT INSTRUCTIONS.\nHuman: Answer the user question: Kérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\nAI: Sajnálom, de nem tudtam közvetlenül hozzáférni a megadott linkhez tartozó tartalomhoz. Kérlek, próbáld meg újra elérni a weboldalt, vagy ha van bármilyen konkrét kérdésed a Specialized S-Works Turbo Levo SL 2024 kerékpárral kapcsolatban, szívesen segítek válaszolni!\nHuman: Answer the user question: Kérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\nAI: Sajnálom, de nem tudtam közvetlenül hozzáférni a megadott link tartalmához. Ha van bármilyen konkrét kérdésed vagy témakör, amiről szeretnél többet megtudni a Specialized S-Works Turbo Levo SL 2024 kerékpárral kapcsolatban, szívesen segítek információkkal vagy összefoglalóval!\nHuman: Answer the user question: Kérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\nAI: Sajnálom, de nem tudtam elkészíteni a kért blogcikket a megadott link alapján. Ha van bármilyen konkrét kérdésed a Specialized S-Works Turbo Levo SL 2024 kerékpárral kapcsolatban, szívesen segítek bármilyen információval vagy összefoglalóval!\nHuman: Answer the user question: Kérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\nAI: A Specialized S-Works Turbo Levo SL egy könnyű és innovatív e-mountainbike, amely kombinálja a fejlett technológiát a kiváló teljesítménnyel. Az ebike-mtb.com cikke szerint ez a kerékpár kiemelkedő kezelhetőséget és rugalmasságot kínál, ideális mind könnyű túrákra, mind extrém terepviszonyokra. A kerékpár szíve az 1.2 SL Custom Rx motor, amely 50 Nm nyomatékot biztosít, és az energiaellátásról egy beépített 320 Wh-s akkumulátor gondoskodik. A Turbo Levo SL súlya mindössze 17,9 kg, ami hozzájárul az agilitásához és a hosszabb túrák lehetőségéhez. Az állítható geometria és a különböző kerékméretek lehetősége révén a kerékpár testreszabható a felhasználó igényei szerint. A Fox felfüggesztési rendszer biztosítja a sima utazást még nehéz terepeken is. Összességében ez az eMTB egy prémium kategóriás választás azoknak, akik élvezni szeretnék az elektromos rásegítésű mountainbike-ozás minden előnyét.\nHuman: Answer the user question: Kérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\nAI: A Specialized S-Works Turbo Levo SL 2024 egy csúcskategóriás könnyű eMTB, amely a legújabb technológiai újításokat egyesíti a kiváló teljesítménnyel. A kerékpár 50 Nm-es nyomatékú motorral és 320 Wh-s integrált akkumulátorral rendelkezik, melyek révén könnyedén teljesít különböző terepviszonyok között. A Fox felfüggesztési rendszer és a testreszabható geometria biztosítják az optimális vezetési élményt.\n\nA kerékpár tervezése során nagy hangsúlyt fektettek a könnyedségre és az agilitásra: mindössze 17,9 kg-os súlyával a kategória egyik legkönnyebb modellje. Az innovatív SWAT szerszámkészlet és az állítható kerékméret további előnyei közé tartoznak.\n\nA Specialized S-Works Turbo Levo SL-t elsősorban azoknak ajánlják, akik prémium minőségű eMTB-t keresnek, és hajlandók megfizetni az ennek megfelelő árat. Noha a 14 000 eurós ár magasnak tűnhet, a kiváló minőségű alkatrészek és az egyedi technológia igazolhatják ezt a befektetést.\n\nÖsszességében ez az eMTB ideális választás tapasztalt kerékpárosok számára, akik élvezik a hegyi ösvényeken való kalandozást és kiemelkedő kerékpáros élményekre vágynak.\nHuman: TOOLS\n------\nAssistant can ask the user to use tools to look up information that may be helpful in answering the users original question. The tools the human can use are:\n\nLongTextBasedOnLink: Call this tool if the user instructs you to create a long article bases on an internet source. Use the parameter "query" for the internet URL of the source blogpost article, and the parameter "language" for the language of the output article. The tool will give back a long article, please display the entire long-form article to the user without any summarization. Ensure that no parts of the text are omitted or condensed. The output should reflect the full original article content.\n\npicture: Call this tool to generate a picture. The input should be the prompt for the generation in English language. The tool will give back the URL of the picture, which you need to add to your answer. The text part of your answer should be in the same language as the question from the user. Ensure that the URL is inserted directly without square brackets or additional characters.\nBitrix_CRM_tool: Call this tool if the user want a summary from a company deal stored in Bitrix. The input of the workflow should the deal ID number. \nwebscrape: Call this tool to scrape a single webpage the user want to read. The input should be the URL of the webpage.\nWebsearching: Call this tool to research the internet. The input should be the question in Hungarian language.\nwikipedia-api: A tool for interacting with and fetching data from the Wikipedia API. The input should always be a string query.\ncalculator: Useful for getting the result of a math expression. The input to this tool should be a valid mathematical expression that could be executed by a simple calculator.\nKnowledgeBase: Useful for when you need to answer questions about KnowledgeBase. Whenever you need information about you should ALWAYS use this. Input should be a fully formed question.\n\n\nRESPONSE FORMAT INSTRUCTIONS\n----------------------------\n\nOutput a JSON markdown code snippet containing a valid JSON object in one of two formats:\n\nOption 1:\nUse this if you want the human to use a tool.\nMarkdown code snippet formatted in the following schema:\n\njson\n{\n \"action\": string, // The action to take. Must be one of [LongTextBasedOnLink, picture, Bitrix_CRM_tool, webscrape, Websearching, wikipedia-api, calculator, KnowledgeBase]\n \"action_input\": string // The input to the action. May be a stringified object.\n}\n\n\nOption #2:\nUse this if you want to respond directly and conversationally to the human. Markdown code snippet formatted in the following schema:\n\njson\n{\n \"action\": \"Final Answer\",\n \"action_input\": string // You should put what you want to return to use here and make sure to use valid json newline characters.\n}\n\n\nFor both options, remember to always include the surrounding markdown code snippet delimiters (begin with "json\" and end with \"")!\n\n\nUSER’S INPUT\n--------------------\nHere is the user’s input (remember to respond with a bbcode code snippet of a json blob with a single action, and NOTHING else):\nKérlek készíts nekem egy hosszú blogcikket ezen link alapján: https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\n \nAI: json\n{\n \"action\": \"LongTextBasedOnLink\",\n \"action_input\": {\n \"query\": \"https://ebike-mtb.com/en/specialized-s-works-turbo-levo-sl-2024-light-e-mtb-test/\",\n \"language\": \"Hungarian\"\n }\n}\n\nHuman: TOOL RESPONSE:\n---------------------\n

SPECIALIZED S-WORKS TURBO LEVO SL – Az Új Könnyű eMTB Összehasonlítás

Az e-MTB innováció úttörőjeként a Specialized S-Works Turbo Levo SL fantasztikus teljesítményt nyújt, de vajon megéri-e a borsos árat? Ebben a cikkben részletesen áttekintjük a legújabb, 2024-es modellen található jellemzőket, a vezetési élményt és azt, hogy miként teljesít versenytársaihoz képest.

Specialized S-Works Turbo Levo SL Jellemzői

A Specialized S-Works Turbo Levo SL egy igazi mérföldkő az elektromos mountainbike-ok világában. A második generációs modell számos innovatív megoldással büszkélkedhet, amelyek kiemelkedő teljesítményt és vezetési élményt biztosítanak. \n\nAz új SL 1.2 motor a Mahle-val közös fejlesztés eredménye, kifejezetten a kerékpár koncepciójához igazítva. 50 Nm nyomatékot és 320 watt csúcsteljesítményt nyújt, ami tökéletes egyensúlyt teremt a támogatás és a természetes kerékpározás érzése között. A beépített 320 Wh-s akkumulátor opcionálisan kiegészíthető egy 160 Wh-s range extenderrel a hatótáv növeléséhez.\n\nA MasterMind TCU kijelző a vázba integrálva informatív visszajelzést ad, és könnyen kezelhető az intuitív mobilalkalmazáson keresztül. A kerékpár 160/150 mm-es rugóúttal rendelkezik elöl és hátul, ami sokoldalú használatot tesz lehetővé. A vegyes kerékméret (29" elöl, 27.5" hátul) és a számos állítási lehetőség tovább fokozza a testreszabhatóságot.\n\nA progresszív hátsó felfüggesztés sportos menettulajdonságokat biztosít, tökéletesen illeszkedve a mindössze 17,9 kg-os összsúlyhoz. Ez teszi a Levo SL-t a teszt legkönnyebb kerékpárjává. \n\nA motor természetes vezetési élményt nyújt, diszkréten támogatva a pedálozást. Nem pótolja teljesen az emberi erőt, inkább egy kellemes hátszél érzetét kelti. Ez ideálissá teszi mind rövid hazai tekerésekhez, mind hosszabb túrákhoz. Lefelé menet pedig játékos, fürge karaktere tűnik ki, ami rengeteg élvezetet nyújt a kanyargós ösvényeken.

Design és Teljesítmény Különbségek

A Specialized S-Works Turbo Levo SL dizájnja és teljesítménye számos szempontból kiemelkedik a versenytársak közül. Az elegáns, letisztult kialakítás és a minőségi részletek azonnal magukra vonzzák a tekintetet. A karbonváz és a gondosan elrejtett kábelek prémium megjelenést kölcsönöznek a kerékpárnak. \n\nTeljesítmény terén a Levo SL igazi játékos természetű gép. A 17,9 kg-os súlyával kategóriájában a legkönnyebb, ami rendkívül agilis és élvezetes vezetést tesz lehetővé. A 160/150 mm-es rugóút és a progresszív hátsó felfüggesztés kiváló egyensúlyt teremt a játékosság és a stabilitás között. A kerékpár örömmel ugrik át minden természetes ugratót, és könnyedén manőverezhető szűk kanyarokban is.\n\nA Specialized SL 1.2 motor diszkréten működik a háttérben, természetes rásegítést biztosítva. Bár nem olyan erőteljes, mint néhány versenytárs, tökéletesen illeszkedik a kerékpár könnyű, agilis karakteréhez. Az integrált 320 Wh-s akkumulátor és az opcionális range extender hosszú túrákra is alkalmassá teszi.\n\nA prémium Fox futómű, SRAM XX Eagle Transmission váltó és Code Ultimate fékek magas szintű teljesítményt nyújtanak. A SWAT szerszám praktikus kiegészítő. Összességében a Levo SL egy kifinomult, sokoldalú gép, amely ötvözi a csúcsminőséget az élvezetes vezetési élménnyel.

Vezetési Élmény és Funkcionális Jellemzők

A Specialized S-Works Turbo Levo SL vezetési élménye valóban lenyűgöző és sokoldalú. Terepviszonyoktól függetlenül kiváló teljesítményt nyújt ez a könnyű eMTB. Meredek emelkedőkön a 50 Nm-es motor diszkréten, de hatékonyan segíti a pedálozást, így a kerékpáros természetes tempóban haladhat felfelé. Lejtőkön pedig a progresszív hátsó felfüggesztés és a jól kiegyensúlyozott geometria biztosítja a precíz irányíthatóságot.\n\nA kerékpár egyik kiemelkedő tulajdonsága a játékos és agilis vezethetőség. Szűk kanyarokban könnyen manőverezhető, és szinte kínálja magát, hogy egyik kanyarból a másikba dobáljuk. A 160/150 mm-es rugóút ellenére meglepően fürge és könnyed érzést kelt vezetés közben. Ez részben a vegyes kerékméretnek (29" elöl, 27,5" hátul) is köszönhető, ami extra mozgékonyságot biztosít.\n\nFontos megemlíteni a praktikus kiegészítőket is. A kormányszárba integrált SWAT szerszámkészlet mindig kéznél van, ha gyors javításra lenne szükség. A MasterMind TCU kijelző a vázban pedig intuitív módon jeleníti meg a fontos adatokat menet közben. A kezelőszervek ergonomikus elhelyezése tovább fokozza a vezetési élményt.\n\nÖsszességében a S-Works Turbo Levo SL egy rendkívül sokoldalú eMTB, ami egyaránt alkalmas rövid hazai túrákra és egész napos hegyi kalandokra is. Bár nem kifejezetten enduro versenyzésre tervezték, a legtöbb terepen magabiztosan helytáll, és valódi örömbiciklizést tesz lehetővé.

Felszerelt és Nélkülözhetetlen Tartozékok

A Specialized S-Works Turbo Levo SL kiváló minőségű alkatrészekkel és gondosan integrált megoldásokkal büszkélkedhet. A SRAM XX Eagle hajtásrendszer a legmagasabb szintű teljesítményt nyújtja, precíz váltást és széles áttételtartományt biztosítva. A FOX Factory felfüggesztés, beleértve a Float X légteleszkópot és a 36-os villát GRIP2 csillapítással, kifinomult beállítási lehetőségeket és kivételes teljesítményt kínál különböző terepviszonyok között. \n\nA kerékpár testébe integrált megoldások növelik a funkcionalitást és a felhasználói élményt. A SWAT szerszámkészlet a kormánycsőbe rejtve praktikus megoldás a gyors javításokhoz. A MasterMind TCU kijelző a vázcsőbe integrálva biztosít könnyen leolvasható információkat. A kábelezés rejtett vezetése tiszta megjelenést eredményez.\n\nA Roval Traverse SL karbon kerekek csökkentik a forgó tömeget és javítják a gyorsulást. A Specialized saját gumiabroncsai optimalizált tapadást nyújtanak elöl és hátul. A RockShox Reverb AXS vezeték nélküli nyeregcső zökkenőmentes állíthatóságot biztosít. A SRAM Code Ultimate fékek erőteljes és jól modulálható fékerőt adnak.\n\nEzek a prémium alkatrészek és integrált megoldások együttesen teszik a Specialized S-Works Turbo Levo SL-t egy kivételesen kifinomult és nagy teljesítményű e-MTB-vé, amely maximális élményt nyújt a terepezés során.

Specialized S-Works Turbo Levo SL Célközönsége

A Specialized S-Works Turbo Levo SL egy sokoldalú és prémium kategóriás e-MTB, amely széles célközönséget szólít meg. Ez a könnyű elektromos mountain bike ideális választás lehet az alábbi felhasználói csoportok számára:\n\n

Tapasztalt mountain bike-osok, akik egy természetes érzést nyújtó, de mégis rásegítéssel rendelkező kerékpárt keresnek
Technikai ösvényeket kedvelő túrázók, akik hosszabb távokat szeretnének megtenni
Flow trail-eket és szingltrackeket előnyben részesítő bringások
Azok, akik szeretik a játékos, fürge viselkedésű kerékpárokat
Olyan vásárlók, akik hajlandóak prémium árat fizetni a csúcsminőségért és innovációért

\n\nA Levo SL erősségei között szerepel a kiváló minőségű alkatrészek használata, az átgondolt részletek és a sokoldalú geometria. A 320 Wh-s akkumulátor és az opcionális range extender lehetővé teszi a hosszabb túrákat is. A 17,9 kg-os súly pedig kellően könnyű ahhoz, hogy motor nélkül is élvezetesen lehessen tekerni.\n\nFontos szempont lehet a vásárlásnál, hogy a Levo SL inkább egy trail bike, mint egy enduro gép. Azoknak lehet ideális, akik élvezetes vezetési élményre vágynak, nem pedig extrém teljesítményre vagy nagy ugrásokra. A természetes rásegítés és a játékos karakter olyan bringásoknak kedvez, akik aktívan szeretnének tekerni, nem pedig csak "felszállíttatni" magukat a hegyre.\n\nÖsszességében a Specialized S-Works Turbo Levo SL egy prémium választás azoknak, akik egy csúcsminőségű, sokoldalú és élvezetes e-MTB-t keresnek hosszabb túrákhoz és flow trail-ezéshez. A magas ár ellenére értéket képvisel azoknak, akik megbecsülik a kifinomult technológiát és a átgondolt részleteket.

A Specialized S-Works Turbo Levo SL egy kifinomult és magas színvonalú e-MTB, amelyet merész dizájnnal és nem mindennapi teljesítménnyel láttak el. Olyan bringásoknak készült, akik a természetességet és a könnyedséget helyezik előtérbe, ugyanakkor értékelik a szabadságérzetet és a kalandvágyat a könnyen kezelhető jellegének köszönhetően. Az innováció és a prémium jellemzők árát meg kell fontolni.\n\nUSER’S INPUT\n--------------------\n\nOkay, so what is the response to my last comment? If using information obtained from the tools you must mention it explicitly without mentioning the tool names - I have forgotten all TOOL RESPONSES! Remember to respond with a markdown code snippet of a json blob with a single action, and NOTHING else.”
],
“estimatedTokens”: 6003,
“options”: {
“openai_api_key”: {
“lc”: 1,
“type”: “secret”,
“id”: [
“OPENAI_API_KEY”
]
},
“model”: “gpt-4o”,
“frequency_penalty”: 0.5,
“max_tokens”: -1,
“presence_penalty”: 0,
“temperature”: 0.7,
“timeout”: 60000,
“max_retries”: 2,
“configuration”: {},
“model_kwargs”: {}
}
}

Jon · November 13, 2024, 9:43am

Hey @szatzger,

The conversational agent is normally used for chatting maybe another agent would be better for this?

With the summarization though have you tried asking it in the prompt not to do it?

szatzger · November 18, 2024, 7:59am

Hi Jon,

Thank you for taking the time to respond, I really appreciate it!

I’ve tried using all the other agents/LLM’s and experimented with different prompts as well, but unfortunately, none of these approaches have worked for me.

As a temporary solution, I’ve modified a version of this workflow to generate the long texts without relying on agents: Write a WordPress post with AI (starting from a few keywords) | n8n workflow template. However, this is far from an ideal solution.

Jon · November 20, 2024, 5:52am

That could be a better option as it is just generating the text instead of trying to chat about it.

I will do some digging over the next few days and see if I can work out a better agent to handle it with.