Update main.py

main.py

@@ -396,7 +396,9 @@ async def start():
 async def construction_NCS(competenceList):
     context = await contexte(competenceList)
     emploisST = context.to_string(index = False)
-    cl.user_session.set("contextChatBot", emploisST)
+    ficheClesMetier = await document_chiffres_cles_emplois("https://dataemploi.francetravail.fr/metier/chiffres-cles/NAT/FR/", romeListArray)
+    contentChatBot = emploisST + ficheClesMetier
+    cl.user_session.set("contextChatBot", contentChatBot[0:28875])
     romeListArray = cl.user_session.get("codeRomeArray")
     listEmplois = context.values.tolist()
     stringEmplois = ''
@@ -429,7 +431,6 @@ async def construction_NCS(competenceList):
         ).send()
     
     await cl.sleep(1)
-    ficheClesMetier = await document_chiffres_cles_emplois("https://dataemploi.francetravail.fr/metier/chiffres-cles/NAT/FR/", romeListArray)
     listClesMetier_name = f"Chiffres clés des emplois"
     text_ClesMetier = []
     text_ClesMetier.append(
@@ -775,7 +776,6 @@ async def connexion_catalogue_Rome():
 @cl.step(type="llm")
 async def IA():
     os.environ['HUGGINGFACEHUB_API_TOKEN'] = os.environ['HUGGINGFACEHUB_API_TOKEN']
-    #repo_id = "mistralai/Mixtral-8x7B-Instruct-v0.1"
     repo_id = "mistralai/Mistral-7B-Instruct-v0.3"
 
     llm = HuggingFaceEndpoint(
@@ -817,7 +817,7 @@ async def setup_agent(settings):
 
     model = HuggingFaceEndpoint(
         repo_id=repo_id,
-        max_new_tokens=6000,
+        max_new_tokens=3600,
         temperature=0.5,
         streaming=True
     )