Update app.py

app.py

@@ -30,6 +30,8 @@ def generate_response(input_text, temperature=0.7, max_new_tokens=1000):
         streamer=streamer,
         max_new_tokens=max_new_tokens,
         do_sample=temperature != 0,
+        top_k=50,  # Limita las palabras más probables a 50
+        top_p=0.9,  # Considera solo el 90% de la probabilidad acumulada
         temperature=temperature,
         eos_token_id=[tokenizer.eos_token_id]
     )