Update README.md

README.md

@@ -32,7 +32,7 @@ pip install unsloth
 ```python
 from unsloth import FastLanguageModel
 import torch
-max_seq_length = 600 # Choose any! We auto support RoPE Scaling internally!
+max_seq_length = 128 # Choose any! We auto support RoPE Scaling internally!
 dtype = None # None for auto detection. Float16 for Tesla T4, V100, Bfloat16 for Ampere+
 load_in_4bit = True # Use 4bit quantization to reduce memory usage. Can be False.
 model, tokenizer = FastLanguageModel.from_pretrained(
@@ -59,7 +59,7 @@ def get_response(text, tokenizer=tokenizer, model=model):
         attention_mask=attention_mask,
         top_p=1,
         temperature=0.3,
-        max_length=600,
+        max_length=128,
         min_length=input_len + 4,
         repetition_penalty=1.2,
         do_sample=True,
@@ -75,8 +75,7 @@ ques = "  آش نقصدو كي نقولو لاباس"
 text = prompt_ar.format_map({'Question': ques})
 print(get_response(text))
 ```
-- Response:  لاباس تعني إنك بخير وما فما حتى مشكلة كيف تقول إنو كل شي باهي ومش مشكل نجم نعاونك في حاجة أخرى ولا عندك سؤال آخر تحب تسألوالإجابة هي هاكا يا صاحبيالدنيا ديما تكون خير كيما الواحد يكون مرتاح وباهي ويحس روحوا مع صحابو ومع الناس الكل هكة مهم برشا باش نكون عند حسن الظن ونتعامل بكل لطف ونكون طيب وحنون خاطر هذا يخلينا نواصلو علاقاتنا ونحمي صداقت 
-
+- Response:  لا باس معناها اللي الشخص موشي في مشكلة ولا مش مرتاح من الموضوع كيفاش نجم نعاونك باش تفهمو خير كان عندك تفاصيل أكثر على الوضعية والا السؤال متاعك تحب نساعدك بشوية سؤال آخر توة نهارك زين شكرا برشا عالمساعدة متاعيمحبت نقلب حاجة أخرى برك الله يباركفي هالمحادثة استعمل
 ## Citations
 When using the **Tunisian Derja Dataset** dataset, please cite: