Update README.md

README.md

@@ -23,10 +23,19 @@ It has been finetuned on a the machine translated instruct dataset [OpenHermes2.
 ## How to use:
 ```python
 from transformers import pipeline
-pipe = pipeline("text-generation", "timpal0l/Mistral-7B-v0.1-flashback-v2-instruct")
-text="Hur många ägg har jag? Jag hade 10 ägg, sen gav jag bort 5 ägg. Sen fick jag 3 ägg av en kompis."
-print(pipe(f"USER:{text}ASSISTANT:", max_length=512, temperature=0.6)[0]["generated_text"].split("ASSISTANT: ")[1:][0])
+
+pipe = pipeline(
+    "text-generation",
+    "timpal0l/Mistral-7B-v0.1-flashback-v2-instruct",
+    device_map="auto"
+)
+text = """
+Hur många ägg har jag? Jag hade 10 ägg, sen gav jag bort 5 ägg. Sen fick jag 3 ägg av en kompis.
+"""
+generated = pipe(f"USER:{text}ASSISTANT:", max_length=512, temperature=0.6)
+print(generated[0]["generated_text"].split("ASSISTANT: ")[1:][0])
 ```
+Output:
 ```html
 Du har 8 ägg. Här är resonemanget:
 1. Du börjar med 10 ägg