pabloce commited on
Commit
559c9c0
·
verified ·
1 Parent(s): 102611c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -1
app.py CHANGED
@@ -42,8 +42,10 @@ def respond(
42
  ],
43
  stream=True,
44
  )
 
45
  for output in stream:
46
- yield json.dumps(output, indent=2)
 
47
  # from llama_cpp import Llama
48
  # from llama_cpp_agent import LlamaCppAgent
49
  # from llama_cpp_agent import MessagesFormatterType
 
42
  ],
43
  stream=True,
44
  )
45
+ outputs = ""
46
  for output in stream:
47
+ outputs += output["choices"][0]["text"]
48
+ yield outputs
49
  # from llama_cpp import Llama
50
  # from llama_cpp_agent import LlamaCppAgent
51
  # from llama_cpp_agent import MessagesFormatterType