File size: 249 Bytes
609a09d |
1 2 3 4 5 6 7 8 9 |
FROM ./phi3-medium-4k-14B-q4_1.gguf
TEMPLATE """<s>{{ if .Prompt }}<|user|>
{{ .Prompt }}<|end|>
{{ end }}<|assistant|>
{{ .Response }}<|end|>"""
PARAMETER stop <|endoftext|>
PARAMETER stop <|assistant|>
PARAMETER stop <|end|>
PARAMETER num_ctx 4096 |