Spaces:
Running
on
T4
Running
on
T4
Update app.py
Browse files
app.py
CHANGED
@@ -19,7 +19,7 @@ gpu_h = nvmlDeviceGetHandleByIndex(0)
|
|
19 |
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
|
20 |
|
21 |
ctx_limit = 4000
|
22 |
-
gen_limit =
|
23 |
|
24 |
########################## text rwkv ################################################################
|
25 |
from rwkv.utils import PIPELINE, PIPELINE_ARGS
|
|
|
19 |
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
|
20 |
|
21 |
ctx_limit = 4000
|
22 |
+
gen_limit = 1000
|
23 |
|
24 |
########################## text rwkv ################################################################
|
25 |
from rwkv.utils import PIPELINE, PIPELINE_ARGS
|