Update README.md
Browse files
README.md
CHANGED
|
@@ -21,8 +21,8 @@ Shell在保留Codeshell优异的代码能力的同时,具有以下特性:
|
|
| 21 |
|
| 22 |
本次我们同时发布了Shell-7B的base版本和chat版本,大家可以根据自身需求选择对应的模型。
|
| 23 |
|
| 24 |
-
- **Shell-7B-Base**:具有强大语义理解能力的通用大模型,大家可以基于该模型微调自己的大模型。
|
| 25 |
-
- **Shell-7B-Chat**:在Shell-7B-Base微调得到的对话预训练模型,直接下载使用即可获得流畅的对话体验。
|
| 26 |
|
| 27 |
|
| 28 |
## Performance
|
|
@@ -56,7 +56,7 @@ Shell在保留Codeshell优异的代码能力的同时,具有以下特性:
|
|
| 56 |
|
| 57 |
## Quickstart
|
| 58 |
|
| 59 |
-
Shell系列模型已经上传至 <a href="https://huggingface.co/WisdomShell
|
| 60 |
|
| 61 |
在开始之前,请确保已经正确设置了环境,并安装了必要的代码包,以及满足上一小节的环境要求。你可以通过下列代码快速安装相关依赖。
|
| 62 |
|
|
@@ -100,7 +100,7 @@ print(output)
|
|
| 100 |
|
| 101 |
### Shell in c/c++
|
| 102 |
|
| 103 |
-
由于大部分个人电脑没有GPU,Shell提供了C/C++版本的推理支持,开发者可以根据本地环境进行编译与使用,详见[
|
| 104 |
|
| 105 |
|
| 106 |
## Finetune
|
|
@@ -149,19 +149,19 @@ python demos/cli_demo.py
|
|
| 149 |
|
| 150 |
### API
|
| 151 |
|
| 152 |
-
|
| 153 |
|
| 154 |
```
|
| 155 |
python demos/openai_api.py
|
| 156 |
```
|
| 157 |
|
| 158 |
-
启动后即可通过HTTP请求与
|
| 159 |
|
| 160 |
```
|
| 161 |
curl http://127.0.0.1:8000/v1/chat/completions \
|
| 162 |
-H "Content-Type: application/json" \
|
| 163 |
-d '{
|
| 164 |
-
"model": "
|
| 165 |
"messages": [
|
| 166 |
{
|
| 167 |
"role": "user",
|
|
|
|
| 21 |
|
| 22 |
本次我们同时发布了Shell-7B的base版本和chat版本,大家可以根据自身需求选择对应的模型。
|
| 23 |
|
| 24 |
+
- **[Shell-7B-Base](https://huggingface.co/WisdomShell/Shell-7B)**:具有强大语义理解能力的通用大模型,大家可以基于该模型微调自己的大模型。
|
| 25 |
+
- **[Shell-7B-Chat](https://huggingface.co/WisdomShell/Shell-7B-Chat)**:在Shell-7B-Base微调得到的对话预训练模型,直接下载使用即可获得流畅的对话体验。
|
| 26 |
|
| 27 |
|
| 28 |
## Performance
|
|
|
|
| 56 |
|
| 57 |
## Quickstart
|
| 58 |
|
| 59 |
+
Shell系列模型已经上传至 <a href="https://huggingface.co/WisdomShell" target="_blank">Hugging Face</a>,开发者可以通过Transformers快速调用Shell-7B和Shell-Chat-7B。
|
| 60 |
|
| 61 |
在开始之前,请确保已经正确设置了环境,并安装了必要的代码包,以及满足上一小节的环境要求。你可以通过下列代码快速安装相关依赖。
|
| 62 |
|
|
|
|
| 100 |
|
| 101 |
### Shell in c/c++
|
| 102 |
|
| 103 |
+
由于大部分个人电脑没有GPU,Shell提供了C/C++版本的推理支持,开发者可以根据本地环境进行编译与使用,详见[Shell C/C++本地化版](https://github.com/WisdomShell/llama_cpp_for_codeshell)。
|
| 104 |
|
| 105 |
|
| 106 |
## Finetune
|
|
|
|
| 149 |
|
| 150 |
### API
|
| 151 |
|
| 152 |
+
Shell也提供了基于OpenAI API的部署方法。
|
| 153 |
|
| 154 |
```
|
| 155 |
python demos/openai_api.py
|
| 156 |
```
|
| 157 |
|
| 158 |
+
启动后即可通过HTTP请求与Shell交互。
|
| 159 |
|
| 160 |
```
|
| 161 |
curl http://127.0.0.1:8000/v1/chat/completions \
|
| 162 |
-H "Content-Type: application/json" \
|
| 163 |
-d '{
|
| 164 |
+
"model": "Shell-7B-Chat",
|
| 165 |
"messages": [
|
| 166 |
{
|
| 167 |
"role": "user",
|