|
--- |
|
license: other |
|
license_name: other |
|
license_link: LICENSE |
|
task_categories: |
|
- text-generation |
|
language: |
|
- ja |
|
--- |
|
|
|
# AKU-d_ms-0.5B-v0.1_dataset |
|
## Overview |
|
このリポジトリは、私の開発している[AKUシリーズ](https://github.com/YukiTomita-CC/AKU)の1つ目となる、**AKU-d_ms-0.5B-chat-v0.1**の事前学習に使用したテキストデータを集めています。 |
|
|
|
これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。\ |
|
また、各データセットに対する処理スクリプトは、上記[GitHubリポジトリ内](https://github.com/YukiTomita-CC/AKU/tree/main/aku/dataset)にて公開しています。 |
|
|
|
合計トークン数は **1.56 B tokens**となります。([モデルに使用しているTokenizer](https://huggingface.co/YukiTomita-CC/AKU-d_ms_tokenizer)による計算) |
|
|
|
## Each Dataset Description |
|
| Dataset Name | License | URL or Repository | token count | |
|
| :----------------------------------------------------- | :----------- | :---------------------------------------------------------------------------------------------------------------------------------------- | ------------: | |
|
| Accommodation Search Dialog Corpus (in Japanese) | CC-BY-4.0 | [GitHub](https://github.com/megagonlabs/asdc) | 139,246 | |
|
| Japanese Movie Recommendation Dialogue | CC-BY-SA-4.0 | [GitHub](https://github.com/ku-nlp/JMRD) | 2,698,430 | |
|
| OjousamaTalkScriptDataset | MIT | [GitHub](https://github.com/matsuvr/OjousamaTalkScriptDataset) | 8,710 | |
|
| Rosebleu | Apache-2.0 | [GitLab](https://gitlab.com/open_contents_datasets/Rosebleu) | 4,844,391 | |
|
| character conversation dataset | Apache-2.0 | [GitHub](https://github.com/matsuvr/characterconversationdataset) | 23,843 | |
|
| 感想付きニュース雑談対話コーパス | MIT | [GitHub](https://github.com/fukanarita/newschat-with-impression) | 352,350 | |
|
| RealPersonaChat | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/real-persona-chat), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/real-persona-chat) | 9,588,948 | |
|
| JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/jmultiwoz), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/jmultiwoz) | 1,836,127 | |
|
| aozorabunko-clean | CC-BY-4.0 | [Hugging Face](https://huggingface.co/datasets/globis-university/aozorabunko-clean) | 110,521,202 | |
|
| Wikipedia | CC-BY-SA-3.0 | [Hugging Face](https://huggingface.co/datasets/wikimedia/wikipedia) | 1,430,838,594 | |
|
| original(32 items datasets created entirely by human) | MIT | The data before conversion will be made public at a later date. | 9,621 | |
