Datasets:
metadata
license: other
license_name: other
license_link: LICENSE
task_categories:
- text-generation
language:
- ja
AKU-d_ms-0.5B-v0.1_dataset
Overview
※作成中
このリポジトリでは、私の開発しているAKUシリーズの一つである、AKU-d_ms-0.5B-v0.1の事前学習に使用したテキストデータを公開しています。
これには次で説明するように複数の公開データセットが含まれており、それぞれのライセンスや著作権は各データセットに従います。
また、各データセットに対する処理スクリプトは、上記GitHubリポジトリ内にて公開しています。
Each Dataset Description
| Dataset Name | License | URL or Repository |
|---|---|---|
| Accommodation Search Dialog Corpus (in Japanese) | CC-BY-4.0 | GitHub |
| Japanese Movie Recommendation Dialogue | CC-BY-SA-4.0 | GitHub |
| OjousamaTalkScriptDataset | MIT | GitHub |
| Rosebleu | Apache-2.0 | GitLab |
| character conversation dataset | Apache-2.0 | GitHub |
| 感想付きニュース雑談対話コーパス | MIT | GitHub |
| RealPersonaChat | CC-BY-SA-4.0 | GitHub, Hugging Face |
| JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset | CC-BY-SA-4.0 | GitHub, Hugging Face |
| aozorabunko-clean | CC-BY-4.0 | Hugging Face |
| Wikipedia | CC-BY-SA-3.0 | Hugging Face |
| OpenAssistant Conversations Dataset (OASST1) | Apache-2.0 | Hugging Face |
| OpenAssistant Conversations Dataset Release 2 (OASST2) | Apache-2.0 | Hugging Face |
To-do
- Accommodation Search Dialog Corpus (in Japanese)
- Japanese Movie Recommendation Dialogue
- OjousamaTalkScriptDataset
- Rosebleu
- character conversation dataset
- 感想付きニュース雑談対話コーパス
- RealPersonaChat
- JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset
- aozorabunko-clean
- Wikipedia
- OpenAssistant Conversations Dataset (OASST1)
- OpenAssistant Conversations Dataset Release 2 (OASST2)