Create README.md
Browse files
README.md
CHANGED
|
@@ -1,74 +1 @@
|
|
| 1 |
-
|
| 2 |
-
pretty_name: ニコニコ実況 過去ログアーカイブ
|
| 3 |
-
license: mit
|
| 4 |
-
language:
|
| 5 |
-
- ja
|
| 6 |
-
task_categories:
|
| 7 |
-
- text-classification
|
| 8 |
-
duplicated_from: KakologArchives/KakologArchives
|
| 9 |
-
---
|
| 10 |
-
|
| 11 |
-
# ニコニコ実況 過去ログアーカイブ
|
| 12 |
-
|
| 13 |
-
ニコニコ実況 過去ログアーカイブは、[ニコニコ実況](https://jk.nicovideo.jp)のサービス開始から現在までのすべての過去ログコメントを収集したデータセットです。
|
| 14 |
-
|
| 15 |
-
去る2020年12月、ニコニコ実況は[ニコニコ生放送内の一公式チャンネルとしてリニューアル](https://blog.nicovideo.jp/niconews/143148.html)されました。
|
| 16 |
-
これに伴い、2009年11月から運用されてきた旧システムは提供終了となり（事実上のサービス終了）、torne や BRAVIA などの家電への対応が軒並み終了する中、当時の生の声が詰まった約11年分の過去ログも同時に失われることとなってしまいました。
|
| 17 |
-
|
| 18 |
-
そこで 5ch の DTV 板の住民が中心となり、旧ニコニコ実況が終了するまでに11年分の全チャンネルの過去ログをアーカイブする計画が立ち上がりました。紆余曲折あり Nekopanda 氏が約11年分のラジオや BS も含めた全チャンネルの過去ログを完璧に取得してくださったおかげで、11年分の過去ログが電子の海に消えていく事態は回避できました。
|
| 19 |
-
しかし、旧 API が廃止されてしまったため過去ログを API 経由で取得することができなくなり、またアーカイブされた過去ログから見たい範囲のログを探す場合も、アーカイブのサイズが合計約 150GB もあることから、とても以前のように手軽に過去ログに触れることはできなくなってしまいました。
|
| 20 |
-
|
| 21 |
-
一方、ニコニコ生放送内の一公式チャンネルとして移行した新ニコニコ実況では、タイムシフト（旧ニコニコ実況での過去ログに相当）の視聴期限は3週間までとなっているため、その期限を過ぎると過去ログは視聴できなくなってしまいます。
|
| 22 |
-
また一般会員は事前にタイムシフト予約をしておく必要があるなど、以前のような利便性は失われています。
|
| 23 |
-
|
| 24 |
-
私たちは、ニコニコ実況に投稿された日本のテレビ放送についてのコメントは、当時の世相や時代背景を端的に表す、歴史的価値のある資料だと考えています。
|
| 25 |
-
このデータセットでは、ニコニコ実況のすべての過去ログを後世に残すべく、Nekopanda 氏が配布されていた旧ニコニコ実況の 2020/12/15 までのすべての過去ログに加え、コミュニティベースの番組も含めた新ニコニコ実況の当日分の過去ログを5分に1回収集し、随時反映しています。
|
| 26 |
-
|
| 27 |
-
過去ログをかんたんに取得するための [API](https://jikkyo.tsukumijima.net/) もあります。
|
| 28 |
-
よろしければそちらもご活用ください。
|
| 29 |
-
|
| 30 |
-
## Dataset Structure
|
| 31 |
-
|
| 32 |
-
### Builder Config
|
| 33 |
-
|
| 34 |
-
| Key | Value Type | Default Value | Description |
|
| 35 |
-
| --------------- | ---------- | ------------- | ----------- |
|
| 36 |
-
| channel_id | string | None | 過去ログを取得するニコニコ実況チャンネルの ID (省略時はすべてのチャンネル) |
|
| 37 |
-
| year | int | None | 取得する過去ログの年 (省略時はすべての年) |
|
| 38 |
-
| number_of_files | int | None | 取得する過去ログファイルの数 (省略時はすべてのファイル) |
|
| 39 |
-
|
| 40 |
-
### Data Splits
|
| 41 |
-
|
| 42 |
-
| Split | Approximate Size | Description |
|
| 43 |
-
| ------- | ---------------- | ----------- |
|
| 44 |
-
| sample | 1GB | サンプルとして、2022年中に投稿された TOKYO MX (ID: jk9) のすべての過去ログコメントを取得します。1GB ほどあります。 |
|
| 45 |
-
| all | 180GB | 全チャンネル/全期間のすべての過去ログコメントを取得します。180GB 近くあるため注意してください。 |
|
| 46 |
-
|
| 47 |
-
### Data Fields
|
| 48 |
-
|
| 49 |
-
| Field | Type | Description |
|
| 50 |
-
| --------------- | -------- | ----------- |
|
| 51 |
-
| thread | string | コメントのスレッド ID |
|
| 52 |
-
| no | int64 | コメント番号 (コメ番) |
|
| 53 |
-
| vpos | int64 | スレッド ID から起算したコメントの再生位置 (1/100秒) |
|
| 54 |
-
| date | int64 | コメント投稿時間の UNIX タイムスタンプ |
|
| 55 |
-
| date_usec | int64 | コメント投稿時間の小数点以下の時間 |
|
| 56 |
-
| user_id | string | ユーザー ID (コマンドに 184 が指定されている場合は匿名化され、1週間ほどでシャッフルされる) |
|
| 57 |
-
| mail | string | コメントのコマンド (184, red naka big など、省略されることもある) |
|
| 58 |
-
| premium | boolean | コメントしたユーザーがプレミアム会員であれば True |
|
| 59 |
-
| anonymity | boolean | 匿名コメントであれば True |
|
| 60 |
-
| content | string | コメント本文 (AA など、まれに複数行コメントがあるので注意) |
|
| 61 |
-
|
| 62 |
-
## Example
|
| 63 |
-
|
| 64 |
-
```python
|
| 65 |
-
from datasets import load_dataset
|
| 66 |
-
|
| 67 |
-
dataset = load_dataset('KakologArchives/KakologArchives', 'all', channel_id='jk211', year=2023, number_of_files=10)
|
| 68 |
-
for data in dataset['train']:
|
| 69 |
-
print(data)
|
| 70 |
-
```
|
| 71 |
-
|
| 72 |
-
## Licensing Information
|
| 73 |
-
|
| 74 |
-
[MIT License](https://opensource.org/license/mit/)
|
|
|
|
| 1 |
+
test
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|