
## モデル詳細
- [cl-tohoku/bert-base-japanese](https://huggingface.co/cl-tohoku/bert-base-japanese) を JaQuAD で fine-tuning した [SkelterLabsInc/bert-base-japanese-jaquad](https://huggingface.co/SkelterLabsInc/bert-base-japanese-jaquad) に対して [TextPruner](https://github.com/airaria/TextPruner) を使って
Transformer Pruning したモデル。  
- 枝刈りには，JaQuAD の訓練データのうち1024件を使用し，10イテレーションで実施。  
- FFNのサイズを30%，attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。  
- ※ [JaQuAD の実験コード](https://github.com/SkelterLabsInc/JaQuAD/blob/main/JaQuAD.ipynb)と同じ前処理をした上で使用してください。
- ※ 上記の理由で， hf hub の Hosted inference API 上では適切な予測が出力されません。



## JaQuAD の validation データでの性能
- フルモデル
  - F1 score: 0.779
  - Exact Match: 0.614
- 枝刈り後のモデル
  - F1 score: 0.756
  - Exact Match: 0.587
{"widget": [{"text": "\u30c9\u30af\u30a6\u30c4\u30dc\u306f\u30a4\u30f3\u30c9\u6d0b\u3068\u3069\u306e\u6d77\u57df\u306e\u71b1\u5e2f\u57df\u306b\u5206\u5e03\u3057\u307e\u3059\u304b?", "context": "\u30c9\u30af\u30a6\u30c4\u30dc(\u6bd2\u9c53)Gymnothoraxjavanicus(Bleeker,1859)\u306f\u4f53\u95773\u30e1\u30fc\u30c8\u30eb\u306e\u8a18\u9332\u304c\u3042\u308b\u5927\u578b\u7a2e\u3067\u3001\u9c13\u5b54\u304c\u9ed2\u3044\u3053\u3068\u3067\u8fd1\u7e01\u7a2e\u3068\u533a\u5225\u3067\u304d\u308b\u3002 \u30a4\u30f3\u30c9\u6d0b\u3068\u592a\u5e73\u6d0b\u306e\u71b1\u5e2f\u57df\u306b\u5e83\u304f\u5206\u5e03\u3057\u3001\u65e5\u672c\u3067\u306f\u7409\u7403\u5217\u5cf6\u3067\u898b\u3089\u308c\u308b\u3002 "}]}
transformers pytorch bert question-answering endpoints_compatible region:us
TAGS
#transformers #pytorch #bert #question-answering #endpoints_compatible #region-us 


## モデル詳細
- cl-tohoku/bert-base-japanese を JaQuAD で fine-tuning した SkelterLabsInc/bert-base-japanese-jaquad に対して TextPruner を使って
Transformer Pruning したモデル。  
- 枝刈りには，JaQuAD の訓練データのうち1024件を使用し，10イテレーションで実施。  
- FFNのサイズを30%，attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。  
- ※ JaQuAD の実験コードと同じ前処理をした上で使用してください。
- ※ 上記の理由で， hf hub の Hosted inference API 上では適切な予測が出力されません。



## JaQuAD の validation データでの性能
- フルモデル
  - F1 score: 0.779
  - Exact Match: 0.614
- 枝刈り後のモデル
  - F1 score: 0.756
  - Exact Match: 0.587
## モデル詳細
- cl-tohoku/bert-base-japanese を JaQuAD で fine-tuning した SkelterLabsInc/bert-base-japanese-jaquad に対して TextPruner を使って
Transformer Pruning したモデル。  
- 枝刈りには，JaQuAD の訓練データのうち1024件を使用し，10イテレーションで実施。  
- FFNのサイズを30%，attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。  
- ※ JaQuAD の実験コードと同じ前処理をした上で使用してください。
- ※ 上記の理由で， hf hub の Hosted inference API 上では適切な予測が出力されません。 ## JaQuAD の validation データでの性能
- フルモデル
  - F1 score: 0.779
  - Exact Match: 0.614
- 枝刈り後のモデル
  - F1 score: 0.756
  - Exact Match: 0.587
TAGS
#transformers #pytorch #bert #question-answering #endpoints_compatible #region-us 
 ## モデル詳細
- cl-tohoku/bert-base-japanese を JaQuAD で fine-tuning した SkelterLabsInc/bert-base-japanese-jaquad に対して TextPruner を使って
Transformer Pruning したモデル。  
- 枝刈りには，JaQuAD の訓練データのうち1024件を使用し，10イテレーションで実施。  
- FFNのサイズを30%，attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。  
- ※ JaQuAD の実験コードと同じ前処理をした上で使用してください。
- ※ 上記の理由で， hf hub の Hosted inference API 上では適切な予測が出力されません。 ## JaQuAD の validation データでの性能
- フルモデル
  - F1 score: 0.779
  - Exact Match: 0.614
- 枝刈り後のモデル
  - F1 score: 0.756
  - Exact Match: 0.587
passage: TAGS
#transformers #pytorch #bert #question-answering #endpoints_compatible #region-us 
## モデル詳細
- cl-tohoku/bert-base-japanese を JaQuAD で fine-tuning した SkelterLabsInc/bert-base-japanese-jaquad に対して TextPruner を使って
Transformer Pruning したモデル。  
- 枝刈りには，JaQuAD の訓練データのうち1024件を使用し，10イテレーションで実施。  
- FFNのサイズを30%，attention head の数を 10 % 削減 (ffn: 3072, head: 12 -> ffn: 2150, head: 10)。  
- ※ JaQuAD の実験コードと同じ前処理をした上で使用してください。
- ※ 上記の理由で， hf hub の Hosted inference API 上では適切な予測が出力されません。## JaQuAD の validation データでの性能
- フルモデル
  - F1 score: 0.779
  - Exact Match: 0.614
- 枝刈り後のモデル
  - F1 score: 0.756
  - Exact Match: 0.587