ไธบ PyTorchใTensorFlow ๅ JAX ๆ้ ็ๅ ่ฟ็ๆบๅจๅญฆไน ๅทฅๅ ท.
๐ค Transformers ๆไพไบๅฏไปฅ่ฝปๆพๅฐไธ่ฝฝๅนถไธ่ฎญ็ปๅ ่ฟ็้ข่ฎญ็ปๆจกๅ็ API ๅๅทฅๅ ทใไฝฟ็จ้ข่ฎญ็ปๆจกๅๅฏไปฅๅๅฐ่ฎก็ฎๆถ่ๅ็ขณๆๆพ๏ผๅนถไธ่็ไปๅคด่ฎญ็ปๆ้่ฆ็ๆถ้ดๅ่ตๆบใ่ฟไบๆจกๅๆฏๆไธๅๆจกๆไธญ็ๅธธ่งไปปๅก๏ผๆฏๅฆ๏ผ
๐ ่ช็ถ่ฏญ่จๅค็๏ผๆๆฌๅ็ฑปใๅฝๅๅฎไฝ่ฏๅซใ้ฎ็ญใ่ฏญ่จๅปบๆจกใๆ่ฆใ็ฟป่ฏใๅค้กน้ๆฉๅๆๆฌ็ๆใ
๐ผ๏ธ ๆบๅจ่ง่ง๏ผๅพๅๅ็ฑปใ็ฎๆ ๆฃๆตๅ่ฏญไนๅๅฒใ
๐ฃ๏ธ ้ณ้ข๏ผ่ชๅจ่ฏญ้ณ่ฏๅซๅ้ณ้ขๅ็ฑปใ
๐ ๅคๆจกๆ๏ผ่กจๆ ผ้ฎ็ญใๅ
ๅญฆๅญ็ฌฆ่ฏๅซใไปๆซๆๆๆกฃๆๅไฟกๆฏใ่ง้ขๅ็ฑปๅ่ง่ง้ฎ็ญใ
๐ค Transformers ๆฏๆๅจ PyTorchใTensorFlow ๅ JAX ไธ็ไบๆไฝๆง. ่ฟ็ปๅจๆจกๅ็ๆฏไธช้ถๆฎตไฝฟ็จไธๅ็ๆกๆถๅธฆๆฅไบ็ตๆดปๆง๏ผๅจไธไธชๆกๆถไธญไฝฟ็จๅ ่กไปฃ็ ่ฎญ็ปไธไธชๆจกๅ๏ผ็ถๅๅจๅฆไธไธชๆกๆถไธญๅ ่ฝฝๅฎๅนถ่ฟ่กๆจ็ใๆจกๅไนๅฏไปฅ่ขซๅฏผๅบไธบ ONNX ๅ TorchScript ๆ ผๅผ๏ผ็จไบๅจ็ไบง็ฏๅขไธญ้จ็ฝฒใ
้ฉฌไธๅ ๅ ฅๅจ Hubใ่ฎบๅ ๆ่ Discord ไธๆญฃๅจๅฟซ้ๅๅฑ็็คพๅบๅง๏ผ
่ฟ็ฏๆๆกฃ็ฑไปฅไธ 5 ไธช็ซ ่็ปๆ๏ผ
ๅผๅงไฝฟ็จ ๅ ๅซไบๅบ็ๅฟซ้ไธๆๅๅฎ่ฃ ่ฏดๆ๏ผไพฟไบ้ ็ฝฎๅ่ฟ่กใ
ๆ็จ ๆฏไธไธชๅๅญฆ่ ๅผๅง็ๅฅฝๅฐๆนใๆฌ็ซ ่ๅฐๅธฎๅฉไฝ ่ทๅพไฝ ไผ็จๅฐ็ไฝฟ็จ่ฟไธชๅบ็ๅบๆฌๆ่ฝใ
ๆไฝๆๅ ๅไฝ ๅฑ็คบๅฆไฝๅฎ็ฐไธไธช็นๅฎ็ฎๆ ๏ผๆฏๅฆไธบ่ฏญ่จๅปบๆจกๅพฎ่ฐไธไธช้ข่ฎญ็ปๆจกๅๆ่ ๅฆไฝๅ้ ๅนถๅไบซไธชๆงๅๆจกๅใ
ๆฆๅฟตๆๅ ๅฏน ๐ค Transformers ็ๆจกๅ๏ผไปปๅกๅ่ฎพ่ฎก็ๅฟต่ๅ็ๅบๆฌๆฆๅฟตๅๆๆณๅไบๆดๅค็่ฎจ่ฎบๅ่งฃ้ใ
API ไป็ป ๆ่ฟฐไบๆๆ็็ฑปๅๅฝๆฐ๏ผ
ไธ่กจๅฑ็คบไบๅบไธญๅฏนๆฏไธชๆจกๅ็ๆฏๆๆ ๅต๏ผๅฆๆฏๅฆๅ ทๆ Python ๅ่ฏๅจ๏ผ่กจไธญ็โTokenizer slowโ๏ผใๆฏๅฆๅ ทๆ็ฑ ๐ค Tokenizers ๅบๆฏๆ็ๅฟซ้ๅ่ฏๅจ๏ผ่กจไธญ็โTokenizer fastโ๏ผใๆฏๅฆๆฏๆ Jax๏ผ้่ฟ Flax๏ผใPyTorch ไธ TensorFlowใ
| ๆจกๅ | PyTorch ๆฏๆ | TensorFlow ๆฏๆ | Flax ๆฏๆ |
|---|---|---|---|
| ALBERT | โ | โ | โ |
| ALIGN | โ | โ | โ |
| AltCLIP | โ | โ | โ |
| Audio Spectrogram Transformer | โ | โ | โ |
| Autoformer | โ | โ | โ |
| Bark | โ | โ | โ |
| BART | โ | โ | โ |
| BARThez | โ | โ | โ |
| BARTpho | โ | โ | โ |
| BEiT | โ | โ | โ |
| BERT | โ | โ | โ |
| Bert Generation | โ | โ | โ |
| BertJapanese | โ | โ | โ |
| BERTweet | โ | โ | โ |
| BigBird | โ | โ | โ |
| BigBird-Pegasus | โ | โ | โ |
| BioGpt | โ | โ | โ |
| BiT | โ | โ | โ |
| Blenderbot | โ | โ | โ |
| BlenderbotSmall | โ | โ | โ |
| BLIP | โ | โ | โ |
| BLIP-2 | โ | โ | โ |
| BLOOM | โ | โ | โ |
| BORT | โ | โ | โ |
| BridgeTower | โ | โ | โ |
| BROS | โ | โ | โ |
| ByT5 | โ | โ | โ |
| CamemBERT | โ | โ | โ |
| CANINE | โ | โ | โ |
| Chinese-CLIP | โ | โ | โ |
| CLAP | โ | โ | โ |
| CLIP | โ | โ | โ |
| CLIPSeg | โ | โ | โ |
| CLVP | โ | โ | โ |
| CodeGen | โ | โ | โ |
| CodeLlama | โ | โ | โ |
| Conditional DETR | โ | โ | โ |
| ConvBERT | โ | โ | โ |
| ConvNeXT | โ | โ | โ |
| ConvNeXTV2 | โ | โ | โ |
| CPM | โ | โ | โ |
| CPM-Ant | โ | โ | โ |
| CTRL | โ | โ | โ |
| CvT | โ | โ | โ |
| Data2VecAudio | โ | โ | โ |
| Data2VecText | โ | โ | โ |
| Data2VecVision | โ | โ | โ |
| DeBERTa | โ | โ | โ |
| DeBERTa-v2 | โ | โ | โ |
| Decision Transformer | โ | โ | โ |
| Deformable DETR | โ | โ | โ |
| DeiT | โ | โ | โ |
| DePlot | โ | โ | โ |
| Depth Anything | โ | โ | โ |
| DETA | โ | โ | โ |
| DETR | โ | โ | โ |
| DialoGPT | โ | โ | โ |
| DiNAT | โ | โ | โ |
| DINOv2 | โ | โ | โ |
| DistilBERT | โ | โ | โ |
| DiT | โ | โ | โ |
| DonutSwin | โ | โ | โ |
| DPR | โ | โ | โ |
| DPT | โ | โ | โ |
| EfficientFormer | โ | โ | โ |
| EfficientNet | โ | โ | โ |
| ELECTRA | โ | โ | โ |
| EnCodec | โ | โ | โ |
| Encoder decoder | โ | โ | โ |
| ERNIE | โ | โ | โ |
| ErnieM | โ | โ | โ |
| ESM | โ | โ | โ |
| FairSeq Machine-Translation | โ | โ | โ |
| Falcon | โ | โ | โ |
| FastSpeech2Conformer | โ | โ | โ |
| FLAN-T5 | โ | โ | โ |
| FLAN-UL2 | โ | โ | โ |
| FlauBERT | โ | โ | โ |
| FLAVA | โ | โ | โ |
| FNet | โ | โ | โ |
| FocalNet | โ | โ | โ |
| Funnel Transformer | โ | โ | โ |
| Fuyu | โ | โ | โ |
| Gemma | โ | โ | โ |
| GIT | โ | โ | โ |
| GLPN | โ | โ | โ |
| GPT Neo | โ | โ | โ |
| GPT NeoX | โ | โ | โ |
| GPT NeoX Japanese | โ | โ | โ |
| GPT-J | โ | โ | โ |
| GPT-Sw3 | โ | โ | โ |
| GPTBigCode | โ | โ | โ |
| GPTSAN-japanese | โ | โ | โ |
| Graphormer | โ | โ | โ |
| GroupViT | โ | โ | โ |
| HerBERT | โ | โ | โ |
| Hubert | โ | โ | โ |
| I-BERT | โ | โ | โ |
| IDEFICS | โ | โ | โ |
| ImageGPT | โ | โ | โ |
| Informer | โ | โ | โ |
| InstructBLIP | โ | โ | โ |
| Jukebox | โ | โ | โ |
| KOSMOS-2 | โ | โ | โ |
| LayoutLM | โ | โ | โ |
| LayoutLMv2 | โ | โ | โ |
| LayoutLMv3 | โ | โ | โ |
| LayoutXLM | โ | โ | โ |
| LED | โ | โ | โ |
| LeViT | โ | โ | โ |
| LiLT | โ | โ | โ |
| LLaMA | โ | โ | โ |
| Llama2 | โ | โ | โ |
| LLaVa | โ | โ | โ |
| Longformer | โ | โ | โ |
| LongT5 | โ | โ | โ |
| LUKE | โ | โ | โ |
| LXMERT | โ | โ | โ |
| M-CTC-T | โ | โ | โ |
| M2M100 | โ | โ | โ |
| MADLAD-400 | โ | โ | โ |
| Marian | โ | โ | โ |
| MarkupLM | โ | โ | โ |
| Mask2Former | โ | โ | โ |
| MaskFormer | โ | โ | โ |
| MatCha | โ | โ | โ |
| mBART | โ | โ | โ |
| mBART-50 | โ | โ | โ |
| MEGA | โ | โ | โ |
| Megatron-BERT | โ | โ | โ |
| Megatron-GPT2 | โ | โ | โ |
| MGP-STR | โ | โ | โ |
| Mistral | โ | โ | โ |
| Mixtral | โ | โ | โ |
| mLUKE | โ | โ | โ |
| MMS | โ | โ | โ |
| MobileBERT | โ | โ | โ |
| MobileNetV1 | โ | โ | โ |
| MobileNetV2 | โ | โ | โ |
| MobileViT | โ | โ | โ |
| MobileViTV2 | โ | โ | โ |
| MPNet | โ | โ | โ |
| MPT | โ | โ | โ |
| MRA | โ | โ | โ |
| MT5 | โ | โ | โ |
| MusicGen | โ | โ | โ |
| MVP | โ | โ | โ |
| NAT | โ | โ | โ |
| Nezha | โ | โ | โ |
| NLLB | โ | โ | โ |
| NLLB-MOE | โ | โ | โ |
| Nougat | โ | โ | โ |
| Nystrรถmformer | โ | โ | โ |
| OneFormer | โ | โ | โ |
| OpenAI GPT | โ | โ | โ |
| OpenAI GPT-2 | โ | โ | โ |
| OpenLlama | โ | โ | โ |
| OPT | โ | โ | โ |
| OWL-ViT | โ | โ | โ |
| OWLv2 | โ | โ | โ |
| PatchTSMixer | โ | โ | โ |
| PatchTST | โ | โ | โ |
| Pegasus | โ | โ | โ |
| PEGASUS-X | โ | โ | โ |
| Perceiver | โ | โ | โ |
| Persimmon | โ | โ | โ |
| Phi | โ | โ | โ |
| PhoBERT | โ | โ | โ |
| Pix2Struct | โ | โ | โ |
| PLBart | โ | โ | โ |
| PoolFormer | โ | โ | โ |
| Pop2Piano | โ | โ | โ |
| ProphetNet | โ | โ | โ |
| PVT | โ | โ | โ |
| QDQBert | โ | โ | โ |
| Qwen2 | โ | โ | โ |
| RAG | โ | โ | โ |
| REALM | โ | โ | โ |
| Reformer | โ | โ | โ |
| RegNet | โ | โ | โ |
| RemBERT | โ | โ | โ |
| ResNet | โ | โ | โ |
| RetriBERT | โ | โ | โ |
| RoBERTa | โ | โ | โ |
| RoBERTa-PreLayerNorm | โ | โ | โ |
| RoCBert | โ | โ | โ |
| RoFormer | โ | โ | โ |
| RWKV | โ | โ | โ |
| SAM | โ | โ | โ |
| SeamlessM4T | โ | โ | โ |
| SeamlessM4Tv2 | โ | โ | โ |
| SegFormer | โ | โ | โ |
| SegGPT | โ | โ | โ |
| SEW | โ | โ | โ |
| SEW-D | โ | โ | โ |
| SigLIP | โ | โ | โ |
| Speech Encoder decoder | โ | โ | โ |
| Speech2Text | โ | โ | โ |
| SpeechT5 | โ | โ | โ |
| Splinter | โ | โ | โ |
| SqueezeBERT | โ | โ | โ |
| StableLm | โ | โ | โ |
| Starcoder2 | โ | โ | โ |
| SwiftFormer | โ | โ | โ |
| Swin Transformer | โ | โ | โ |
| Swin Transformer V2 | โ | โ | โ |
| Swin2SR | โ | โ | โ |
| SwitchTransformers | โ | โ | โ |
| T5 | โ | โ | โ |
| T5v1.1 | โ | โ | โ |
| Table Transformer | โ | โ | โ |
| TAPAS | โ | โ | โ |
| TAPEX | โ | โ | โ |
| Time Series Transformer | โ | โ | โ |
| TimeSformer | โ | โ | โ |
| Trajectory Transformer | โ | โ | โ |
| Transformer-XL | โ | โ | โ |
| TrOCR | โ | โ | โ |
| TVLT | โ | โ | โ |
| TVP | โ | โ | โ |
| UL2 | โ | โ | โ |
| UMT5 | โ | โ | โ |
| UniSpeech | โ | โ | โ |
| UniSpeechSat | โ | โ | โ |
| UnivNet | โ | โ | โ |
| UPerNet | โ | โ | โ |
| VAN | โ | โ | โ |
| VideoMAE | โ | โ | โ |
| ViLT | โ | โ | โ |
| VipLlava | โ | โ | โ |
| Vision Encoder decoder | โ | โ | โ |
| VisionTextDualEncoder | โ | โ | โ |
| VisualBERT | โ | โ | โ |
| ViT | โ | โ | โ |
| ViT Hybrid | โ | โ | โ |
| VitDet | โ | โ | โ |
| ViTMAE | โ | โ | โ |
| ViTMatte | โ | โ | โ |
| ViTMSN | โ | โ | โ |
| VITS | โ | โ | โ |
| ViViT | โ | โ | โ |
| Wav2Vec2 | โ | โ | โ |
| Wav2Vec2-BERT | โ | โ | โ |
| Wav2Vec2-Conformer | โ | โ | โ |
| Wav2Vec2Phoneme | โ | โ | โ |
| WavLM | โ | โ | โ |
| Whisper | โ | โ | โ |
| X-CLIP | โ | โ | โ |
| X-MOD | โ | โ | โ |
| XGLM | โ | โ | โ |
| XLM | โ | โ | โ |
| XLM-ProphetNet | โ | โ | โ |
| XLM-RoBERTa | โ | โ | โ |
| XLM-RoBERTa-XL | โ | โ | โ |
| XLM-V | โ | โ | โ |
| XLNet | โ | โ | โ |
| XLS-R | โ | โ | โ |
| XLSR-Wav2Vec2 | โ | โ | โ |
| YOLOS | โ | โ | โ |
| YOSO | โ | โ | โ |