ラージ・ランゲージ・モデルに関するこれらのパラグラフを踏まえて、どのような一般的なニューラルネットワーク・アーキテクチャに基づいているのか？
大規模言語モデル（LLM）とは、自己教師あり学習を用いて大量のラベル付けされていないテキストで学習された、多数のパラメータ（通常は数十億以上の重み）を持つニューラルネットワークからなる言語モデルである。LLMは2018年頃に登場し、さまざまなタスクで優れた性能を発揮している。これにより、自然言語処理研究の焦点は、特定のタスクに特化した教師ありモデルを訓練するという従来のパラダイムからシフトした。

特性
大規模言語モデルという用語に正式な定義はないが、数十億以上のオーダーのパラメータ数を持つ深層学習モデルを指すことが多い。LLMは、ある特定のタスク（センチメント分析、名前付きエンティティ認識、数学的推論など）のために訓練されるのとは対照的に、幅広いタスクを得意とする汎用モデルである。LLMがタスクを達成するスキルや、LLMが能力を発揮できるタスクの範囲は、設計のブレークスルーに依存しない形で、LLMに費やされるリソース（データ、パラメータサイズ、計算能力）の量の関数であるように思われる。

文中の次の単語を予測するという単純なタスクで訓練されたニューラル言語モデルは、十分な訓練とパラメータ数により、人間の言語のシンタックスとセマンティクスの多くを捉えることができる。さらに、大規模な言語モデルは、世界に関するかなりの一般知識を示し、訓練中に大量の事実を「記憶」することができる。

幻覚
主な記事幻覚（人工知能）
人工知能全般において、そして特に大規模言語モデルにおいて、「幻覚」とは、モデルの学習データでは正当化されないと思われる自信に満ちた応答のことである。

創発的能力

質問応答などのタスクを含む多くの自然言語ベンチマークにおいて、モデルは、ある規模（この場合、訓練計算量によって測定される）に達するまで、ランダムな偶然の産物よりも優れた性能を示しません。これらは創発的能力の例である。
大規模な言語モデルで観察されるが、より単純なモデルには存在しなかった（モデルに明示的に設計されていなかった）予測不可能な能力は、通常「創発的能力」と呼ばれる。研究者たちは、このような能力は「より小さなモデルの性能を外挿するだけでは予測できない」と指摘する。このような能力は、プログラムされたり設計されたりするのではなく、場合によってはLLMが一般に導入された後に初めて発見される。何百もの創発的能力が報告されている。例えば、多段階の算数、大学レベルの試験、単語の意図する意味の特定、思考の連鎖の促し、国際音声アルファベットの解読、単語の文字のスクランブル解除、ヒングリッシュ（ヒンディー語と英語の組み合わせ）の段落に含まれる不快な内容の特定、キスワヒリ語のことわざの類似英語版の生成などである。

アーキテクチャとトレーニング
大規模言語モデルは、2018年以降、シーケンシャルデータに対する標準的なディープラーニング手法となっているトランスフォーマーアーキテクチャを最も一般的に使用している（以前は、LSTMのようなリカレントアーキテクチャが最も一般的であった）。LLMは教師なしで、注釈のないテキストに対して学習される。左から右への変換器は、前の文脈を考慮した上で、学習データ中の次の単語に割り当てられる確率を最大化するように学習される。あるいは、LLMは（BERTの例のように）双方向変換器を使用することもできる。この変換器は、前後の文脈の両方へのアクセスが与えられた単語に対して確率分布を割り当てる。次の単語を予測するタスクや「空白を埋める」タスクに加え、LLMは次の文予測（NSP）のような、データ分布の理解をテストする補助的なタスクで訓練されることもある。

初期のLLMは、数十億語規模のコーパスで学習された。OpenAIのGPTシリーズの最初のモデルは、2018年に9億8500万語からなるBookCorpusで学習された。同年、BERTはBookCorpusと英語版ウィキペディアを組み合わせ、合計33億語で訓練された。それ以来、LLMの学習コーパスは桁違いに増加しており、最大で数千億、数兆のトークンに達している。

LLMの訓練には計算コストがかかる。2020年の研究では、15億パラメータモデル（当時の最新技術より1～2桁小さい）の学習コストを160万ドルと見積もっている。

2020年の分析では、ニューラル言語モデルの能力（訓練損失で測定）は、パラメータ数、訓練データ量、訓練に使用する計算量とべき乗の関係で滑らかに増加することがわかった。これらの関係は広い範囲（最大7桁）の値でテストされ、その範囲の最高端では関係の減衰は観察されなかった（数兆パラメータまでのネットワークサイズを含む）。

下流タスクへの適用
2018年から2020年にかけて、LLMを特定の自然言語処理（NLP）タスクに活用するための標準的な方法は、タスク固有の追加トレーニングでモデルを微調整することだった。その後、GPT-3のようなより強力なLLMは、「プロンプト」技術により、追加トレーニングなしでタスクを解決できることが判明しました。プロンプトでは、解決すべき問題がテキストプロンプトとしてモデルに提示され、場合によっては類似の問題とその解決策のテキスト例も提示されます。

微調整
主な記事微調整（機械学習）
ファインチューニングとは、特定のタスク（例：感情分析、名前付きエンティティ認識、品詞タグ付け）に対して（教師ありの方法で）学習させることで、事前に学習させた既存の言語モデルを修正することである。これは転移学習の一形態である。一般的には、言語モデルの最終層を下流のタスクの出力に接続する新しい重みのセットを導入する。言語モデルの元の重みは「凍結」され、出力に接続する新しい重みのレイヤーのみが学習中に学習される。あるいは、元の重みは小さな更新を受けることもある（以前の層が凍結されることもある）。

プロンプティング
こちらも参照：プロンプト・エンジニアリング、数発学習（自然言語処理）
GPT-3によって一般化されたプロンプティングパラダイムでは、解決すべき問題はテキストプロンプトによって定式化され、モデルは（推論によって）補完を提供することによって解決しなければならない。数ショットプロンプト」では、プロンプトは類似した（問題と解の）ペアの少数の例を含む。例えば、映画レビューのセンチメントをラベル付けするセンチメント分析タスクは、以下のようにプロンプトされる：

レビュー：レビュー：この映画は臭い。
センチメント：否定的

レビューこの映画は素晴らしい！
感情

もしモデルが "positive "と出力すれば、正しく課題を解いたことになる。ゼロショット・プロンプトでは、解答例は提供されません。同じセンチメント分析タスクのゼロショットプロンプトの例は、「映画レビュー『この映画は素晴らしい！』に関連するセンチメントは」です。

LLMの数ショットの性能は、NLPタスクで競争力のある結果を達成することが示されており、時には先行する最先端の微調整アプローチを上回ることもある。このようなNLPタスクの例としては、翻訳、質問応答、クローズタスク、単語のスクランブル解除、文中の新しい単語の使用などがある。このようなプロンプトの作成と最適化はプロンプトエンジニアリングと呼ばれる。

命令チューニング
インストラクションチューニングは、より自然で正確なゼロショットプロンプトのインタラクションを促進するために設計されたファインチューニングの一形態である。テキスト入力が与えられると、事前に訓練された言語モデルは、訓練されたテキストの分布に一致する補完を生成する。ハムレットの主なテーマについてエッセイを書いてください」というプロンプトを与えられた素朴な言語モデルは、「3月17日以降に受け取った提出物には、1日あたり10%の遅延ペナルティが適用されます」というような補完を提供するかもしれない。インストラクション・チューニングでは、言語モデルは、自然言語の指示として定式化されたタスクの多くの例と適切な応答で学習される。インストラクション・チューニングのための様々な手法が実際に適用されている。OpenAIのInstructGPTプロトコルでは、人間が生成した（プロンプトとレスポンスの）ペアのデータセットに対する教師ありの微調整が行われ、その後、人間の嗜好のデータセットに基づいて報酬関数が学習された人間のフィードバックからの強化学習（RLHF）が行われる。もう一つの手法である "self-instruct "は、LLMによって生成された（人間が生成した少数の初期例からブートストラップされた）例の訓練セット上で言語モデルを微調整する。

https://en.wikipedia.org/wiki/Large_language_model
トランスフォーマーのアーキテクチャ