З огляду на ці пункти про Великі мовні моделі, що таке LLM?
Велика мовна модель (LLM) - це мовна модель, що складається з нейронної мережі з багатьма параметрами (як правило, мільярдами ваг або більше), підготовлені на великих кількостях тексту без етикетки, використовуючи самонаглядне навчання. LLM з'явилися близько 2018 року і добре виконують широкий спектр завдань. Це змістило фокус досліджень з обробки природної мови від попередньої парадигми підготовки спеціалізованих моделей для конкретних завдань.

Власність
Хоча термін «велика мовна модель» не має формального визначення, він часто відноситься до моделей глибокого навчання, які мають параметричне число в порядку мільярдів або більше. LLM - це моделі загального призначення, які відрізняються широким спектром завдань, на відміну від того, що навчаються для одного конкретного завдання (наприклад, аналіз почуттів, визнання імені суб'єкта або математичне міркування). Навичка, з якою вони виконують завдання, і діапазон завдань, на які вони здатні, здається, є функцією кількості ресурсів (дані, розмір параметрів, обчислювальна потужність), присвячених їм, таким чином, що не залежить від додаткових проривів у дизайні.

Незважаючи на те, що вони тренуються в простих завданнях по лініях передбачення наступного слова в реченні, нейронні мовні моделі з достатньою підготовкою та параметричним рахунком можуть захопити більшу частину синтаксису і семантики людської мови. Крім того, великі мовні моделі демонструють значні загальні знання про світ, і здатні «загадувати» велику кількість фактів під час навчання.

Галюцинації
Основна стаття: Галюцинації (штучний інтелект)
У штучному інтелекту в цілому, і в великих мовних моделях зокрема, "галюцинація" є впевненою відповіддю, яка, здається, не виправдовується даними навчання моделі.

Появні здібності

На ряді еталонів природної мови, що включають в себе завдання, такі як відповіді на запитання, моделі виконують не краще, ніж випадкові шанси, поки вони не досягнуть певної шкали (в даному випадку, вимірюється обчисленням навчання), в який момент їх продуктивність різко збільшується. Це приклади нових здібностей.
Непередбачувані здібності, які спостерігалися в великих мовних моделях, але які не були присутні в простіших моделях (і які не були явно розроблені в моделі), зазвичай називаються "здібностями, що виникають". Дослідники відзначають, що такі здібності «неможливо передбачити просто шляхом екстраполяції продуктивності менших моделей». Ці здібності виявляються, а не запрограмовані або розроблені, в деяких випадках тільки після того, як LLM був публічно розгорнутий. Описані сотні нових здібностей. Приклади включають багатоступеневу арифметику, складання іспитів на рівні коледжу, виявлення наміченого значення слова, ланцюжок мислення, розшифрування Міжнародного фонетичного алфавіту, розшифрування букв слова, виявлення образливого змісту в параграфах англійської мови (комбінація хінді та англійської), а також створення аналогічного англійського еквівалента швейцарських прислів'я.

Архітектура та навчання
Великі мовні моделі найчастіше використовують трансформаторну архітектуру, яка з 2018 року стала стандартною технікою глибокого навчання для послідовних даних (раніше найпоширенішими були повторювані архітектури, такі як LSTM). LLM навчаються без нагляду за неаннотизованим текстом. Лівий-правовий трансформатор тренується, щоб максимізувати ймовірність, присвоєну наступному слову в даних навчання, враховуючи попередній контекст. Альтернативно, LLM може використовувати двосторонній трансформатор (як у прикладі BERT), який призначає ймовірність розподілу над словами, наданих доступ як до попереднього, так і до наступного контексту. На додаток до завдання передбачити наступне слово або "заповнювати порожнечі", LLM можуть бути підготовлені до допоміжних завдань, які перевіряють їх розуміння розподілу даних, таких як прогнозування наступного речення (NSP), в якому представлені пари речень, і модель повинна передбачити, чи з'являються вони поруч у навчальному корпусі.

Найбільш ранні LLM були підготовлені на корпусі, маючи на порядку мільярдів слів. Перша модель серії GPT OpenAI була підготовлена в 2018 році на BookCorpus, що складається з 985 мільйонів слів. У тому ж році BERT отримав навчання по комбінації BookCorpus і англійської Вікіпедії, що складає 3,3 мільярда слів. За роки з тих пір, підготовка корпусу для LLM збільшилася за величиною, досягнувши сотень мільярдів або трильйонів токенів.

LLM є обчислювально дорогими для навчання. Дослідження, проведене в 2020 році, оцінило вартість підготовки моделі в 1,5 мільярда параметрів (1-2 ордери величини менше, ніж на той час) в 1,6 мільйона доларів.

Аналіз 2020 року показав, що здатність нейронних мовних моделей (як вимірюється втратою тренування) плавно збільшувалася у зв'язку з кількістю параметрів, кількістю даних навчання та обчисленням, використаним для тренування. Ці відносини були випробувані на широкому діапазоні значень (до семи порядків величини) і не спостерігалося зменшення співвідношення на найвищому кінці діапазону (в тому числі для розмірів мережі до трильйонів параметрів).

Використання функцій Downstream
Між 2018 і 2020 роками стандартним методом використання LLM для конкретного завдання з обробки природної мови (NLP) було доопрацювання моделі з додатковим спеціальним навчанням. Згодом було виявлено, що більш потужні LLM, такі як GPT-3, можуть вирішувати завдання без додаткового навчання за допомогою методів "промптинг", в яких проблема, що має бути вирішена, представлена моделі як текстова прохання, можливо з деякими текстовими прикладами подібних проблем і їх рішення.

Фін-тунінг
Основна стаття: Fine-tuning (машинне навчання)
Fine-tuning - це практика модифікації існуючої мовної моделі заздалегідь підготовленої мови шляхом тренування її (у наглядовому режимі) на конкретне завдання (наприклад. аналіз почуттів, названий визнанням суб'єкта або частиною мови). Це форма трансферного навчання. Вона, як правило, включає в себе введення нового набору ваг, що з'єднує остаточний шар мовної моделі з виходом наступного завдання. Оригінальні ваги мовної моделі можуть бути «заморожені», так що тільки новий шар ваг, що з'єднує їх з виходом, вивчається під час тренування. Альтернативно, оригінальні ваги можуть отримувати невеликі оновлення (можливо при замороженні попередніх шарів).

прискорення
Див. також: Швидка інженерія та навчання в декількох випадках (обробка природної мови)
У запропонованій парадигмі, популяризованій GPT-3, проблема, що має бути вирішена, формулюється за допомогою текстової промови, яку модель повинна вирішити, надаючи завершення (через висновок). У вимозі на кілька пострілів включається невелика кількість прикладів подібних (проблема, рішення) пар. Наприклад, завдання аналізу почуттів щодо позначення почуття відгуку про фільм може бути запропоновано наступним чином:

Назва фільму: Цей фільм пахне.
Відчуття: негативні

Рецензія: Цей фільм просто неймовірний!
Відчуття :

Якщо модель виходить «позитивна», то вона правильно вирішила завдання. У режимі нульового попиту не надаються приклади розв'язування. Прикладом нульового прохання для того ж завдання аналізу почуттів буде "Сентиментація, пов'язана з оглядом фільму "Цей фільм фантастичний!" І є».

Невелика продуктивність LLM показала, що досягає конкурентних результатів на завданнях НЛП, іноді перевершуючи попередні найсучасніші підходи до фінішування. Прикладами таких завдань НЛП є переклад, відповіді на запитання, клоз-задачі, слова, які не скрупулюють, і використання нового слова в реченні. Створення та оптимізація таких промптів називається промптовою інженерією.

Інструкція тунінг
Інструкційне налаштування - це форма тонкого налаштування, призначена для полегшення більш природних і точних взаємодій з нульовим поштовхом. З урахуванням текстового введення, попередньо підготовлена мовна модель генерує завершення, яке відповідає розподілу тексту, на якому вона була підготовлена. Наявність наївної мовної моделі, яка давала запит «Напишіть есе про основні теми Гамлета». може передбачати заповнення, наприклад: "Запізнення штрафу в розмірі 10% на день буде застосовуватися до подань, отриманих після 17 березня". У інструкційному налаштуванні мовна модель тренується на багатьох прикладах завдань, сформульованих як інструкції природної мови, разом з відповідними відповідями. Різні методики інструкційного налаштування застосовувалися на практиці. Протокол InstructGPT від OpenAI передбачає наглядове тонке налаштування на набір даних генерованих людиною пар (промпт, відповідь), за яким слідує зміцнення навчання від людських зворотних зв'язків (RLHF), в якому функція винагороди була вивчена на основі набору даних людських уподобань. Інша техніка, "самонавчання", тонко налагоджує мовну модель на навчальному наборі прикладів, які самі по собі генеруються LLM (завантажені з невеликого початкового набору прикладів, створених людиною).

HTTPS://en.wikipedia.org/wiki/Large_language_model Програми
Велика мовна модель (LLM) - це мовна модель, що складається з нейронної мережі з багатьма параметрами (як правило, мільярдами ваг або більше), підготовлені на великих кількостях тексту без етикетки, використовуючи самонаглядне навчання.