ChatGPT став популярним, бо він був першим чатботом, який випустила компанія OpenAI на сучасній великій мовній моделі GPT-3.5.
Його вміння розуміти питання та давати зрозумілі та креативні відповіді краще за будь-які попередні чатботи - захопило людей у всьому світі.

Зверніть увагу, що для того, щоб запустити власний чатбот (схожий на ChatGPT) в себе на комп'ютері, вам будуть потрібні технічні знання і вміння шукати рішення до маловідомих проблем. Більшість проектів для чатботів - у дуже активній розробці, отже розробники не завжди мають час для створення спрощених інтерфейсів.

Ви можете зробити такі кроки:
- Дізнатись, які великі мовні моделі (large language models - LLM) зараз є у відкритому доступі, для домашнього (некомерційного) користування. До таких можна віднести `LLaMa`, `Pythia`, `GPT-J`.
- Обрати величину (розмір) моделі, яку зможе запустити ваш комп'ютер. Для прикладу, в LLaMa є такі варіанти: 7B, 13B, 33B. `B - billions` - мільярди параметрів. Кількість параметрів корелює з гнучкістю та якістю роботи моделі. Однак чим більше параметрів - тим більше оперативної пам'яті потребує модель, щоб успішно завантажитись і почати генерувати результат.
- Якщо характеристик вашого комп'ютера недостатньо, щоб працювати з такими моделями, то можливо варто подумати про апгрейд чи купівлю нового комп'ютера. Основними вимогами є наявність потужного GPU (наприклад, від Nvidia) з великою кількістю відео-пам'яті (>= 16 GB), та багато оперативної пам'яті (не менше 32 GB).
- Використати проект `llama.cpp` (https://github.com/ggerganov/llama.cpp), щоб запустити модель і спілкуватись з нею.
- Використати проект `alpaca-lora` (https://github.com/tloen/alpaca-lora), щоб натренувати модель краще спілкуватись в режимі чатбота.

Іншим, дещо простішим варіантом може бути виконати апгрейд комп'ютера, та спробувати запустити проект `gpt4all` (https://github.com/nomic-ai/gpt4all) в себе на комп'ютері. Він вже надає натреновану готову модель, яка чудово виконує функції чатбота. Цей проект на ранній стадії, але має потенціал бути корисним.

Зараз всі програми у цьому напрямку дуже швидко змінюються, тому мої поради можуть з часом застаріти.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence