Будь ласка, дайте мені короткий список ключових компонентів / архітектур в конволюційній нейронній мережі.
Конволуційна нейронна мережа складається з вхідного шару, прихованих шарів і вихідного шару. У будь-якій початковій нейронній мережі будь-які середні шари називаються прихованими, тому що їх входи та виходи маскуються функцією активації та кінцевою конволюцією. У конволюційній нейронній мережі, приховані шари включають шари, які виконують конволюції. Як правило, це включає в себе шар, який виконує точковий продукт конволюційного ядра з вхідною матрицею шару. Цей продукт зазвичай є внутрішнім продуктом Frobenius, і його функція активації зазвичай є ReLU. Коли конволюційне ядро слідує по вхідній матриці для шару, операція конволюції генерує карту функцій, яка, у свою чергу, сприяє введенню наступного шару. За цим слідують інші шари, такі як шари об'єднання, повністю пов'язані шари та шари нормалізації.

Конволюційні лінії

Конволюційні шари конволтують вхід і передають його результат на наступний шар. Це схоже на реакцію нейрона у зоровій корі на певний стимул. Кожен конвульсивний нейрон обробляє дані тільки для свого рецептивного поля. Хоча повністю підключені нейронні мережі можуть бути використані для вивчення особливостей і класифікації даних, ця архітектура, як правило, непрактична для більших входів (наприклад, зображень високої роздільної здатності), які вимагали б величезної кількості нейронів, тому що кожен піксель є відповідною вхідною функцією. Повністю пов'язаний шар для зображення розміром 100 × 100 має 10 000 ваг для кожного нейрона у другому шарі. Convolution зменшує кількість вільних параметрів, дозволяючи мережі бути глибшою. Наприклад, використовуючи плитку 5 × 5, кожна з яких має однакові спільні ваги, потрібно лише 25 нейронів. Використання нормалізованих ваг за меншими параметрами запобігає зникненню градієнтів і проблемам вибуху градієнтів, що спостерігаються під час рефракції в ранніх нейронних мережах.

Для прискорення обробки стандартні конволюційні шари можуть бути замінені глибинно відокремлюваними конволюційними шарами, які базуються на глибинному конволюціоні, а потім на точковому конволюціоні. Глибинна конволяція є просторовою конволяцією, що застосовується незалежно по кожному каналу вхідного тензора, тоді як точкова конволяція є стандартною конволяцією, обмеженою використанням

Полярні лінії
Конволюційні мережі можуть включати локальні та/або глобальні шари об'єднання разом з традиційними конволюційними шарами. Групування шарів зменшує розміри даних, об'єднуючи виходи нейронних скупчень в одному шарі в один нейрон в наступному шарі. Місцеве об'єднання об'єднує невеликі скупчення, зазвичай використовуються розміри плитки, такі як 2 × 2. Глобальне сполучення діє на всі нейрони на карті функцій. Існує два типи поєднання в популярному використанні: макс і середній. Максимальне скупчення використовує максимальне значення кожного локального скупчення нейронів на карті функцій, тоді як середнє скупчення приймає середнє значення.

Повністю пов'язані лінії
Повністю пов'язані шари з'єднують кожен нейрон в одному шарі з кожним нейроном в іншому шарі. Це схоже на традиційну багатошарову нейронну мережу (MLP). Площена матриця проходить через повністю пов'язаний шар для класифікації зображень.

Рецептивне поле
У нейронних мережах кожен нейрон отримує вхід з деякої кількості місць у попередньому шарі. У конволюційному шарі кожен нейрон отримує вхід тільки з обмеженої області попереднього шару, що називається рецептивним полем нейрона. Типово площа становить квадрат (наприклад, 5 з 5 нейронів. У той час як у повністю пов'язаному шарі, рецептивним полем є весь попередній шар. Таким чином, в кожному конволюційному шарі кожен нейрон бере вхід з більшої площі входу, ніж попередні шари. Це відбувається завдяки застосуванню конволюції знову і знову, яка враховує значення пікселя, а також його оточуючих пікселів. При використанні розширених шарів кількість пікселів в рецептивному полі залишається постійною, але поле менш заселене, оскільки його розміри збільшуються при поєднанні ефекту декількох шарів.

Щоб маніпулювати розміром рецептивного поля за бажанням, існують деякі альтернативи стандартному конволюційному шару. Наприклад, атрозна або розширена конволюція розширює розмір рецептивного поля без збільшення кількості параметрів, залишаючи між собою видимі та сліпі області. Крім того, один розширений конволюційний шар може складатися з фільтрів з декількома пропорціями розширення, таким чином маючи змінний розмір рецептивного поля.

Ваги
Кожен нейрон в нейронній мережі обчислює вихідну вартість, застосовуючи певну функцію до вхідних значень, отриманих від рецептивного поля в попередньому шарі. Функція, яка застосовується до вхідних значень, визначається вектором ваг і упередженням (зазвичай реальні числа). Навчання полягає в ітеративному регулюванні цих ухилів і ваг.

Вектори ваг і відхилень називаються фільтрами і представляють певні особливості введення (наприклад, певну форму). Відмінною рисою CNN є те, що багато нейронів можуть розділяти один і той же фільтр. Це зменшує відбиток пам'яті, тому що один ухил і один вектор ваги використовуються у всіх рецептивних полях, які поділяють цей фільтр, на відміну від кожного рецептивного поля, що має свою власну ухил і векторну вагу.
Ключові компоненти / архітектура конволюційної нейронної мережі включають:

Конволюційні шари: ці шари конвольгують матрицю введення і зменшують кількість вільних параметрів і дозволяють мережі бути глибше.

Ці шари зменшують розміри даних, об'єднуючи виходи нейронних кластерів в одному шарі в один нейрон в наступному шарі.

Ці шари з'єднують кожен нейрон в одному шарі з кожним нейроном в іншому шарі.

Рецептивне поле: кожен нейрон отримує вхід з обмеженої області попереднього шару, що називається рецептивним полем нейрона. У конволюційному шарі кожен нейрон бере вхід з більшої площі входу, ніж попередні шари.

Ваги: Вектори ваг і упереджень використовуються функцією нейралу для обчислення вихідної вартості з вхідної вартості.