Трансферне навчання дозволяє повторно використовувати моделі, навчені на великих наборах даних, для нових завдань з обмеженою кількістю даних. Замість створення нейронної мережі з нуля, ми використовуємо попередньо навчені моделі для підвищення ефективності та продуктивності. Протягом цього курсу ви вже стикалися з подібними підходами в попередніх розділах, що заклало основу для ефективного застосування трансферного навчання.

Що таке трансферне навчання?

Трансферне навчання — це техніка, коли модель, навчена для одного завдання, адаптується до іншого спорідненого завдання. У комп'ютерному зорі моделі, попередньо навчені на великих наборах даних, таких як ImageNet, можна донавчати для конкретних застосувань, наприклад, у медичній візуалізації або автономному водінні.

Чому трансферне навчання є важливим?

• Зменшує час навчання: оскільки модель вже вивчила загальні ознаки, потрібні лише незначні коригування;

• Потребує менше даних: корисно у випадках, коли отримання розмічених даних є дорогим;

• Підвищує продуктивність: попередньо навчені моделі забезпечують надійне виділення ознак, що покращує точність.

Робочий процес перенавчання (Transfer Learning)

Типовий робочий процес перенавчання включає кілька ключових етапів:

1. Вибір попередньо навченої моделі:

   • Вибір моделі, навченої на великому наборі даних (наприклад, ResNet, VGG, YOLO);

   • Такі моделі вже навчилися корисним представленням, які можна адаптувати для нових завдань.

2. Модифікація попередньо навченої моделі:

   • Виділення ознак: заморожування ранніх шарів і перенавчання лише пізніх шарів для нової задачі;

   • Тонке налаштування: розморожування деяких або всіх шарів і перенавчання їх на новому наборі даних.

3. Навчання на новому наборі даних:

   • Навчання модифікованої моделі на меншому наборі даних, специфічному для цільової задачі;

   • Оптимізація за допомогою таких технік, як зворотне поширення помилки (backpropagation) та функції втрат (loss functions).

4. Оцінювання та ітерація:

   • Оцінка продуктивності за допомогою метрик, таких як точність (accuracy), прецизійність (precision), повнота (recall) та mAP;

   • Додаткове тонке налаштування за потреби для покращення результатів.

Популярні попередньо навчені моделі

Серед найбільш поширених попередньо навчених моделей для комп'ютерного зору виділяють:

• ResNet: глибокі резидуальні мережі, що дозволяють навчати дуже глибокі архітектури;

• VGG: проста архітектура з однорідними згортковими шарами;

• EfficientNet: оптимізована для високої точності з меншою кількістю параметрів;

• YOLO: сучасна (SOTA) модель для розпізнавання об'єктів у реальному часі.

Тонке налаштування проти виділення ознак

Виділення ознак передбачає використання шарів попередньо навченої моделі як фіксованих екстракторів ознак. У цьому підході фінальний шар класифікації оригінальної моделі зазвичай видаляється та замінюється новим, специфічним для цільової задачі. Попередньо навчені шари залишаються замороженими, тобто їхні ваги не оновлюються під час навчання, що пришвидшує навчання та потребує меншої кількості даних.

Тонке налаштування (fine-tuning), навпаки, передбачає ще один крок: розморожування деяких або всіх попередньо навчених шарів і їх повторне навчання на новому наборі даних. Це дозволяє моделі точніше адаптувати вивчені ознаки до специфічних характеристик нової задачі, що часто призводить до покращення продуктивності—особливо коли новий набір даних є досить великим або суттєво відрізняється від початкових навчальних даних.

Застосування трансферного навчання

1. Класифікація зображень

Класифікація зображень передбачає призначення міток зображенням на основі їхнього візуального вмісту. Попередньо навчені моделі, такі як ResNet та EfficientNet, можна адаптувати для конкретних задач, наприклад, медична візуалізація або класифікація дикої природи.

Приклад:

• Вибір попередньо навченої моделі (наприклад, ResNet);

• Модифікація шару класифікації відповідно до цільових класів;

• Тонке налаштування з використанням меншої швидкості навчання.

2. Виявлення об'єктів

Виявлення об'єктів включає як ідентифікацію об'єктів, так і їх локалізацію на зображенні. Трансферне навчання дозволяє моделям, таким як Faster R-CNN, SSD та YOLO, ефективно знаходити конкретні об'єкти на нових наборах даних.

Приклад:

• Використання попередньо навченої моделі для виявлення об'єктів (наприклад, YOLOv8);

• Тонке налаштування на власному наборі даних із новими класами об'єктів;

• Оцінка продуктивності та оптимізація за потреби.

3. Семантична сегментація

Семантична сегментація класифікує кожен піксель зображення у визначені категорії. Моделі, такі як U-Net та DeepLab, широко використовуються у сферах автономного водіння та медичної візуалізації.

Приклад:

• Використання попередньо навченої моделі сегментації (наприклад, U-Net);

• Навчання на галузевому наборі даних;

• Налаштування гіперпараметрів для підвищення точності.

4. Трансфер стилю

Трансфер стилю застосовує візуальний стиль одного зображення до іншого, зберігаючи його оригінальний вміст. Ця техніка часто використовується у цифровому мистецтві та покращенні зображень, із застосуванням попередньо навчених моделей, таких як VGG.

Приклад:

• Вибір моделі для трансферу стилю (наприклад, VGG);

• Введення зображень вмісту та стилю;

• Оптимізація для отримання візуально привабливих результатів.