Як Працюють GMM?

Гаусівська змішана модель (GMM) працює шляхом ітеративного покращення розташування гаусівських розподілів для найкращого відображення даних:

1. Вибір випадкової кількості гаусіан: спочатку визначається кількість гаусівських розподілів (кластерів), які будуть підганятися під дані. Зазвичай це число задається наперед або визначається за допомогою таких методів, як силуетний коефіцієнт, який вимірює, наскільки добре розділені кластери;

2. Обчислення відповідальності: для кожної точки даних обчислюється ймовірність її належності до кожного гаусівського розподілу. Ця ймовірність, що називається відповідальністю, залежить від того, наскільки близько точка розташована до центру кожного гаусіана та від розкиду (дисперсії);

3. Зміщення гаусіан: на основі обчислених відповідальностей середні значення та дисперсії гаусіан оновлюються для кращого відображення точок даних. Цей крок забезпечує поступове вирівнювання розподілів зі структурою даних;

4. Повторення кроків 2 і 3: процес обчислення відповідальностей і зміщення гаусіан повторюється до збіжності моделі.

Коли GMM досягає збіжності?

Збіжність настає, коли зміни параметрів гаусіан (середнє, дисперсія та ваги) між ітераціями стають дуже малими або меншими за заздалегідь визначений поріг.

Припустимо, у вас є дві гаусівські розподіли, які намагаються кластеризувати набір даних про зріст. Спочатку один гаусіан може бути зосереджений на середньому зрості 5 feet, а інший — на 6 feet. У процесі ітерацій обидва гаусіани коригують свої положення та розкиди. Якщо їхні середні значення та дисперсії стабілізуються — наприклад, один зупиняється на 5.5 feet, а інший на 6.2 feet без подальших значних змін — модель вважається збіжною.

Перша ітерація

Після збіжності