Гаусівська змішана модель (GMM) працює шляхом ітеративного вдосконалення розташування гаусівських розподілів для найкращого відображення даних:

1. Вибір випадкової кількості гаусівських розподілів: спочатку визначається кількість гаусівських розподілів (кластерів), які будуть підбиратися до даних. Зазвичай це число задається наперед або визначається за допомогою таких методів, як силуетний коефіцієнт, що вимірює, наскільки добре розділені кластери;

2. Обчислення відповідальності: для кожної точки даних обчислюється ймовірність її належності до кожного гаусівського розподілу. Ця ймовірність, що називається відповідальністю, залежить від того, наскільки близько точка розташована до центру кожного гаусівського розподілу та від розсіювання (дисперсії);

3. Зміщення гаусівських розподілів: на основі обчислених відповідальностей середні значення та дисперсії гаусівських розподілів оновлюються для кращого відображення точок даних. Цей крок забезпечує поступове вирівнювання розподілів зі структурою даних;

4. Повторення кроків 2 і 3: процес обчислення відповідальностей і зміщення гаусівських розподілів повторюється до тих пір, поки модель не збіжиться.

Коли GMM збігається?

Збіжність настає тоді, коли зміни параметрів гаусівських розподілів (середнє, дисперсія та ваги) між ітераціями стають дуже малими або меншими за заздалегідь визначений поріг.

Припустимо, у вас є два гаусівські розподіли, які намагаються кластеризувати набір даних про зріст. Спочатку один розподіл може бути зосереджений на середньому зрості 5 feet, а інший — на 6 feet. У процесі ітерацій обидва розподіли коригують свої положення та розсіювання. Якщо їх середні значення та дисперсії стабілізуються — наприклад, один зупиняється на 5.5 feet, а інший на 6.2 feet без подальших значних змін — модель вважається збіжною.

Перша ітерація

Після збіжності