Класифікація — це задача з навчання з учителем, метою якої є передбачення класу об'єкта за його ознаками. Модель навчається на розмічених прикладах у навчальній вибірці та потім призначає клас новим, невідомим даним.

Регресія передбачає неперервне числове значення (наприклад, ціну), яке може мати багато можливих значень. Класифікація передбачає категоріальне значення (наприклад, тип солодощів), обираючи один варіант із обмеженого набору класів.

Існує кілька типів класифікації:

• Бінарна класифікація: цільова змінна має два можливих результати (спам/не спам, печиво/не печиво);
• Багатокласова класифікація: три або більше можливих категорій (спам/важливе/реклама/інше; печиво/зефір/цукерка);
• Мульти-лейбл класифікація: об'єкт може одночасно належати до кількох класів (фільм може бути бойовиком і комедією; лист може бути важливим і робочим).

Для більшості моделей машинного навчання необхідно кодувати цільову змінну у вигляді числа. Для бінарної класифікації результати зазвичай кодуються як 0/1 (наприклад, 1 — печиво, 0 — не печиво). Для багатокласової класифікації результати зазвичай кодуються як 0, 1, 2, ... (наприклад, 0 — цукерка, 1 — печиво, 2 — зефір).

Існує багато різних моделей, які можуть виконувати класифікацію. Деякі приклади:

• k-найближчих сусідів;
• логістична регресія;
• дерево рішень;
• випадковий ліс.

На щастя, всі вони реалізовані у бібліотеці scikit-learn і прості у використанні.