Вивчайте Поліноміальна Регресія

У попередньому розділі ми розглядали квадратичну регресію, графік якої є параболою. Аналогічно, можна додати x³ до рівняння, щоб отримати кубічну регресію з більш складним графіком. Також можна додати x⁴ і так далі.

Ступінь поліноміальної регресії

Загалом це називається поліноміальним рівнянням і є рівнянням поліноміальної регресії. Найвищий степінь x визначає ступінь поліноміальної регресії у рівнянні. Ось приклад

Поліноміальна регресія n-го ступеня

Якщо n — це ціле число більше двох, можна записати рівняння поліноміальної регресії n-го ступеня.

y_{\text{pred}} = \beta_0 + \beta_1 x + \beta_2 x^2 + \dots + \beta_n x^n

Де:

$\beta_0, \beta_1, \beta_2, \dots, \beta_n$ – параметри моделі;
$y_{\text{pred}}$ – прогноз цільової змінної;
$x$ – значення ознаки;
$n$ – ступінь поліноміальної регресії.

Нормальне рівняння

Як завжди, параметри знаходяться за допомогою нормального рівняння:

\vec{\beta} = \begin{pmatrix} \beta_0 \\ \beta_1 \\ \dots \\ \beta_n \end{pmatrix} = (\tilde{X}^T \tilde{X})^{-1} \tilde{X}^T y_{\text{true}}

Де:

$\beta_0, \beta_1, \dots, \beta_n$ – параметри моделі;

\tilde{X} = \begin{pmatrix} | & | & | & \dots & | \\ 1 & X & X^2 & \dots & X^n \\ | & | & | & \dots & | \end{pmatrix}

$X$ – масив значень ознак з навчальної вибірки;
$X^k$ – піднесення до степеня $k$ кожного елемента масиву $X$ ;
$y_{\text{true}}$ – масив цільових значень з навчальної вибірки.

Поліноміальна регресія з декількома ознаками

Для побудови ще складніших форм можна використовувати поліноміальну регресію з більш ніж однією ознакою. Але навіть для двох ознак поліноміальна регресія другого ступеня має досить громіздке рівняння.

У більшості випадків така складна модель не потрібна. Простіші моделі (наприклад, множинна лінійна регресія) зазвичай достатньо добре описують дані, їх легше інтерпретувати, візуалізувати та вони менш ресурсоємні.

Все було зрозуміло?

Дякуємо за ваш відгук!

Секція 1. Розділ 11

Запитати АІ

Запитайте про що завгодно або спробуйте одне із запропонованих запитань, щоб почати наш чат

Свайпніть щоб показати меню