Квадратична регресія

Проблема лінійної регресії

Перш ніж визначити поліноміальну регресію, розглянемо випадок, коли лінійна регресія, яку ми вивчали раніше, не справляється із завданням.

Тут видно, що наша проста модель лінійної регресії працює дуже погано. Це відбувається тому, що вона намагається підібрати пряму до точок даних. Однак можна помітити, що підбір параболи був би набагато кращим вибором для наших точок.

Рівняння квадратичної регресії

Для побудови лінійної моделі використовувалося рівняння прямої (y=ax+b). Для побудови параболічної моделі потрібне рівняння параболи. Це квадратичне рівняння: y=ax²+bx+c. Заміна a, b та c на β дає рівняння квадратичної регресії:

Модель, яку описує це рівняння, називається квадратична регресія. Як і раніше, потрібно знайти найкращі параметри для наших точок даних.

Нормальне рівняння та X̃

Як завжди, нормальне рівняння використовується для знаходження найкращих параметрів. Але нам потрібно правильно визначити X̃.

Ми вже знаємо, як побудувати матрицю X̃ для множинної лінійної регресії. Виявляється, матриця X̃ для поліноміальної регресії будується подібним чином. Можна розглядати x² як другу ознаку. Таким чином, потрібно додати відповідний новий стовпець до X̃. Він міститиме ті ж значення, що й попередній стовпець, але піднесені до квадрату.

Відео нижче демонструє, як побудувати X̃.