Ongelma lineaarisessa regressiossa

Ennen kuin määrittelemme polynomiregression, tarkastelemme tapausta, jossa aiemmin oppimamme lineaarinen regressio ei toimi hyvin.

Tässä näet, että yksinkertainen lineaarinen regressiomallimme toimii huonosti. Tämä johtuu siitä, että se yrittää sovittaa suoran viivan datapisteisiin. Voimme kuitenkin huomata, että paraabelin sovittaminen olisi paljon parempi valinta näille pisteille.

Toisen asteen regressioyhtälö

Suoran mallin rakentamiseen käytettiin suoran yhtälöä (y=ax+b). Parabolisen mallin rakentamiseen tarvitaan paraabelin yhtälö, eli toisen asteen yhtälö: y=ax²+bx+c. Kun a, b ja c korvataan β:llä, saadaan toisen asteen regressioyhtälö:

Tätä yhtälöä kuvaavaa mallia kutsutaan kvadraattiseksi regressioksi. Kuten aiemmin, meidän tarvitsee vain löytää parhaat parametrit havaintopisteillemme.

Normaaliyhtälö ja X̃

Kuten aina, normaaliyhtälö auttaa löytämään parhaat parametrit. Mutta meidän täytyy määritellä X̃ oikein.

Tiedämme jo, miten X̃-matriisi rakennetaan monimuuttujaisessa lineaarisessa regressiossa. X̃-matriisi rakennetaan polynomiregressiossa samalla tavalla. Voimme ajatella x²:ta toisena muuttujana. Tällöin meidän tulee lisätä uusi sarake X̃-matriisiin. Tämä sarake sisältää samat arvot kuin edellinen sarake, mutta korotettuna toiseen potenssiin.

Alla oleva video havainnollistaa, miten X̃ rakennetaan.