多項式回帰

前の章では、放物線のグラフを持つ二次回帰について説明しました。同様に、方程式に x³ を追加することで、より複雑なグラフを持つ 三次回帰 を得ることができます。さらに x⁴ などを追加することも可能です。

多項式回帰の次数

一般的に、これは多項式方程式と呼ばれ、多項式回帰の方程式です。方程式中の x の最高次数が、多項式回帰の次数を定義します。以下はその例です。

n次多項式回帰

n を2より大きい整数とすると、n次多項式回帰の方程式を記述できます。

正規方程式

そしていつものように、パラメータは正規方程式を用いて求められる。

複数特徴量による多項式回帰

さらに複雑な形状を作成するために、複数の特徴量を用いた多項式回帰を利用できる。ただし、特徴量が2つの場合でも、2次の多項式回帰では式がかなり長くなる。

ほとんどの場合、これほど複雑なモデルは必要ない。より単純なモデル（例えば重回帰分析）でも十分にデータを表現でき、解釈や可視化が容易で、計算コストも低い。