ロジスティック回帰とは何か

ロジスティック回帰は、その名前に「回帰」と含まれているものの、実際には分類アルゴリズム。

この名称は線形回帰に基づいていることに由来し、ロジスティック（シグモイド）関数を用いて出力を確率に変換し、連続値の予測ではなくデータをカテゴリに分類することを可能にする。

たとえば、初回ローン（信用履歴なし）で個人がデフォルトするかどうかを予測したい場合。

線形回帰では、数値を予測するための方程式を構築する。同じ方程式を使って**「信頼度スコア」**を計算できる。これは収入、現在の雇用期間、負債比率などの特徴量を考慮する。信頼度スコアが高いほど、デフォルトの可能性が低いことを示す。

$\beta$の値は、モデルが学習する必要があるパラメータ。トレーニング中、コンピュータはこれらの値を調整して予測精度を高める。これは、予測結果と実際のラベルとの差（損失関数）を最小化しようとすることで実現される。

モデルの生の出力をクラスラベル（0または1）に変換するために、ロジスティック回帰はシグモイド関数を使用します。この関数は任意の実数値を受け取り、0から1の範囲に圧縮するため、確率として解釈できます。

シグモイド関数は次のように定義されます：

ここで、$z$はスコア（ロジットとも呼ばれる）で、前に計算した値です。

2つのクラス、1（最初のローンでデフォルトする人）と0（最初のローンでデフォルトしない人）がある場合、シグモイドを適用すると、そのインスタンスがクラス1に属する確率が得られます。

最終的な判断（0または1）を行うために、確率をしきい値（通常は0.5）と比較します：

• 確率が0.5より大きい場合、1と予測します；
• 0.5以下の場合、0と予測します。