Summary  
This chapter covers how to compute a matrix’s eigenvalues and eigenvectors and explains that eigenvectors indicate principal directions of variance while eigenvalues quantify the variance along those directions.

General domain of usage  
Dimensionality reduction

**Власний вектор** матриці — це ненульовий вектор, напрямок якого не змінюється при застосуванні до нього лінійного перетворення (яке задається матрицею); змінюється лише його довжина. Величина масштабування визначається відповідним **власним значенням**.

Визначення

Для матриці коваріації $$\Sigma$$, **власні вектори** вказують напрямки максимальної дисперсії, а **власні значення** показують, яка дисперсія знаходиться в цих напрямках.

Математично, для матриці $$A$$, власного вектора $$v$$ та власного значення $$λ$$:  
$$
A v = \lambda v
$$  
У PCA власні вектори матриці коваріації є **головними осями**, а власні значення — це **дисперсії** вздовж цих осей.

import numpy as np

# Using the covariance matrix from the previous code
X = np.array([[2.5, 2.4],
              [0.5, 0.7],
              [2.2, 2.9]])
X_centered = X - np.mean(X, axis=0)
cov_matrix = (X_centered.T @ X_centered) / X_centered.shape[0]

# Compute eigenvalues and eigenvectors
values, vectors = np.linalg.eig(cov_matrix)
print("Eigenvalues:", values)
print("Eigenvectors:\n", vectors)

**Власний вектор з найбільшим власним значенням** вказує у **напрямку найбільшої дисперсії** у даних. Це є **першою головною компонентою**.

Примітка

Яка роль власних значень і власних векторів матриці коваріації у PCA

Комплексний курс середнього рівня, який ознайомлює слухачів із мотивацією, математичними основами та практичною реалізацією методу головних компонент (PCA) для зменшення розмірності у науці про дані та машинному навчанні.

Ознайомлення з мотивацією, викликами та перевагами зниження розмірності даних у машинному навчанні та науці про дані.

Занурення у математичні концепції, що лежать в основі PCA, зокрема дисперсія, коваріація та власні вектори.

Застосування PCA до реальних наборів даних за допомогою Python, інтерпретація результатів, візуалізація поясненої дисперсії та навантажень компонент, порівняння продуктивності моделі до та після PCA.

Власні Значення та Власні Вектори