Implementering af k-NN

KNeighborsClassifier

Implementering af k-Nearest Neighbors er ret ligetil. Det kræver blot import og brug af klassen KNeighborsClassifier.

Konstruktør:

• KNeighborsClassifier(n_neighbors = 5)
• n_neighbors – antal naboer (k). Standardværdien er 5;

Metoder:

• fit(X, y) – Tilpasning af træningssættet;
• predict(X) – Forudsigelse af klassen for X;
• score(X, y) – Returnerer nøjagtigheden for X, y-sættet.

Når klassen er importeret og et klasseobjekt er oprettet som dette:

# Importing the class
from sklearn.neighbors import KNeighborsClassifier
knn = KNeighborsClassifier(n_neighbors=3)

Skal træningsdata gives til objektet ved brug af .fit()-metoden:

knn.fit(X_scaled, y)

Det er det hele! Nu kan nye værdier forudsiges.

y_pred = knn.predict(X_new_scaled)

Skalering af data

Det er dog vigtigt at huske, at data skal skaleres. StandardScaler anvendes ofte til dette formål:

Konstruktør:

• StandardScaler().

Metoder:

• fit(X) – beregner $\bar{x}$ og $s$ for X;
• transform(X) – returnerer $X_{\text{scaled}}$ ved brug af $\bar{x}, s$ fra .fit();
• fit_transform(X) – .fit(X) efterfulgt af .transform(X).

Du skal beregne $\bar x$ og $s$ kun på træningssættet ved hjælp af .fit() eller .fit_transform(). Brug derefter .transform() på testdatasættet, så begge sæt skaleres identisk:

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

Brug af forskellige skaleringsværdier for træning og test forringer forudsigelserne.

Eksempel

Vi forudsiger, om en person kan lide Star Wars VI ved at bruge deres vurderinger af Episode IV og V (fra The Movies Dataset). Efter træning tester vi to brugere: én har vurderet IV/V som 5 og 5, den anden som 4.5 og 4.