KNeighborsClassifier

A implementação do k-Nearest Neighbors é bastante direta. Basta importar e utilizar a classe KNeighborsClassifier.

Construtor:

• KNeighborsClassifier(n_neighbors = 5)
• n_neighbors – número de vizinhos (k). O valor padrão é 5;

Métodos:

• fit(X, y) – Ajusta o conjunto de treinamento;
• predict(X) – Prediz a classe para X;
• score(X, y) – Retorna a acurácia para o conjunto X, y.

Após importar a classe e criar um objeto da classe desta forma:

# Importing the class
from sklearn.neighbors import KNeighborsClassifier
knn = KNeighborsClassifier(n_neighbors=3)

É necessário fornecer os dados de treinamento utilizando o método .fit():

knn.fit(X_scaled, y)

E pronto! Agora é possível prever novos valores.

y_pred = knn.predict(X_new_scaled)

Escalonamento dos dados

No entanto, lembre-se de que os dados devem ser escalonados. O StandardScaler é comumente utilizado para esse fim:

Construtor:

• StandardScaler().

Métodos:

• fit(X) – calcula $\bar{x}$ e $s$ para X;
• transform(X) – retorna $X_{\text{scaled}}$ utilizando $\bar{x}, s$ do .fit();
• fit_transform(X) – executa .fit(X) e depois .transform(X).

Você deve calcular $\bar x$ e $s$ apenas no conjunto de treinamento usando .fit() ou .fit_transform(). Em seguida, utilize .transform() no conjunto de teste para que ambos os conjuntos sejam escalados de forma idêntica:

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

Utilizar valores de escala diferentes para treino e teste prejudica as previsões.

Exemplo

Prevê-se se uma pessoa gosta de Star Wars VI utilizando suas avaliações para os Episódios IV e V (de The Movies Dataset). Após o treinamento, testa-se dois usuários: um avaliou IV/V como 5 e 5, o outro como 4.5 e 4.