Zoals getoond in de vorige hoofdstukken, kunnen de voorspellingen van het model variëren afhankelijk van de waarde van k (het aantal buren). Bij het bouwen van een k-NN-model is het belangrijk om de k-waarde te kiezen die de beste prestaties oplevert.

Een gangbare aanpak is het gebruik van cross-validatie om de modelprestaties te evalueren. U kunt een lus uitvoeren en cross-validatiescores voor een reeks k-waarden berekenen, en vervolgens de waarde met de hoogste score selecteren. Dit is de meest gebruikte methode.

Om dit uit te voeren, biedt sklearn een handig hulpmiddel: de GridSearchCV-klasse.

Constructor:

• GridSearchCV(estimator, param_grid, scoring, cv = 5)
• estimator — het modelobject;
• param_grid — woordenboek met parameterwaarden om te doorzoeken;
  • scoring — de metriek die wordt gebruikt voor de cross-validatiescore;
• cv — het aantal folds (standaard 5);

Methoden:

• fit(X, y) — traint de modellen met X, y;
• predict(X) — voorspelt de klasse voor X;
• score(X, y) — retourneert de nauwkeurigheid voor de X, y-set;

Attributen:

• best_estimator_ — object van het model met de hoogste score;
• best_score_ — de score van de best_estimator_.

De parameter param_grid neemt een woordenboek waarin de sleutels parameternamen zijn en de waarden lijsten met opties om te proberen. Om bijvoorbeeld waarden van 1 tot 99 voor n_neighbors te testen, kunt u het volgende schrijven:

param_grid = {'n_neighbors': range(1, 100)}

Het aanroepen van de .fit(X, y)-methode op het GridSearchCV-object zal het parameterrooster doorzoeken om de beste parameters te vinden en vervolgens het model opnieuw trainen op de volledige dataset met deze beste parameters.

U kunt de beste score opvragen met het .best_score_-attribuut en voorspellingen doen met het geoptimaliseerde model via de .predict()-methode. Op dezelfde manier kunt u het beste model zelf ophalen met het .best_estimator_-attribuut.