Como mostrado nos capítulos anteriores, as previsões do modelo podem variar dependendo do valor de k (o número de vizinhos). Ao construir um modelo k-NN, é importante escolher o valor de k que proporciona o melhor desempenho.

Uma abordagem comum é utilizar a validação cruzada para avaliar o desempenho do modelo. É possível executar um loop e calcular as pontuações de validação cruzada para uma faixa de valores de k, selecionando aquele com a maior pontuação. Este é o método mais amplamente utilizado.

Para realizar esse procedimento, o sklearn oferece uma ferramenta conveniente: a classe GridSearchCV.

O parâmetro param_grid recebe um dicionário onde as chaves são os nomes dos parâmetros e os valores são listas de opções a serem testadas. Por exemplo, para testar valores de 1 a 99 para n_neighbors, pode-se escrever:

param_grid = {'n_neighbors': range(1, 100)}

Ao chamar o método .fit(X, y) no objeto GridSearchCV, será realizada uma busca na grade de parâmetros para encontrar os melhores parâmetros e, em seguida, reajustar o modelo em todo o conjunto de dados utilizando esses melhores parâmetros.

É possível acessar a melhor pontuação utilizando o atributo .best_score_ e fazer previsões com o modelo otimizado usando o método .predict(). Da mesma forma, pode-se recuperar o melhor modelo em si utilizando o atributo .best_estimator_.