In plaats van handmatig specifieke waarden voor de hyperparameters van ons model te selecteren, biedt randomized search (RandomizedSearchCV) een efficiëntere methode om een optimale configuratie te vinden. In tegenstelling tot grid search (GridSearchCV), dat systematisch alle mogelijke combinaties van hyperparameters evalueert, kiest randomized search een willekeurige subset van deze combinaties. Deze aanpak vermindert de rekentijd aanzienlijk, terwijl toch sterke resultaten worden behaald.

Voor neurale netwerken, waarbij het aantal mogelijke hyperparametercombinaties enorm kan zijn, is het uitputtend testen van elke optie vaak onpraktisch. Randomized search omzeilt dit probleem door willekeurig een vastgesteld aantal hyperparametersets te selecteren, waarmee een balans wordt gevonden tussen verkenning en efficiëntie.

RandomizedSearchCV(
    estimator=model, 
    param_distributions=randomized_parameters, 
    n_iter=number_of_models_to_test,  # Number of random combinations to evaluate
    scoring='accuracy',  # Evaluation metric
    random_state=42,  # Ensures reproducibility
)

• estimator: het model dat geoptimaliseerd moet worden (bijvoorbeeld MLPClassifier);
• param_distributions: een dictionary waarbij de sleutels de namen van de hyperparameters zijn en de waarden lijsten zijn waaruit wordt gesampled;
• n_iter: specificeert hoeveel willekeurige combinaties getest moeten worden. Een hogere waarde vergroot de kans op het vinden van een optimale combinatie, maar vereist meer rekenkracht;
• scoring: definieert de evaluatiemaatstaf (bijvoorbeeld 'accuracy' voor classificatie).