Anstatt die Hyperparameter unseres Modells manuell auszuwählen, bietet die Randomized Search (RandomizedSearchCV) eine effizientere Methode, um eine optimale Konfiguration zu finden. Im Gegensatz zur Grid Search (GridSearchCV), die systematisch alle möglichen Kombinationen von Hyperparametern bewertet, wählt die Randomized Search eine zufällige Teilmenge dieser Kombinationen aus. Dieser Ansatz reduziert die Rechenkosten erheblich und liefert dennoch überzeugende Ergebnisse.

Gerade bei neuronalen Netzen, bei denen die Anzahl möglicher Hyperparameter-Kombinationen enorm sein kann, ist das vollständige Testen aller Optionen oft unpraktikabel. Randomized Search umgeht dieses Problem, indem sie eine festgelegte Anzahl zufällig ausgewählter Hyperparametersätze testet und so eine Balance zwischen Exploration und Effizienz schafft.

RandomizedSearchCV(
    estimator=model, 
    param_distributions=randomized_parameters, 
    n_iter=number_of_models_to_test,  # Number of random combinations to evaluate
    scoring='accuracy',  # Evaluation metric
    random_state=42,  # Ensures reproducibility
)

• estimator: Das zu optimierende Modell (z. B. MLPClassifier);
• param_distributions: Ein Dictionary, in dem die Schlüssel die Namen der Hyperparameter und die Werte Listen mit möglichen Ausprägungen sind;
• n_iter: Gibt an, wie viele zufällige Kombinationen getestet werden sollen. Ein höherer Wert erhöht die Wahrscheinlichkeit, eine optimale Kombination zu finden, erfordert jedoch mehr Rechenleistung;
• scoring: Definiert die Bewertungsmetrik (z. B. 'accuracy' für Klassifikationsaufgaben).