Gegevensverzameling en -Voorverwerking

Het trainen van generatieve modellen vereist niet alleen een goede architectuur en verliesfuncties, maar ook schone, goed gestructureerde en diverse data. Deze sectie introduceert hoogwaardige datasets voor beeld-, tekst- en audiotoepassingen, biedt gedetailleerde preprocessingsmethoden die geschikt zijn voor moderne generatieve pipelines, en bespreekt robuuste strategieën voor het splitsen van data met praktische hulpmiddelen.

Gegevensverzameling

Het verzamelen van data voor generatief modelleren hangt af van het domein, de beschikbaarheid van bronnen, schaal en licenties. Voor tekst- en visuele data zijn veelvoorkomende bronnen open datasets, gescrapete inhoud en gestructureerde repositories (zoals academische archieven, sociale media of e-commerceplatforms).

Webscrapingtechnieken

Wanneer datasets niet direct beschikbaar zijn, kan data van het web worden verzameld met scrapingtools. Webscraping maakt het mogelijk om programmatisch informatie uit HTML-pagina's te halen. Het is een krachtige methode om echte, ongestructureerde data te verzamelen wanneer API's niet beschikbaar zijn. Scraping brengt echter technische en ethische verantwoordelijkheden met zich mee.

Scrapingmethoden omvatten doorgaans:

• HTTP-verzoeken versturen om webpagina's op te halen. Dit geeft toegang tot de ruwe HTML-inhoud van een pagina;
• HTML-inhoud parseren om gestructureerde data te extraheren. Tools zoals BeautifulSoup zetten ongestructureerde HTML om in toegankelijke tags en elementen;
• Navigeren door dynamische pagina's met browserautomatisering. Websites die zwaar op JavaScript leunen vereisen tools zoals Selenium om de inhoud volledig te renderen;
• Opgeslagen data opslaan in bruikbare formaten zoals CSV of JSON. Dit zorgt voor compatibiliteit met latere preprocessing- en modeltrainingstappen.

Hieronder staan twee veelgebruikte scrapingstrategieën:

Tekst scrapen met BeautifulSoup

BeautifulSoup is een Python-bibliotheek die wordt gebruikt om statische HTML-pagina's te parseren.

Afbeeldingen scrapen met Selenium

Selenium automatiseert een browser om inhoud te scrapen van pagina's die met JavaScript zijn gerenderd.

In GenAI-contexten is webscraping vaak een eerste stap bij het samenstellen van pretraining-datasets, vooral voor domeinspecifieke of laag-resourcetalige toepassingen. Tools zoals Scrapy, playwright of browserloze API's worden ook vaak gebruikt voor grootschalige taken.

Preprocessing-technieken

Gegevensvoorverwerking moet worden afgestemd op de modaliteit, het modeltype en de kwaliteitsvereisten. Voor generatieve modellen op productieniveau bevatten pipelines vaak domeinspecifieke transformaties, resolutie-aanpassingen en op inhoud gebaseerde filtering.

Voorverwerking van afbeeldingen

• Formaat aanpassen: datasetresolutie afstemmen op modelinput (bijv. 64x64 voor vroege GANs, 512x512 voor diffusie-modellen);

from PIL import Image

img = Image.open("example.jpg")
resized = img.resize((256, 256))
resized.save("resized.jpg")

• Normalisatie: schaalt pixelwaarden naar een standaardbereik, meestal [−1, 1] of [0, 1];

from torchvision import transforms

transform = transforms.Compose([
    transforms.Resize((256, 256)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.5]*3, std=[0.5]*3)  # RGB to [-1, 1]
])

• Kleurruimteverwerking: zorgt voor kleurconsistentie — converteren naar RGB of grijswaarden. Voor conditionele generatie, alfakanalen behouden indien aanwezig;

from PIL import Image

img = Image.open("example.png").convert("RGB")
img.save("rgb_image.jpg")

• Data-augmentatie: introduceert variatie tijdens training via transformaties.

import albumentations as A
from albumentations.pytorch import ToTensorV2

transform = A.Compose([
    A.RandomResizedCrop(256, 256),
    A.HorizontalFlip(),
    A.ColorJitter(),
    A.Normalize(mean=(0.5, 0.5, 0.5), std=(0.5, 0.5, 0.5)),
    ToTensorV2(),
])

Tekstvoorverwerking

• Opschonen: verwijdert speciale tekens, overtollige spaties en ruis;

1. r"[^\w\s]":

   • \w: komt overeen met elk alfanumeriek teken (letters A-Z, a-z, cijfers 0-9) en underscore _;
   • \s: komt overeen met elk witruimtekarakter (spaties, tabs, nieuwe regels);
   • [^...]: een negatieve tekenklasse—komt overeen met alles wat niet binnen de haakjes staat;
   • Betekenis: dit patroon komt overeen met alle tekens behalve letters, cijfers, underscores en witruimte. Het verwijdert dus interpunctie en symbolen (zoals —, !, enz.).

2. r"\s+":

   • \s: komt overeen met elk witruimtekarakter;
   • +: komt overeen met één of meer van het voorgaande teken;
   • Betekenis: dit vervangt meerdere opeenvolgende witruimtes door één spatie.

3. .strip(): verwijdert voor- en achterliggende witruimte uit de uiteindelijke opgeschoonde string.

Voor meer informatie over RegEx-syntaxis, zie de documentatie.

• Omzetten naar kleine letters: standaardiseert tekst naar kleine letters voor consistentie. Selectief toepassen, omdat modellen zoals BERT hoofdlettergevoelig of niet-hoofdlettergevoelig kunnen zijn;

• Tokenisatie: splitst tekst in tokens of subwoorden voor modellering;

• Stemming/Lemmatization: zelden gebruikt in deep learning pipelines, maar toegepast in traditionele NLP of pretrainingsfilters;

• Opvullen/Afkappen: zie het bovenstaande voorbeeld met max_length.

Strategieën voor het splitsen van data

Effectief splitsen van data is essentieel voor generalisatie, vooral bij generatieve modellering waar overfitting op modi of memorisatie vaak voorkomt.

Train/Validatie/Test splitsing

• Conventionele verhoudingen: 80/10/10 of 70/15/15 afhankelijk van de datasetgrootte;
• Inhoudsbewuste splitsing: splitsen op basis van klasse (visie), onderwerp (tekst).
• Toepassing:
  • Training: stuurt modeloptimalisatie aan;
  • Validatie: bepaalt checkpointing, vroegtijdig stoppen en metriekafstemming (bijv. FID);
  • Test: volledig achtergehouden tot de uiteindelijke modelbenchmarking.

Voorbeeld met train_test_split:

from sklearn.model_selection import train_test_split

# Example: splitting an image dataset (paths or features)
train_paths, val_paths = train_test_split(image_paths, test_size=0.1, random_state=42)
train_paths, test_paths = train_test_split(train_paths, test_size=0.111, random_state=42)  # 0.111 to get ~10% test

Voor Hugging Face Datasets:

from datasets import load_dataset

dataset = load_dataset("wikitext", "wikitext-2-raw-v1")
split_dataset = dataset["train"].train_test_split(test_size=0.2, seed=42)
train_val = split_dataset["train"].train_test_split(test_size=0.1, seed=42)

train_set = train_val["train"]
val_set = train_val["test"]
test_set = split_dataset["test"]

Kruisvalidering en Bootstrapping

• Voor domeinen met weinig middelen of zero-shot, gebruik K-fold CV (bijv. K=5 of 10);
• In diffusie modellen, gebruik bootstrapped FID/LPIPS om de stabiliteit van de generatie te evalueren;
• Visuele of perceptuele inspectie dient numerieke validatie te begeleiden.

Voorbeeld van een K-fold opzet:

from sklearn.model_selection import KFold
import numpy as np

kf = KFold(n_splits=5, shuffle=True, random_state=42)
for fold, (train_idx, val_idx) in enumerate(kf.split(data)):
    print(f"Fold {fold}: Train indices {train_idx[:5]}, Val indices {val_idx[:5]}")

Veelgebruikte datasets

De keuze van de juiste dataset hangt af van modaliteit, dataschaal, licenties en het specifieke generatieve doel (bijv. onvoorwaardelijke generatie, conditionele synthese of stijltransfer).

Computer Vision-datasets

• CIFAR-10: 60.000 laag-resolutie 32×32 RGB-afbeeldingen in 10 klassen. Lichtgewicht, ideaal voor snel prototypen, unit testing en benchmarking van trainingsloops voor image GANs;
• CelebA: 200K+ uitgelijnde beroemdheidsgezichten geannoteerd met 40 binaire attributen. Veelgebruikt bij attribuut-geconditioneerde generatie, identiteit-behoudende gezichtsaanpassing en encoder-decoder modellen;
• LSUN: grootschalige scene-dataset met miljoenen afbeeldingen in categorieën zoals slaapkamers, kerken en eetkamers. Essentieel voor hoge-resolutie synthese en progressieve GAN-training;
• ImageNet: meer dan 14M hoogwaardige afbeeldingen gelabeld over 20K klassen. Voornamelijk gebruikt voor transfer learning, diffusie model pretraining en als basisdataset voor stijlgestuurde generatie.

Tekstdatasets

• WikiText: schone Wikipedia-artikelen (WikiText-2: 2M tokens, WikiText-103: 100M+). Waardevol voor het evalueren van taalmodellering en het fijn afstemmen van decoder-only modellen zoals GPT;
• BookCorpus: meer dan 11.000 gratis romans. Essentieel voor narratieve generatie, long-context transformers en pretraining van fundamentele modellen (bijv. BERT, GPT-2);
• Common Crawl / C4: petabyte-schaal meertalige webdata. C4 is een gededupliceerde, gefilterde variant samengesteld voor hoogwaardige taalmodeltraining (bijv. T5);
• The Pile: 825GB aan diverse data (boeken, ArXiv, StackExchange, GitHub, enz.). Ontworpen om GPT-achtige modellen te trainen die concurreren met OpenAI’s LLMs.

Samenvatting

• Kies datasets op basis van kwaliteit, licenties, schaal en afstemming op generatieve doelen;
• Pas preprocessingspipelines toe die zijn afgestemd op elke modaliteit met robuuste, productieklare tools;
• Zorg voor rigoureuze splitsingsstrategieën om reproduceerbaarheid te ondersteunen, lekkage te voorkomen en eerlijke evaluatie mogelijk te maken.