Batch-prosessering av data

Ved trening av en maskinlæringsmodell er det vanlig å mate inn data i små deler i stedet for alt på én gang. Disse delene kalles "batcher". I stedet for å vise modellen ett enkelt dataelement (som ett bilde eller én setning), kan vi mate inn en batch med for eksempel 32 elementer samtidig. Denne tilnærmingen kan gjøre treningen mer stabil og raskere.

Når vi tenker på tensorer, betyr dette at vi legger til en ekstra dimensjon først. Så hvis dataene til ett enkelt element var representert med en tensor av form (height, width), vil en batch av disse elementene ha formen (batch_size, height, width). I dette eksempelet, hvis batch-størrelsen er 32, blir formen (32, height, width).

La oss si at vi har 2048 datasett, hver med formen (base shape). Dette gir oss en tensor med formen (2048, base shape). Hvis vi deler disse dataene inn i batcher på 32 elementer, ender vi opp med 64 batcher, siden 64 * 32 = 2048. Den nye formen blir da (64, 32, base shape).

Når du designer ditt eget nevrale nettverk eller en annen modell, kan du bruke ulike former for oppgavene nevnt ovenfor. Likevel er disse formingsmetodene standard i Tensorflow, da de er strukturert både logisk og hierarkisk for å optimalisere ytelsen til læringsalgoritmene.