Batch nei Processi di Elaborazione Dati

Durante l'addestramento di un modello di machine learning, è comune fornire i dati in piccoli blocchi invece che tutti insieme. Questi blocchi sono chiamati "batch". Invece di mostrare al modello un singolo elemento di dati (come un'immagine o una frase), si può fornire un batch di, ad esempio, 32 elementi contemporaneamente. Questo approccio può rendere l'addestramento più stabile e veloce.

Quando si ragiona in termini di tensori, ciò significa aggiungere una dimensione extra all'inizio. Quindi, se i dati di un singolo elemento erano rappresentati da un tensore di forma (height, width), un batch di questi elementi avrà la forma (batch_size, height, width). In questo esempio, se la dimensione del batch è 32, la forma diventa (32, height, width).

Supponiamo di avere 2048 campioni di dati, ciascuno con una forma (base shape). Questo ci dà un tensore di (2048, base shape). Se suddividiamo questi dati in batch da 32 campioni, otterremo 64 batch, poiché 64 * 32 = 2048. E la nuova forma sarà (64, 32, base shape).

Quando si progetta una propria rete neurale o un altro modello, è possibile utilizzare forme diverse per i compiti sopra menzionati. Tuttavia, queste tecniche di strutturazione sono standard in Tensorflow, poiché sono organizzate sia logicamente che gerarchicamente per ottimizzare le prestazioni degli algoritmi di apprendimento.