Batch

Batch nella Elaborazione dei Dati

Durante l'addestramento di un modello di machine learning, è comune fornire i dati in piccoli blocchi invece che tutti insieme. Questi blocchi sono chiamati "batch". Invece di mostrare al modello un singolo elemento di dati (come un'immagine o una frase), si può fornire un batch di, ad esempio, 32 elementi contemporaneamente. Questo approccio può rendere l'addestramento più stabile e veloce.

Quando si ragiona in termini di tensori, ciò significa aggiungere una dimensione extra all'inizio. Quindi, se i dati di un singolo elemento erano rappresentati da un tensore di forma (height, width), un batch di questi elementi avrebbe la forma (batch_size, height, width). In questo esempio, se la dimensione del batch è 32, la forma diventa (32, height, width).

Supponiamo di avere 2048 campioni di dati, ciascuno con una forma (base shape). Questo ci dà un tensore di (2048, base shape). Se suddividiamo questi dati in batch da 32 campioni, otterremo 64 batch, poiché 64 * 32 = 2048. E la nuova forma sarà (64, 32, base shape).

Quando si progetta una propria rete neurale o un altro modello, è possibile utilizzare forme diverse per i compiti sopra menzionati. Tuttavia, queste tecniche di shaping sono standard in Tensorflow, poiché sono strutturate sia logicamente che gerarchicamente per ottimizzare le prestazioni degli algoritmi di apprendimento.