Пакети

Пакети у обробці даних

Під час навчання моделі машинного навчання зазвичай дані подаються невеликими частинами, а не всі разом. Ці частини називаються «пакетами». Замість того, щоб подавати моделі один елемент даних (наприклад, одне зображення чи одне речення), ми можемо подавати пакет із, наприклад, 32 елементів одночасно. Такий підхід робить навчання стабільнішим і швидшим.

Якщо розглядати тензори, це означає додавання додаткового виміру на початку. Тобто, якщо дані одного елемента представлені тензором форми (height, width), то пакет таких елементів матиме форму (batch_size, height, width). У цьому прикладі, якщо розмір пакета 32, форма стає (32, height, width).

Припустимо, у нас є 2048 зразків даних, кожен із формою (base shape). Це дає тензор розміру (2048, base shape). Якщо розбити ці дані на пакети по 32 зразки, отримаємо 64 пакети, оскільки 64 * 32 = 2048. Нова форма буде (64, 32, base shape).

Під час проєктування власної нейронної мережі чи іншої моделі можна використовувати різні форми для зазначених вище завдань. Однак ці методи формування є стандартними у Tensorflow, оскільки вони структуровані як логічно, так і ієрархічно для оптимізації продуктивності алгоритмів навчання.