Вивчайте Створення Шару Нейронної Мережі

Секція 1. Розділ 12

single

Свайпніть щоб показати меню

У базовій прямій нейронній мережі вихід нейрона в шарі обчислюється як зважена сума його вхідних значень, пропущена через функцію активації. Це можна представити так:

y=\sigma(W \cdot x + b)

Де:

$y$ : вихід нейрона;
$W$ : матриця, що представляє ваги, пов’язані зі з’єднаннями до нейрона;
$x$ : стовпчикова матриця (або вектор), що представляє вхідні значення до нейрона;
$b$ : скалярне значення;
$\sigma$ : функція активації, така як сигмоїдна, ReLU або softmax функція.

Для досягнення найкращої продуктивності всі обчислення виконуються з використанням матриць. Ми будемо виконувати це завдання аналогічним чином.

Завдання

Swipe to start coding

Маючи ваги, вхідні дані та зсув для шару з одним нейроном, обчисліть його вихід за допомогою матричного множення та сигмоїдної активації. Розглядається шар із 3 входами та 2 нейронами, що приймає один батч, який містить лише один зразок.

Визначення розмірностей:
- Розмірність вхідної матриці I повинна мати перший вимір, що відповідає кількості зразків у батчі. Для одного зразка з 3 входами її розмір буде 1x3;
- Вагова матриця W повинна мати стовпці, які відповідають вагам входів для кожного нейрона. Для 2 нейронів з 3 входами очікувана розмірність — 3x2. Це не так, тому потрібно транспонувати вагову матрицю, щоб отримати потрібну розмірність.
Матричне множення:
- Коли матриці мають правильну розмірність, виконайте матричне множення;
- Нагадаємо, що при матричному множенні вихід отримується як скалярний добуток кожного рядка першої матриці з кожним стовпцем другої матриці. Переконайтеся, що множите у правильному порядку.
Додавання зсуву:
- Просто виконайте покомпонентне додавання результату матричного множення із зсувом.
Застосування активації:
- Використайте сигмоїдну функцію активації до результату додавання зсуву, щоб отримати вихід нейрона;
- TensorFlow надає сигмоїдну функцію як tf.sigmoid().

Примітка

Наприкінці курсу ми детально розглянемо реалізацію повної прямої мережі у TensorFlow. Ця вправа закладає основу для цього.

Рішення

Перейдіть на комп'ютер для реальної практикиПродовжуйте з того місця, де ви зупинились, використовуючи один з наведених нижче варіантів

Все було зрозуміло?

Дякуємо за ваш відгук!

Секція 1. Розділ 12

single

Запитати АІ

Запитайте про що завгодно або спробуйте одне із запропонованих запитань, щоб почати наш чат