Summary  
This chapter covers implementing complete forward propagation in a multi-layer perceptron by iteratively passing inputs through each layer’s forward method to produce the final outputs.

General domain of usage  
Machine learning model inference

前の章で、単一レイヤーの順伝播をすでに実装しています。ここでは、入力から出力までの**完全な順伝播**の実装が目標です。

順伝播全体のプロセスを実装するには、`forward()`クラス内で`Perceptron`メソッドを定義する必要があります。このメソッドは、各レイヤーごとに対応するメソッドを呼び出し、**レイヤーごとに順伝播**を実行します。

```python
class Perceptron:
    def __init__(self, layers):
        self.layers = layers

    def forward(self, inputs):
        x = inputs
        for layer in ...:
            # Pass x layer by layer
            x = ...

        return ...
```

入力は最初の隠れ層を通過し、**各レイヤーの出力が次のレイヤーへの入力**となり、最終的に最終層に到達して最終出力が生成されます。

import unittest
import importlib
import numpy as np


def _dynamic_test(test_case, condition, success_msg, failure_msg):
    if condition:
        test_case._testMethodName = success_msg
        test_case.assertTrue(True, success_msg)
    else:
        test_case._testMethodName = failure_msg
        test_case.fail(failure_msg)


class TestPerceptronForward(unittest.TestCase):

    @classmethod
    def setUpClass(cls):
        # Import user code
        cls.user_code = importlib.import_module("user_code")
        np.random.seed(10)

        # Build perceptron as in the task
        cls.perceptron = cls.user_code.perceptron
        cls.inputs = [1, 0]

        # Compute user output
        cls.user_output = cls.perceptron.forward(cls.inputs)

        # Reference forward computation (deterministic)
        # Rebuild layers with same seed and logic from layers.py
        from layers import hidden_1, hidden_2, output_layer

        def forward_reference(inputs):
            x = inputs
            for layer in [hidden_1, hidden_2, output_layer]:
                x = layer.forward(x)
            return x

        cls.ref_output = forward_reference(cls.inputs)

    def test_output_type(self):
        _dynamic_test(
            self,
            isinstance(self.user_output, np.ndarray),
            "Output type is NumPy array",
            "Output type is incorrect (must be NumPy array)",
        )

    def test_output_shape(self):
        _dynamic_test(
            self,
            self.user_output.shape == (1, 1),
            "Output shape is correct (1, 1)",
            f"Output shape is incorrect: got {self.user_output.shape}",
        )

    def test_forward_result_value(self):
        _dynamic_test(
            self,
            np.allclose(self.user_output, self.ref_output, atol=1e-6),
            "Forward propagation output is correct",
            f"Forward propagation output is incorrect: got {self.user_output}, expected {self.ref_output}",
        )

    def test_output_range(self):
        val = float(self.user_output[0, 0])
        _dynamic_test(
            self,
            0 <= val <= 1,
            "Output is within (0, 1) as expected for sigmoid activation",
            f"Output value {val} is outside expected sigmoid range (0,1)",
        )

    def test_determinism(self):
        # Recompute again to ensure reproducibility
        np.random.seed(10)
        out2 = self.user_code.perceptron.forward(self.inputs)
        _dynamic_test(
            self,
            np.allclose(out2, self.user_output, atol=1e-6),
            "Forward pass is deterministic",
            "Forward pass produces inconsistent results between runs",
        )


if __name__ == "__main__":
    unittest.main(argv=["first-arg-is-ignored"], exit=False)


test_code.py

ニューラルネットワークは、人間の脳の構造に着想を得た強力なアルゴリズムであり、複雑な機械学習の問題を解決するために使用されます。本コースでは、ニューラルネットワークを一から構築し、その仕組みを理解します。このコース修了後は、scikit-learnライブラリを用いて分類や回帰問題を解決するためのニューラルネットワークを作成できるようになります。

まず、ニューラルネットワークとは何か、その仕組みについて説明します。また、その応用範囲についても考察します。

次に、独自のニューラルネットワークを構築し、その学習効率を確認します。また、scikit-learnライブラリの既製ソリューションについても検討します。

最後に、どのモデルを使用すべきか、またどのような種類のニューラルネットワークが存在するかを理解するための追加の有用な情報を提供します。コースを修了するために、習得した知識に関するテストが行われます。

順伝播

解答