Oppiskele Yksinkertaisen Neuroverkon Luominen

Pyyhkäise näyttääksesi valikon

Tavoitteena on rakentaa perus PyTorch-neuroverkko käyttäen digits dataset -aineistoa, joka on klassinen koneoppimisen aineisto. Tehtävänä on ennustaa numero (kohde) käsinkirjoitetun numeron kuvan perusteella, joka on esitetty pikseliarvojen (piirteiden) joukkona.

Aineiston yleiskatsaus

Digits dataset sisältää käsinkirjoitettujen numeroiden kuvia, jotka on esitetty numeerisina pikseliarvoina. Jokainen havainto koostuu 64 piirteestä, jotka vastaavat pikselin voimakkuuksia 8×8 harmaasävykuvasta. Kohdemuuttuja ('target'-sarake) edustaa numeroluokkaa (0-9), eli kertoo, mikä numero kuvassa on.

Ensimmäinen vaihe on lukea CSV-tiedosto ja erottaa piirteet (X) sekä kohdemuuttuja (y), joka on se arvo, jota pyritään ennustamaan:

import pandas as pd

digits_df = pd.read_csv('https://content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

Malliluokan määrittely

Aluksi tulee tuoda kaikki tarvittavat PyTorch-moduulit (nn, F). nn-moduulia käytetään mallin kerrosten ja arkkitehtuurien määrittelyyn, kun taas F-moduuli sisältää aktivointifunktioita, tappiotoimintoja ja muita usein funktionaalisessa tyylissä käytettyjä apuvälineitä.

import torch.nn as nn
import torch.nn.functional as F

Nyt voidaan siirtyä malliluokan määrittelyyn:

class DigitsClassifier(nn.Module):
    ...

Huomio

Aina kun määrität malliluokan PyTorchissa, sen tulee periä nn.Module-luokasta, koska tämä tarjoaa olennaisia toimintoja, kuten automaattisen parametrien hallinnan, forward()-metodin määrittelyn sekä sisäänrakennettujen työkalujen, kuten mallin tallennuksen/latauksen ja parametrien käsittelyn, käytön. Tämä yksinkertaistaa neuroverkkojen rakentamista, koulutusta ja käyttöönottoa hoitamalla monia tehtäviä taustalla.

Mallin arkkitehtuuri

Koska kyseessä on yksinkertainen moniluokkainen luokittelutehtävä, monikerroksinen perceptroni (MLP), jossa on 2 piilokerrosta, on riittävä.

class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)  # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes)  # Second hidden to output layer

Huomio

Kutsu super().__init__() alustaa nn.Module-yläluokan, mahdollistaen olennaiset toiminnot, kuten parametrien seurannan, alikomponenttien rekisteröinnin ja mallin tallennuksen/latauksen, jotka ovat tärkeitä mallin rakentamisessa ja koulutuksessa.

Kuten jo tiedät, MLP koostuu täysin yhdistetyistä kerroksista (myös tiheät kerrokset), joissa piilokerrokset käsittelevät syöteominaisuuksia ja ulostulokerros antaa lopulliset luokkaprediktiot. Nämä täysin yhdistetyt kerrokset toteutetaan PyTorchissa nn.Linear -kerroksina.

Eteenpäinlevitys

Tämä .forward()-metodi määrittelee datan eteenpäinlevityksen mallin läpi.

def forward(self, x):
    # Pass data through layers with activation functions
    a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
    a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
    output = self.out(a2)          # Output layer (no activation for raw scores)
    return output

Syötetensori x kulkee ensin ensimmäisen täysin yhdistetyn kerroksen (fc1) läpi, jonka jälkeen käytetään ReLU-aktivointifunktiota epälineaarisuuden lisäämiseksi. Tämän jälkeen data kulkee toisen täysin yhdistetyn kerroksen (fc2) läpi, jälleen ReLU:n kanssa.

Lopuksi muunnettu data kulkee ulostulokerroksen (out) läpi, joka tuottaa raakapisteet (logitit) ulostuloluokille.

Mallin luominen

Koska malliluokka on nyt määritelty, voidaan määrittää mallin parametrit ja luoda mallin ilmentymä.

Samoin kuin piilokerrosten lukumäärä, piilokerrosten neuronien määrä valitaan tässä esimerkissä melko satunnaisesti: 32 ja 16 ensimmäiselle ja toiselle piilokerrokselle.

Näin ollen lopullinen malli rakentuu seuraavasti:

Syötekerros: vastaa aineiston ominaisuuksien määrää (64 tässä aineistossa);
Piilokerrokset: mielivaltaiset neuronimäärät (32 ja 16);
Ulostulokerros: vastaa luokkien määrää (10 numeroa).

Täydellinen toteutus


              12345678910111213141516171819202122232425262728293031323334
            
import torch.nn as nn
import torch.nn.functional as F
import pandas as pd

digits_df = pd.read_csv('https://content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

# Define the model class
class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)         # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes) # Second hidden to output layer

    def forward(self, x):
        # Pass data through layers with activation functions
        a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
        a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
        output = self.out(a2)          # Output layer (no activation for raw scores)
        return output
      
# Define model parameters
input_features = X.shape[1]  # Number of features (pixels)
hidden1 = 32  # Number of neurons in first hidden layer
hidden2 = 16  # Number of neurons in second hidden layer
output_classes = len(digits_df["target"].unique())  # Number of unique digits (0-9)
# Create an instance of the model
model = DigitsClassifier(input_features, hidden1, hidden2, output_classes)
# Display the model structure
print(model)

Oliko kaikki selvää?

Kiitos palautteestasi!

Osio 1. Luku 17

Kysy tekoälyä

Kysy mitä tahansa tai kokeile jotakin ehdotetuista kysymyksistä aloittaaksesi keskustelumme

Osio 1. Luku 17