Yksittäisen Neuronin Toteutus
Pyyhkäise näyttääksesi valikon
Neuroni on neuroverkon peruslaskentayksikkö. Se käsittelee useita syötteitä ja tuottaa yhden ulostulon, mahdollistaen verkon oppimisen ja ennusteiden tekemisen.
Tässä esimerkissä rakennetaan neuroverkko, jossa on yksi neuroni binaarista luokittelua varten (esim. roskapostin tunnistus). Neuroni vastaanottaa numeerisia piirteitä ja tuottaa arvon välillä 0 ja 1, mikä kuvaa todennäköisyyttä, että sähköposti on roskapostia (1) tai normaalia postia (0).
Vaiheittain:
- Kerro kukin syöte sen painolla;
- Laske kaikkien painotettujen syötteiden summa;
- Lisää bias tuloksen siirtämiseksi;
- Syötä tulos sigmoidin aktivointifunktion läpi, joka muuntaa sen välille ((0,1)) todennäköisyystulosta varten.
Neuronin bias on myös opetettava parametri.
Neuroni-luokka
Neuronin täytyy tallentaa painot ja bias, joten luokka on luonnollinen tapa ryhmitellä nämä ominaisuudet yhteen.
Vaikka tämä luokka ei ole osa lopullista neuroverkkototeutusta, se havainnollistaa tehokkaasti keskeisiä periaatteita.
class Neuron:
def __init__(self, n_inputs):
self.weights = ...
self.bias = ...
weights: satunnaisesti alustetut arvot (yksi kutakin syötettä kohden);bias: yksi satunnainen arvo. Molemmat arvot arvotaan tasaisesta jakaumasta välillä ([-1, 1]) käyttäennp.random.uniform()-funktiota symmetrian rikkomiseksi.
Eteenpäin suuntautuva laskenta
Neuronin activate()-metodi laskee painotetun summan ja käyttää sigmoidia.
Painotettu summa käyttää pistetuloa painojen ja syötteiden välillä:
input_sum_with_bias = np.dot(self.weights, inputs) + self.bias
Tämän jälkeen aktivointifunktio antaa neuronin lopullisen ulostulon.
Käyttämällä np.dot() vältetään silmukat ja lasketaan koko painotettu summa yhdellä rivillä.
Sigmoidifunktio muuntaa tämän raakaarvon todennäköisyydeksi:
def activate(self, inputs):
input_sum_with_bias = ...
output = ...
return output
Sigmoid-aktivointi
Annetulla raaka-arvolla (z) sigmoid on:
σ(z)=1+e−z1Muuntaa minkä tahansa luvun välille ((0,1)), mikä tekee siitä ihanteellisen binaariluokitteluun, jossa neuronin ulostulon tulee edustaa todennäköisyyttä.
Tämän kaavan avulla sigmoid voidaan toteuttaa yksinkertaisena funktiona Pythonissa:
def sigmoid(z):
return 1 / (1 + np.exp(-z))
ReLU-funktion kaava on seuraava, joka käytännössä asettaa ulostulon arvoksi z, jos se on positiivinen, ja 0 muuten:
ReLU(z)=max(0,z)def relu(z):
return np.maximum(0, z)
1. Mikä on bias-termen rooli yksittäisessä neuronissa?
2. Miksi painot alustetaan pienillä satunnaisilla arvoilla nollien sijaan?
Kiitos palautteestasi!
Kysy tekoälyä
Kysy tekoälyä
Kysy mitä tahansa tai kokeile jotakin ehdotetuista kysymyksistä aloittaaksesi keskustelumme