Kursinnhold

Grunnleggende Datamaskinsyn

1. Introduksjon til Datamaskinsyn

Hva er datamaskinsyn?Grunnleggende Bildebehandling Lineær Algebra for Bildebehandling

2. Bildebehandling med OpenCV

Grunnleggende Transformasjoner Fourier-transformasjon Lavpass- og Høypassfiltre Støyreduksjon og utjevning Histogramutjevning Superoppløsningsmetoder Kantdeteksjon Hjørne- og Blobdeteksjon

3. Konvolusjonelle Nevrale Nettverk

Introduksjon til konvolusjonsnevrale nettverk Konvolusjonslag Pooling-lag Utflating Aktiveringsfunksjoner Oversikt over Populære CNN-modeller Utfordring: Bygge et CNN

4. Objektdeteksjon

Objektlokalisering Objektdeteksjon Forutsigelser av Avgrensningsbokser Intersection Over Union (IoU) og Evalueringsmetrikker Ikke-maks-undertrykking (NMS)Ankerbokser Oversikt Over YOLO-Modellen Utfordring: Objektdeteksjon med Egendefinert Modell og YOLO

5. Oversikt Over Avanserte Emner

Overføring av læring i datamaskinsyn Oversikt over ansiktsgjenkjenning Oversikt over bildegenerering

Aktiveringsfunksjoner

Hvorfor aktiveringsfunksjoner er avgjørende i CNN-er

Aktiveringsfunksjoner tilfører ikke-linearitet til CNN-er, noe som gjør det mulig for dem å lære komplekse mønstre utover det en enkel lineær modell kan oppnå. Uten aktiveringsfunksjoner ville CNN-er hatt problemer med å oppdage intrikate sammenhenger i data, noe som begrenser deres effektivitet i bildegjenkjenning og klassifisering. Valg av riktig aktiveringsfunksjon påvirker treningshastighet, stabilitet og total ytelse.

Vanlige aktiveringsfunksjoner

ReLU (rectified linear unit): den mest brukte aktiveringsfunksjonen i CNN-er. Den slipper kun gjennom positive verdier og setter alle negative input til null, noe som gjør den beregningseffektiv og forhindrer forsvinnende gradienter. Noen nevroner kan imidlertid bli inaktive på grunn av "døende ReLU"-problemet;

f (x) = max (0, x)

Leaky ReLU: en variant av ReLU som tillater små negative verdier i stedet for å sette dem til null, noe som forhindrer inaktive nevroner og forbedrer gradientflyten;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimerer inngangsverdier til et område mellom 0 og 1, noe som gjør den nyttig for binær klassifisering. Den har imidlertid utfordringer med forsvinnende gradienter i dype nettverk;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: ligner på Sigmoid, men gir verdier mellom -1 og 1, og sentrerer aktiveringer rundt null;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: vanligvis brukt i det siste laget for flerkategoriklassifisering, Softmax omgjør rå nettverksutganger til sannsynligheter, og sikrer at de summeres til én for bedre tolkbarhet.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Valg av riktig aktiveringsfunksjon

ReLU er standardvalg for skjulte lag på grunn av effektivitet og god ytelse, mens Leaky ReLU er et bedre alternativ når inaktivitet i nevroner oppstår. Sigmoid og Tanh unngås vanligvis i dype CNN-er, men kan fortsatt være nyttige i spesifikke anvendelser. Softmax er fortsatt essensiell for flerkategoriklassifisering, og sikrer tydelige, sannsynlighetsbaserte prediksjoner.

Valg av riktig aktiveringsfunksjon er avgjørende for å optimalisere ytelsen til CNN, balansere effektivitet og forhindre problemer som forsvinnende eller eksploderende gradienter. Hver funksjon bidrar unikt til hvordan et nettverk prosesserer og lærer fra visuelle data.

1. Hvorfor foretrekkes ReLU fremfor Sigmoid i dype CNN-er?

2. Hvilken aktiveringsfunksjon brukes vanligvis i det siste laget av en multiklasseklassifiserings-CNN?

3. Hva er hovedfordelen med Leaky ReLU sammenlignet med standard ReLU?

Hvorfor foretrekkes ReLU fremfor Sigmoid i dype CNN-er?

Select the correct answer

ReLU forhindrer overtilpasning bedre enn Sigmoid.

ReLU kan håndtere multiklasseklassifisering.

ReLU unngår forsvinnende gradienter og gir raskere trening.

Sigmoid er mer effektiv beregningsmessig.

Hvilken aktiveringsfunksjon brukes vanligvis i det siste laget av en multiklasseklassifiserings-CNN?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Hva er hovedfordelen med Leaky ReLU sammenlignet med standard ReLU?

Select the correct answer

Den eliminerer behovet for et Softmax-lag.

Den forhindrer inaktive nevroner ved å tillate små negative utganger.

Den normaliserer verdier mellom -1 og 1.

Den sikrer at alle nevroner gir positive verdier.

Alt var klart?

Hvordan kan vi forbedre det?

Takk for tilbakemeldingene dine!

Seksjon 3. Kapittel 5

Spør AI

Spør om hva du vil, eller prøv ett av de foreslåtte spørsmålene for å starte chatten vår

Kursinnhold

Grunnleggende Datamaskinsyn

1. Introduksjon til Datamaskinsyn

Hva er datamaskinsyn?Grunnleggende Bildebehandling Lineær Algebra for Bildebehandling

2. Bildebehandling med OpenCV

Grunnleggende Transformasjoner Fourier-transformasjon Lavpass- og Høypassfiltre Støyreduksjon og utjevning Histogramutjevning Superoppløsningsmetoder Kantdeteksjon Hjørne- og Blobdeteksjon

3. Konvolusjonelle Nevrale Nettverk

Introduksjon til konvolusjonsnevrale nettverk Konvolusjonslag Pooling-lag Utflating Aktiveringsfunksjoner Oversikt over Populære CNN-modeller Utfordring: Bygge et CNN

4. Objektdeteksjon

5. Oversikt Over Avanserte Emner

Overføring av læring i datamaskinsyn Oversikt over ansiktsgjenkjenning Oversikt over bildegenerering

Aktiveringsfunksjoner

Hvorfor aktiveringsfunksjoner er avgjørende i CNN-er

Vanlige aktiveringsfunksjoner

ReLU (rectified linear unit): den mest brukte aktiveringsfunksjonen i CNN-er. Den slipper kun gjennom positive verdier og setter alle negative input til null, noe som gjør den beregningseffektiv og forhindrer forsvinnende gradienter. Noen nevroner kan imidlertid bli inaktive på grunn av "døende ReLU"-problemet;

f (x) = max (0, x)

Leaky ReLU: en variant av ReLU som tillater små negative verdier i stedet for å sette dem til null, noe som forhindrer inaktive nevroner og forbedrer gradientflyten;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimerer inngangsverdier til et område mellom 0 og 1, noe som gjør den nyttig for binær klassifisering. Den har imidlertid utfordringer med forsvinnende gradienter i dype nettverk;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: ligner på Sigmoid, men gir verdier mellom -1 og 1, og sentrerer aktiveringer rundt null;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: vanligvis brukt i det siste laget for flerkategoriklassifisering, Softmax omgjør rå nettverksutganger til sannsynligheter, og sikrer at de summeres til én for bedre tolkbarhet.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Valg av riktig aktiveringsfunksjon

1. Hvorfor foretrekkes ReLU fremfor Sigmoid i dype CNN-er?

2. Hvilken aktiveringsfunksjon brukes vanligvis i det siste laget av en multiklasseklassifiserings-CNN?

3. Hva er hovedfordelen med Leaky ReLU sammenlignet med standard ReLU?

Hvorfor foretrekkes ReLU fremfor Sigmoid i dype CNN-er?

Select the correct answer

ReLU forhindrer overtilpasning bedre enn Sigmoid.

ReLU kan håndtere multiklasseklassifisering.

ReLU unngår forsvinnende gradienter og gir raskere trening.

Sigmoid er mer effektiv beregningsmessig.

Hvilken aktiveringsfunksjon brukes vanligvis i det siste laget av en multiklasseklassifiserings-CNN?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Hva er hovedfordelen med Leaky ReLU sammenlignet med standard ReLU?

Select the correct answer

Den eliminerer behovet for et Softmax-lag.

Den forhindrer inaktive nevroner ved å tillate små negative utganger.

Den normaliserer verdier mellom -1 og 1.

Den sikrer at alle nevroner gir positive verdier.

Alt var klart?

Hvordan kan vi forbedre det?

Takk for tilbakemeldingene dine!

Seksjon 3. Kapittel 5