Kursinnehåll

Grundläggande Datorseende

1. Introduktion till Datorseende

Vad är datorseende?Grunderna i Bildbehandling Linjär Algebra för Bildmanipulation

2. Bildbehandling med OpenCV

Grundläggande Transformationer Fouriertransform Lågpass- och Högpassfilter Brusreducering och Utjämning Histogramutjämning Superupplösningstekniker Kantdetektion Hörn- och Blobdetektering

3. Konvolutionella Neurala Nätverk

Introduktion till Konvolutionella Neurala Nätverk Konvolutionslager Poolningslager Utplattning Aktiveringsfunktioner Översikt över Populära CNN-modeller Utmaning: Bygga ett CNN

4. Objektdetektering

Objektlokalisering Objektdetektering Förutsägelser av Avgränsningsrutor Intersection Over Union (IoU) och Utvärderingsmetoder Icke-Maximal Undertryckning (NMS)Ankarlådor Översikt av Yolo-modellen Utmaning: Objektdetektering med Anpassad Modell och YOLO

5. Översikt över Avancerade Ämnen

Transferinlärning inom datorseende Översikt av Ansiktsigenkänning Översikt av Bildgenerering

Aktiveringsfunktioner

Varför aktiveringsfunktioner är avgörande i CNN:er

Aktiveringsfunktioner introducerar icke-linjäritet i CNN:er, vilket gör det möjligt för dem att lära sig komplexa mönster utöver vad en enkel linjär modell kan uppnå. Utan aktiveringsfunktioner skulle CNN:er ha svårt att upptäcka invecklade samband i data, vilket begränsar deras effektivitet vid bildigenkänning och klassificering. Valet av rätt aktiveringsfunktion påverkar träningshastighet, stabilitet och den övergripande prestandan.

Vanliga aktiveringsfunktioner

ReLU (rectified linear unit): den mest använda aktiveringsfunktionen i CNN:er. Den släpper endast igenom positiva värden och sätter alla negativa indata till noll, vilket gör den beräkningsmässigt effektiv och förhindrar försvinnande gradienter. Dock kan vissa neuroner bli inaktiva på grund av "dying ReLU"-problemet;

f (x) = max (0, x)

Leaky ReLU: en variant av ReLU som tillåter små negativa värden istället för att sätta dem till noll, vilket förhindrar inaktiva neuroner och förbättrar gradientflödet;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimerar inmatningsvärden till ett intervall mellan 0 och 1, vilket gör den användbar för binär klassificering. Dock lider den av försvinnande gradienter i djupa nätverk;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: liknar Sigmoid men returnerar värden mellan -1 och 1, vilket centrerar aktiveringar kring noll;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: används vanligtvis i det sista lagret för flervalsklassificering. Softmax omvandlar nätverkets råa utdata till sannolikheter och säkerställer att de summeras till ett, vilket ger bättre tolkbarhet.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Val av aktiveringsfunktion

ReLU är standardvalet för dolda lager tack vare dess effektivitet och starka prestanda, medan Leaky ReLU är ett bättre alternativ när inaktiva neuroner blir ett problem. Sigmoid och Tanh undviks generellt i djupa CNN:er men kan fortfarande vara användbara i specifika tillämpningar. Softmax är avgörande för flervalsklassificering och säkerställer tydliga sannolikhetsbaserade förutsägelser.

Att välja rätt aktiveringsfunktion är avgörande för att optimera CNN-prestanda, balansera effektivitet och förebygga problem som försvinnande eller exploderande gradienter. Varje funktion bidrar på sitt unika sätt till hur ett nätverk bearbetar och lär sig från visuell data.

1. Varför föredras ReLU framför Sigmoid i djupa CNN:er?

2. Vilken aktiveringsfunktion används vanligtvis i det sista lagret av en CNN för flervalsklassificering?

3. Vad är den största fördelen med Leaky ReLU jämfört med standard ReLU?

Varför föredras ReLU framför Sigmoid i djupa CNN:er?

Select the correct answer

ReLU förhindrar överanpassning bättre än Sigmoid.

ReLU kan hantera flervalsklassificering.

ReLU undviker försvinnande gradienter och snabbar upp träningen.

Sigmoid är beräkningsmässigt mer effektiv.

Vilken aktiveringsfunktion används vanligtvis i det sista lagret av en CNN för flervalsklassificering?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Vad är den största fördelen med Leaky ReLU jämfört med standard ReLU?

Select the correct answer

Den eliminerar behovet av ett Softmax-lager.

Den förhindrar inaktiva neuroner genom att tillåta små negativa utdata.

Den normaliserar värden mellan -1 och 1.

Den säkerställer att alla neuroner ger positiva värden.

Var allt tydligt?

Hur kan vi förbättra det?

Tack för dina kommentarer!

Avsnitt 3. Kapitel 5

Fråga AI

Fråga vad du vill eller prova någon av de föreslagna frågorna för att starta vårt samtal

Kursinnehåll

Grundläggande Datorseende

1. Introduktion till Datorseende

Vad är datorseende?Grunderna i Bildbehandling Linjär Algebra för Bildmanipulation

2. Bildbehandling med OpenCV

Grundläggande Transformationer Fouriertransform Lågpass- och Högpassfilter Brusreducering och Utjämning Histogramutjämning Superupplösningstekniker Kantdetektion Hörn- och Blobdetektering

3. Konvolutionella Neurala Nätverk

Introduktion till Konvolutionella Neurala Nätverk Konvolutionslager Poolningslager Utplattning Aktiveringsfunktioner Översikt över Populära CNN-modeller Utmaning: Bygga ett CNN

4. Objektdetektering

5. Översikt över Avancerade Ämnen

Transferinlärning inom datorseende Översikt av Ansiktsigenkänning Översikt av Bildgenerering

Aktiveringsfunktioner

Varför aktiveringsfunktioner är avgörande i CNN:er

Vanliga aktiveringsfunktioner

ReLU (rectified linear unit): den mest använda aktiveringsfunktionen i CNN:er. Den släpper endast igenom positiva värden och sätter alla negativa indata till noll, vilket gör den beräkningsmässigt effektiv och förhindrar försvinnande gradienter. Dock kan vissa neuroner bli inaktiva på grund av "dying ReLU"-problemet;

f (x) = max (0, x)

Leaky ReLU: en variant av ReLU som tillåter små negativa värden istället för att sätta dem till noll, vilket förhindrar inaktiva neuroner och förbättrar gradientflödet;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimerar inmatningsvärden till ett intervall mellan 0 och 1, vilket gör den användbar för binär klassificering. Dock lider den av försvinnande gradienter i djupa nätverk;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: liknar Sigmoid men returnerar värden mellan -1 och 1, vilket centrerar aktiveringar kring noll;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: används vanligtvis i det sista lagret för flervalsklassificering. Softmax omvandlar nätverkets råa utdata till sannolikheter och säkerställer att de summeras till ett, vilket ger bättre tolkbarhet.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Val av aktiveringsfunktion

1. Varför föredras ReLU framför Sigmoid i djupa CNN:er?

2. Vilken aktiveringsfunktion används vanligtvis i det sista lagret av en CNN för flervalsklassificering?

3. Vad är den största fördelen med Leaky ReLU jämfört med standard ReLU?

Varför föredras ReLU framför Sigmoid i djupa CNN:er?

Select the correct answer

ReLU förhindrar överanpassning bättre än Sigmoid.

ReLU kan hantera flervalsklassificering.

ReLU undviker försvinnande gradienter och snabbar upp träningen.

Sigmoid är beräkningsmässigt mer effektiv.

Vilken aktiveringsfunktion används vanligtvis i det sista lagret av en CNN för flervalsklassificering?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Vad är den största fördelen med Leaky ReLU jämfört med standard ReLU?

Select the correct answer

Den eliminerar behovet av ett Softmax-lager.

Den förhindrar inaktiva neuroner genom att tillåta små negativa utdata.

Den normaliserar värden mellan -1 och 1.

Den säkerställer att alla neuroner ger positiva värden.

Var allt tydligt?

Hur kan vi förbättra det?

Tack för dina kommentarer!

Avsnitt 3. Kapitel 5