Summary  
This chapter covers techniques for transforming raw text into machine-readable numerical data—such as tokenization, stop-word removal, vocabulary construction, and encoding—for use in downstream models.  

General domain of usage  
Sentiment analysis

**NLP** gjør det mulig for maskiner å lese, forstå og generere menneskelig språk. Ved å bruke ulike algoritmer og modeller kan NLP-systemer utføre oppgaver som talegjenkjenning, oversettelse, oppsummering og sentimentanalyse.

Definisjon

**Viktige oppgaver innen NLP**:  
- **Tekstforbehandling**: innebærer å rense tekstdata for å gjøre det egnet for analyse. Vanlige forbehandlingssteg inkluderer tokenisering, fjerning av stoppord og stemming eller lemmatisering;
- **Tekstklassifisering**: tilordning av kategorier eller etiketter til tekstdata. Sentimentanalyse er et eksempel, hvor målet er å klassifisere tekst som positiv, negativ eller nøytral;
- **Navngitt enhetsgjenkjenning (NER)**: identifisering og klassifisering av enheter i tekst, som navn på personer, organisasjoner, steder og datoer;
- **Ordklassemerking**: bestemmelse av den grammatiske strukturen i en setning ved å identifisere ordklasser som substantiv, verb, adjektiv osv.;
- **Sentimentanalyse**: hovedoppgaven i denne seksjonen. Sentimentanalyse innebærer å avgjøre hvilket sentiment eller følelse som uttrykkes i en tekst. Dette brukes ofte til å analysere innlegg på sosiale medier, kundeanmeldelser og tilbakemeldinger, og utføres vanligvis ved hjelp av maskinlæringsmodeller trent på merkede data.

- Prosessen med å dele opp tekst i individuelle ord eller fraser, kjent som **tokens**;
- Tokenisering er et grunnleggende steg i NLP for å gjøre rå tekst om til strukturert data.

Tokenisering

- Fjerning av ofte brukte ord (f.eks. "the", "is", "and") som ikke bidrar mye til meningsinnholdet i analysen;
- Stoppord fjernes vanligvis for å redusere støy og fokusere på mer meningsfulle termer i teksten.

Fjerning av stoppord

- Reduksjon av ord til deres grunnform eller rot, f.eks. "running" blir til "run";
- Lemmatisering er vanligvis mer nøyaktig enn stemming fordi den tar hensyn til konteksten til ordene;
- Begge teknikkene bidrar til å standardisere ord for bedre analyse og sammenligning.

Stemming og lemmatisering

- Representasjon av ord i numerisk form ved hjelp av vektorer;
- Vanlige teknikker som Word2Vec og GloVe hjelper med å fange semantiske relasjoner mellom ord;
- Ordinnbeddinger gjør det mulig å analysere ord basert på deres betydning og relasjoner.

Ordinnbeddinger

Oppsummert er NLP en sentral teknologi som gjør det mulig for maskiner å behandle og forstå menneskelig språk. Ved å mestre grunnleggende NLP, som tekstforbehandling, klassifisering og embedding, legger du grunnlaget for mer avanserte oppgaver som sentimentanalyse og videre.


Hvilken av følgende er en sentral oppgave innen NLP?

Bli ekspert på rekursive nevrale nettverk og deres avanserte varianter som LSTM og GRU ved bruk av PyTorch. Få praktisk erfaring med behandling av sekvensielle data for anvendelser i praksis. Bruk disse kraftige modellene til å løse reelle utfordringer innen tidsserieprognoser og ulike oppgaver innen naturlig språkprosessering.

Dekker begrensningene ved tradisjonelle nevrale nettverk for sekvensielle data og introduserer grunnleggende prinsipper for rekurrente nevrale nettverk. Forklarer RNN-arkitektur, typer og trinnvis implementering gjennom grunnleggende eksempler og en kodeutfordring.

Utforsker vanlige treningsutfordringer som forsvinnende og eksploderende gradienter. Introduserer avanserte RNN-varianter, inkludert LSTM og GRU, med fokus på deres interne mekanismer og bruksområder, samt praktiske implementeringseksempler for hver.

Fokuserer på behandling og prediksjon av tidsseriedata ved bruk av RNN-baserte modeller. Inkluderer datainnhenting, forhåndsbehandlingsteknikker, modelltrening og ytelsesevaluering, med vekt på sammenligning av LSTM- og GRU-arkitekturer.

Demonstrerer anvendelsen av RNN-er på tekstklassifiseringsoppgaver. Dekker sentrale NLP-konsepter, metoder for tekstkoding, trinn for datapreparering og konstruksjon av en LSTM-basert modell for prediksjon av sentiment.

Grunnleggende NLP