Summary  
This chapter covers techniques for transforming raw text into machine-readable numerical data—such as tokenization, stop-word removal, vocabulary construction, and encoding—for use in downstream models.  

General domain of usage  
Sentiment analysis

**NLP** ermöglicht es Maschinen, menschliche Sprache zu lesen, zu verstehen und zu generieren. Durch den Einsatz verschiedener Algorithmen und Modelle können NLP-Systeme Aufgaben wie Spracherkennung, Übersetzung, Zusammenfassung und Sentiment-Analyse ausführen.

Definition

**Wichtige Aufgaben im NLP**:  
- **Textvorverarbeitung**: umfasst das Bereinigen von Textdaten, um sie für die Analyse geeignet zu machen. Übliche Vorverarbeitungsschritte sind Tokenisierung, Entfernen von Stoppwörtern sowie Stemming oder Lemmatisierung;
- **Textklassifikation**: Zuweisung von Kategorien oder Labels zu Textdaten. Ein Beispiel ist die Sentiment-Analyse, bei der Texte als positiv, negativ oder neutral klassifiziert werden;
- **Named Entity Recognition (NER)**: Erkennung und Klassifizierung von Entitäten im Text, wie Namen von Personen, Organisationen, Orten und Daten;
- **Part-of-Speech-Tagging**: Bestimmung der grammatikalischen Struktur eines Satzes durch Identifikation von Wortarten wie Nomen, Verben, Adjektiven usw.;
- **Sentiment-Analyse**: die Hauptaufgabe dieses Abschnitts. Die Sentiment-Analyse beinhaltet das Erkennen der Stimmung oder Emotion, die in einem Textstück ausgedrückt wird. Dies wird häufig bei der Analyse von Social-Media-Beiträgen, Kundenrezensionen und Feedback eingesetzt und erfolgt typischerweise mit maschinellen Lernmodellen, die auf gelabelten Daten trainiert wurden.

- Der Prozess, Text in einzelne Wörter oder Phrasen zu zerlegen, bekannt als **Tokens**;
- Die Tokenisierung ist ein grundlegender Schritt im NLP, um Rohtext in strukturierte Daten umzuwandeln.

Tokenisierung

- Entfernen von häufig verwendeten Wörtern (z. B. "the", "is", "and"), die wenig Bedeutung für die Analyse haben;
- Stoppwörter werden in der Regel entfernt, um Störfaktoren zu reduzieren und sich auf bedeutungsvollere Begriffe im Text zu konzentrieren.

Entfernung von Stoppwörtern

- Reduzierung von Wörtern auf ihre Grund- oder Stammform, z. B. wird aus "running" "run";
- Die Lemmatisierung ist in der Regel genauer als das Stemming, da sie den Kontext der Wörter berücksichtigt;
- Beide Techniken helfen, Wörter zu standardisieren, um eine bessere Analyse und Vergleichbarkeit zu ermöglichen.

Stemming und Lemmatisierung

- Darstellung von Wörtern in numerischer Form mittels Vektoren;
- Gängige Techniken wie Word2Vec und GloVe erfassen semantische Beziehungen zwischen Wörtern;
- Wort-Embeddings ermöglichen es, Wörter anhand ihrer Bedeutungen und Beziehungen zu analysieren.

Wort-Embeddings

Zusammenfassend ist NLP eine Schlüsseltechnologie, die es Maschinen ermöglicht, menschliche Sprache zu verarbeiten und zu verstehen. Durch das Beherrschen der Grundlagen von NLP, wie Textvorverarbeitung, Klassifikation und Embeddings, wird die Basis für fortgeschrittene Aufgaben wie Sentiment-Analyse und darüber hinaus gelegt.


Welche der folgenden Aufgaben ist eine Schlüsselaufgabe im NLP?

Beherrschung von Rekurrenten Neuronalen Netzen und deren fortgeschrittenen Varianten wie LSTMs und GRUs mit PyTorch. Praktische Erfahrung in der Verarbeitung sequentieller Daten für praxisnahe Anwendungen. Anwendung dieser leistungsstarken Modelle zur Lösung realer Herausforderungen in der Zeitreihenprognose und verschiedenen Aufgaben der natürlichen Sprachverarbeitung.

Behandelt die Einschränkungen traditioneller neuronaler Netze bei sequenziellen Daten und führt in die Grundlagen von Rekurrenten Neuronalen Netzen ein. Erläutert RNN-Architektur, Typen und die schrittweise Implementierung anhand grundlegender Beispiele und einer Programmieraufgabe.

Untersucht häufige Trainingsherausforderungen wie verschwindende und explodierende Gradienten. Stellt fortgeschrittene RNN-Varianten wie LSTM und GRU vor, hebt deren interne Mechanismen und Anwendungsfälle hervor und bietet praktische Implementierungsbeispiele für jede Variante.

Konzentriert sich auf die Verarbeitung und Prognose von Zeitreihendaten mithilfe von RNN-basierten Modellen. Beinhaltet das Laden von Daten, Vorverarbeitungstechniken, Modelltraining und Leistungsevaluierung, mit Schwerpunkt auf dem Vergleich von LSTM- und GRU-Architekturen.

Demonstriert die Anwendung von RNNs auf Aufgaben der Textklassifikation. Behandelt zentrale NLP-Konzepte, Methoden der Textkodierung, Schritte der Datenvorbereitung sowie den Aufbau eines LSTM-basierten Modells zur Sentimentvorhersage.

Grundlagen der NLP