Summary  
This chapter covers techniques for transforming raw text into machine-readable numerical data—such as tokenization, stop-word removal, vocabulary construction, and encoding—for use in downstream models.  

General domain of usage  
Sentiment analysis

**NLP** permite que máquinas leiam, compreendam e gerem linguagem humana. Ao aplicar diversos algoritmos e modelos, sistemas de NLP podem realizar tarefas como reconhecimento de fala, tradução, sumarização e análise de sentimento.

Definição

**Principais tarefas em NLP**:  
- **Pré-processamento de texto**: envolve a limpeza dos dados textuais para torná-los adequados à análise. Etapas comuns de pré-processamento incluem tokenização, remoção de stop words e stemming ou lematização;
- **Classificação de texto**: atribuição de categorias ou rótulos aos dados textuais. Análise de sentimento é um exemplo, onde o objetivo é classificar o texto como positivo, negativo ou neutro;
- **Reconhecimento de entidades nomeadas (NER)**: identificação e classificação de entidades no texto, como nomes de pessoas, organizações, locais e datas;
- **Rotulação de partes do discurso**: determinação da estrutura gramatical de uma frase por meio da identificação de classes gramaticais como substantivos, verbos, adjetivos, etc.;
- **Análise de sentimento**: tarefa principal desta seção. A análise de sentimento envolve determinar o sentimento ou emoção expressa em um texto. É comumente utilizada na análise de postagens em redes sociais, avaliações de clientes e feedbacks, sendo geralmente realizada com modelos de aprendizado de máquina treinados em dados rotulados.

- O processo de dividir o texto em palavras ou frases individuais, conhecidos como **tokens**;
- A tokenização é uma etapa fundamental em NLP para transformar texto bruto em dados estruturados.

Tokenização

- Remoção de palavras comumente usadas (por exemplo, "the", "is", "and") que não contribuem significativamente para a análise;
- As stop words geralmente são removidas para reduzir ruído e focar em termos mais relevantes no texto.

Remoção de stop words

- Redução das palavras à sua forma base ou raiz, por exemplo, "running" torna-se "run";
- A lematização geralmente é mais precisa que o stemming, pois considera o contexto das palavras;
- Ambas as técnicas ajudam a padronizar palavras para melhor análise e comparação.

Stemming e lematização

- Representação de palavras em formato numérico usando vetores;
- Técnicas comuns como Word2Vec e GloVe ajudam a capturar relações semânticas entre palavras;
- As word embeddings possibilitam analisar palavras com base em seus significados e relações.

Word embeddings

Em resumo, PLN é uma tecnologia fundamental que permite às máquinas processar e compreender a linguagem humana. Ao dominar os conceitos básicos de PLN, como pré-processamento de texto, classificação e embeddings, você estabelece a base para tarefas mais avançadas, como análise de sentimento e além.


Qual das opções a seguir é uma tarefa fundamental em PLN?

Domine redes neurais recorrentes e suas variantes avançadas, como LSTMs e GRUs, utilizando PyTorch. Adquira experiência prática no processamento de dados sequenciais para aplicações práticas. Aplique esses modelos poderosos para enfrentar desafios reais em previsão de séries temporais e diversas tarefas de processamento de linguagem natural.

Aborda as limitações das redes neurais tradicionais para dados sequenciais e apresenta os fundamentos das Redes Neurais Recorrentes. Explica a arquitetura das RNNs, seus tipos e a implementação passo a passo por meio de exemplos básicos e um desafio de programação.

Explora desafios comuns de treinamento, como gradientes desaparecendo e explodindo. Introduz variantes avançadas de RNN, incluindo LSTM e GRU, destacando seus mecanismos internos e casos de uso, com exemplos práticos de implementação para cada uma.

Foca no processamento e previsão de dados de séries temporais utilizando modelos baseados em RNN. Inclui carregamento de dados, técnicas de pré-processamento, treinamento de modelos e avaliação de desempenho, com ênfase na comparação entre as arquiteturas LSTM e GRU.

Demonstra a aplicação de RNNs em tarefas de classificação de texto. Aborda conceitos fundamentais de PLN, métodos de codificação de texto, etapas de preparação de dados e construção de um modelo baseado em LSTM para previsão de sentimento.

Noções Básicas de PLN