Como os LLMs Realmente Funcionam
Deslize para mostrar o menu
Você já conversou com o Claude. Agora vamos abrir o capô — sem nenhuma matemática.
Etapa 1: Texto se torna números
Computadores não conseguem ler palavras — eles só conseguem fazer cálculos. Então, antes de qualquer coisa, sua mensagem é dividida em partes chamadas tokens, e cada token é transformado em um número.
Um token corresponde a aproximadamente 4 caracteres de texto em inglês. Pode ser uma palavra inteira, parte de uma palavra ou pontuação. Espaços e letras maiúsculas fazem diferença — eles alteram o token.
O que o Claude realmente vê
Quando você escreve:
Hello, marketing manager!
Claude recebe:
["Hello", ",", " marketing", " manager", "!"]
Que se transforma em:
[9906, 11, 8661, 6783, 0]
Cinco tokens. Cinco números. Essa é a entrada.
Regra geral: 750 palavras correspondem a aproximadamente 1.000 tokens. Mais tokens significam maior custo e resposta mais lenta.
Etapa 2: Prever o Próximo Token
Quando tudo está em números, o modelo faz uma coisa: prever o que vem a seguir. Repetidamente.
Você escreve:
The capital of France is
O modelo considera qual token tem maior probabilidade de vir em seguida:
- "Paris" — 92%;
- " Paris" — 5%;
- "Lyon" — 1%;
- "the" — 0,5%.
Ele escolhe o mais provável. Depois repete. Até decidir parar.
Importante: o modelo não escolheu Paris porque sabe a resposta. Ele escolheu porque nos dados de treinamento, essa frase quase sempre era seguida por "Paris".
IA = previsão de padrões, não conhecimento.
Etapa 3: De Onde Vêm os Padrões
O modelo foi treinado com textos públicos da internet, livros e códigos — até uma certa data limite.
Treinar significa ajustar probabilidades: quais tokens seguem quais, e em que contexto.
Duas consequências:
- O modelo não tem conhecimento de eventos recentes, dados da sua empresa ou qualquer coisa após a data limite;
- Ele aprendeu com a internet — incluindo seus erros. Se parte dos dados de treinamento estava errada, o modelo pode repetir esses erros com confiança.
Por Que a IA Alucina
Uma alucinação ocorre quando o modelo gera algo que soa confiante e parece realista — mas está incorreto.
Exemplos comuns: citações falsas, URLs inventados, estatísticas incorretas.
Isso acontece porque o objetivo do modelo é produzir a sequência de tokens mais provável — não a mais verdadeira. Se algo soa correto, ele pode gerar mesmo que seja falso.
A solução
A solução não é apenas tornar o modelo mais inteligente. É fornecer a ele ferramentas — busca na web, dados reais, documentos — para que possa se basear em fatos e não apenas em padrões.
Foi exatamente isso que você viu no capítulo anterior e continuará utilizando daqui em diante.
Obrigado pelo seu feedback!
Pergunte à IA
Pergunte à IA
Pergunte o que quiser ou experimente uma das perguntas sugeridas para iniciar nosso bate-papo
