Cómo Funcionan Realmente los LLM
Desliza para mostrar el menú
Has interactuado con Claude. Ahora vamos a ver cómo funciona internamente, sin matemáticas.
Paso 1: El texto se convierte en números
Las computadoras no pueden leer palabras; solo pueden realizar operaciones matemáticas. Por eso, antes de que ocurra cualquier cosa, tu mensaje se divide en partes llamadas tokens, y cada token se transforma en un número.
Un token equivale aproximadamente a 4 caracteres de texto en inglés. Puede ser una palabra completa, parte de una palabra o un signo de puntuación. Los espacios y las mayúsculas importan: cambian el token.
Lo que realmente ve Claude
Cuando escribes:
Hello, marketing manager!
Claude recibe:
["Hello", ",", " marketing", " manager", "!"]
Lo cual se convierte en:
[9906, 11, 8661, 6783, 0]
Cinco tokens. Cinco números. Esa es la entrada.
Regla general: 750 palabras equivalen aproximadamente a 1,000 tokens. Más tokens significa mayor costo y una respuesta más lenta.
Paso 2: Predecir el siguiente token
Una vez que todo está en números, el modelo hace una sola cosa: predecir qué viene después. Una y otra vez.
Escribes:
The capital of France is
El modelo considera qué token es más probable que siga:
- "Paris" — 92%;
- " Paris" — 5%;
- "Lyon" — 1%;
- "the" — 0.5%.
Elige el más probable. Luego repite. Hasta que decide detenerse.
Importante: el modelo no eligió Paris porque sepa la respuesta. Lo eligió porque en los datos de entrenamiento, esta frase casi siempre era seguida por "Paris".
IA = predicción de patrones, no conocimiento.
Paso 3: De dónde provienen los patrones
El modelo fue entrenado con texto público de internet, libros y código — hasta cierta fecha de corte.
Entrenar significa ajustar probabilidades: qué tokens siguen a cuáles, y en qué contexto.
Dos consecuencias:
- El modelo no tiene conocimiento de eventos recientes, datos de tu empresa, ni nada posterior a la fecha de corte;
- Aprendió de internet — incluidos sus errores. Si parte de los datos de entrenamiento era incorrecta, el modelo puede repetir esos errores con confianza.
Por qué la IA alucina
Una alucinación ocurre cuando el modelo genera algo que suena convincente y parece realista — pero en realidad es incorrecto.
Ejemplos comunes: citas falsas, URLs inventadas, estadísticas incorrectas.
Esto sucede porque el objetivo del modelo es producir la secuencia de tokens más probable — no la más verdadera. Si algo suena correcto, puede generarlo aunque sea falso.
La solución
La solución no es solo hacer que el modelo sea más inteligente. Es proporcionarle herramientas — búsqueda web, datos reales, documentos — para que pueda basarse en hechos y no solo en patrones.
Eso es exactamente lo que viste en el capítulo anterior y lo que seguirás utilizando en adelante.
¡Gracias por tus comentarios!
Pregunte a AI
Pregunte a AI
Pregunte lo que quiera o pruebe una de las preguntas sugeridas para comenzar nuestra charla
