Session

Anatomía de un LLM: cómo funciona ChatGPT por dentro

1) La idea base: predecir lenguaje con contexto
Qué significa “predecir el siguiente token” y por qué, con suficiente contexto y escala, ese mecanismo produce respuestas útiles y coherentes.

2) Chatbots clásicos vs LLMs
Diferencias entre sistemas por reglas y modelos generativos.

3) Qué significa GPT
Desglose de Generative, Pre-trained y Transformer, y cómo cada parte impacta en el comportamiento del modelo.

4) Redes neuronales y aprendizaje
Cómo se entrenan los pesos de una red neuronal usando error, backpropagation y optimización iterativa.

5) Tokenización
Cómo el texto se transforma en tokens para poder ser procesado numéricamente.

6) Embeddings
Cómo cada token pasa a un vector en un espacio de alta dimensión y qué implica eso para similitud y contexto semántico.

7) Transformers y atención
Cómo el mecanismo de atención pondera el contexto para construir representaciones más precisas en cada capa.

8) Decoding: de probabilidades a texto
Cómo se pasa de logits y softmax a la selección de tokens (greedy/sampling) hasta formar una respuesta completa.

9) Del LLM al agente con tools
Cómo un modelo puede usar herramientas externas (APIs, web, bases de datos, código) mediante orquestación.


Recorrido técnico-práctico por la arquitectura de un LLM: preentrenamiento autoregresivo, tokenización, embedding, transformers, decoding y orquestación de tools.

Leonardo Micheloni

Software Developer en Tokiota

Madrid, Spain

Actions

Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.

Jump to top