4. LLMs y Generative AI

1 · QUÉ ES — PARA PROFANOS

Un LLM (Large Language Model) es un programa que completa texto. Le das una frase y él escribe

la continuación más probable. Solo hace eso: calcular qué palabra viene después. Pero está

entrenado con casi todo el texto público del mundo, y de tanto completar frases ha aprendido a

responder preguntas, escribir código y razonar.

La metáfora del becario: un becario brillantísimo que ha leído toda la biblioteca, con una

memoria de trabajo corta: solo recuerda lo que está en su mesa en este momento. Todo lo demás,

fuera.

Tres ideas que hay que entender para lo demás:

- Token: el modelo no lee palabras, lee trozos (~4 letras). Pagas por cada token que entra y

sale. Por eso el coste importa.

- Ventana de contexto: cuántos tokens caben en la mesa del becario. Los modelos grandes llegan

a 1-2 millones (unos cuantos libros). Pero meter más contexto cuesta dinero y concentración.

- Alucinación: el becario inventa con aplomo. Como su trabajo es completar frases, cuando no

sabe algo escribe la continuación más plausible — y suena segurísima.

"Generative AI" = IA que genera (texto, imagen, código) en vez de clasificar o predecir un

número. La IA clásica decía "esta transacción es fraude: sí/no"; la generativa redacta una carta o

un informe. En banca, el puesto de Getnet es del segundo grupo: responder, resumir, buscar, asistir.

Dos mundos de modelos:, Tipo, Modelos, Cómo se usan,, Comerciales (API), OpenAI GPT, Anthropic Claude, Google Gemini, pagas por token, no operas nada, límites y filtros del proveedor,, Open source, Llama (Meta), Mistral, Qwen, DeepSeek, los descargas, los sirves tú (o un proveedor), control total y coste distinto, Tres formas de adaptar un modelo a tu negocio — y este es el marco que cualquier arquitecto de

IA maneja:

1. Prompt engineering — instrucciones y ejemplos. Cero entrenamiento. El 80 % de los casos

empieza y termina aquí.

2. RAG — darle tus documentos en el momento de preguntar (documento 03). Sin entrenamiento,

conocimiento siempre actualizado.

3. Fine-tuning — reentrenar el modelo con tus datos. Caro, lento de actualizar, y solo compensa

para estilos muy específicos o formatos rígidos. El error de principiante es ir directo a

aquí.

La decisión que separa a un senior: casi nada necesita fine-tuning. Casi todo es prompt + RAG.

Y cuando el problema es coste, la jugada es modelo pequeño para lo fácil, modelo grande para lo

difícil — no un modelo único para todo.

- Modelos que razonan (OpenAI o-series, DeepSeek R1, Gemini thinking): en vez de responder

directo, "piensan" durante segundos antes de contestar. Mejores en matemáticas, código y

decisiones; más caros y lentos. El patrón emergente: razonador solo cuando hace falta.

- Multimodalidad: un solo modelo que ve imágenes, oye audio y lee texto. El perceptor de RADIA

(documento 05) ya vive de esto.

- Contexto largo (1M+ tokens): ya no hace falta trocear tanto. Pero el coste crece con el

contexto, así que RAG sigue vivo: recuperar poco y bueno es más barato que meterlo todo.

- Modelos pequeños en el borde: Phi, Llama 3B, y WebAssembly. El modelo corre en el móvil, en el

router, en el nodo del cliente. Es exactamente la dirección de LUMEN: 22 KB de WASM.

- Model routing: un enrutador decide qué modelo responde cada petición según dificultad. Es

la versión industrial de tu cadena de modelos.

- MCP como estándar: desde 2025, Anthropic, OpenAI y Google aceptaron el Model Context Protocol

como la forma común de dar herramientas a los modelos. Tu apuesta por MCP es ahora la apuesta del

sector.

La capa de proveedores es nuestra, no de un framework. Detrás de una misma interfaz hay:

DeepSeek, OpenRouter, Empero, un nodo local en:8140 y el NAS en 192.168.1.14:8140. Cambiar

de modelo no toca el código de negocio — es la parte de LangChain que todo el mundo usa, sin el

armazón que lo envuelve.

La lección que nos costó dinero aprender (y que se cuenta en la entrevista):

De ahí salió la cadena de modelos gratuitos: un conjunto de modelos open source revalidado

dos veces al día contra un ancla de pago. Los baratos se usan para todo lo que no necesita

razonamiento profundo; el ancla de pago, para lo que sí. La misma idea que el model routing de la

industria, operada a mano.

Y la calibración que casi nadie hace: un modelo barato no se evalúa contra la nada — se mide

contra un modelo de referencia de pago. Sin ancla, la puntuación es decorativa (documento 07).

Los agentes del ecosistema son LLMs con contrato: Zalo (coordinación), Poli (personalidades,

305+ perfiles), Tom (worker ligero), Lisa (planificación), Angi (PM), Campo y Gon (contenidos).

Cada uno con su modelo, su prompt por secciones y sus herramientas. El modelo es el becario; el

agente es el becario con teléfono, manual y normas (documento 05).

> "He pasado por todo el recorrido del coste: facturas de 1.000 € al mes, un adaptador propio, y

> la conclusión de que el peaje estaba en los tokens, no en el modelo. Hoy trabajo con proveedores

> intercambiables y una cadena de modelos económicos revalidada dos veces al día contra un ancla de

> pago. Si mañana este equipo usa otra plataforma, sé exactamente qué mirar para decidir si

> compensa."

> "Trabajar con modelos comerciales y open source, por ejemplo Azure OpenAI, OpenAI, Anthropic,

> Meta Llama o Mistral, según el contexto tecnológico." · "Mantenerse actualizado/a sobre la

> evolución de modelos, frameworks y herramientas."

La lectura: no piden que conozcas un modelo — piden que sepas elegir entre todos según el

caso. Y que demuestres que estás al día.

Nuestro encaje: los cinco modelos que citan son exactamente la clase de modelos que hay detrás

de nuestra capa de proveedores. No "usamos X": elegimos entre ellos por caso, con coste medido.

"¿Open source o modelo comercial?"

> "Depende del caso, no de la preferencia. Comercial para lo que exige calidad máxima, garantía de

> disponibilidad y contrato — pagos, atención al cliente. Open source para volumen alto, datos que

> no deben salir de casa, o latencia baja en el borde. La mayoría de mis sistemas usan las dos

> cosas: un ancla comercial de referencia y una cadena open source para el volumen. Y una regla: el

> modelo barato se mide contra el de pago, no contra la nada."

"¿Cómo estás al día de la evolución de modelos?"

> "Por necesidad, no por hobby: cada seis horas se evalúa mi cadena de modelos y los resultados

> quedan guardados. Cuando un modelo nuevo entra en la cadena, lo veo en los números antes de leer

> la reseña. Y el ciclo semanal propone pruebas nuevas para la batería — el sistema se actualiza

> solo, con puerta."

"¿Cuánto te cuesta un mes de modelos?"

> "Menos que una cena — y lo sé porque lo mido. La mayor parte del tráfico va a modelos open

> source gratuitos revalidados dos veces al día; el ancla de pago solo entra donde la calidad lo

> exige. Lo que me costó caro fue aprenderlo: 1.000 € al mes en facturas hasta que medí dónde

> estaba el peaje. Ahora es diseño, no accidente."