· Herramientas · 3 min de lectura

El contexto es el token más barato que vas a comprar

Una pantalla con código JavaScript en rosa y azul sobre fondo oscuro

Pídele a una IA que arregle algo en una aplicación que no entiende y tendrás una tarde muy particular. El primer arreglo rompe otra cosa. El segundo deshace el primero. Al quinto ya no estás arreglando la aplicación: estás discutiendo con un motor de probabilidades, y cada asalto cuesta dinero. Al modelo no le pasaba nada. Simplemente no tenía ni idea de en qué estaba trabajando.

Conviene saber dos cosas antes de que te toque esa tarde. Un modelo de lenguaje no sabe, predice: produce el texto más probable a partir de todo lo que ha visto, y lo probable no siempre es lo cierto. Y no aprende nada mientras lo usas. El entrenamiento ya ha terminado cuando tú escribes. Lo único que cambia de una petición a la siguiente es lo que le pones delante, y por eso a esa parte se la llama contexto y por eso importa más que el modelo.

Lo segundo es el contador. Todo lo que entra y sale se cuenta en tokens, unos cuatro caracteres cada uno, y pagas en las dos direcciones: la pregunta y la respuesta. Un bucle de arreglos no es solo lento. Es la forma más cara de no llegar a ningún sitio.

Así que el trabajo no está en escribir mejores prompts. Está en construir el contexto una vez, para que cada petición parta del mismo suelo firme. La mejor forma de construir una aplicación que funcione bien es:

  • Define el sistema antes de la primera petición. Aquí importa saber programar: monta el stack con el que vas a trabajar y dale a la IA instrucciones concretas sobre cómo está hecho el proyecto, en términos generales, antes que nada.
  • Deja un rastro de memoria. Cada acción de la IA debe quedar bien registrada, para que cuando vuelva al proyecto en otro momento sepa en qué punto están las cosas.
  • Divide el trabajo antes de empezar. Parte el trabajo en tareas antes de darle nada a la IA. Es mejor trabajar por fases que esperar que todo salga de una vez.
  • Revisa cada fase. Repasa cada fase con cuidado, haz pruebas funcionales y arregla lo que no funcione. Suele ser la fase más larga, y en la que más tokens vas a gastar.

Nada de esto hace prescindible al programador. Hace falta saber de código de verdad para escribir las convenciones, para dividir el trabajo con sentido y para saber cuándo un arreglo es un arreglo. Lo que cambia es adónde va el tiempo: menos a teclear y más al método, al sistema y a la mejora constante de lo que ya está en marcha. Cuando la aplicación existe, el modelo es muy buen tester y no se cansa de buscar fallos, y ahí es donde se paga solo.

El contexto es el token más barato que vas a comprar. Todo lo demás es del caro.

¿Buscas un partner técnico que trabaje con método y no a base de prueba y error? Eso es lo que hago para estudios de diseño →Hablemos
Siguiente entradaEl ancho de banda es una factura que no deja de llegar →