GitHub explica como redujo hasta un 5% el costo de IA en Copilot sin perder calidad en las tareas

GitHub anuncio, a traves de un articulo publicado en su blog oficial el 2 de septiembre de 2026, cuatro cambios en el motor tecnico (harness) que usa GitHub Copilot para completar tareas de programacion con inteligencia artificial, con el objetivo declarado de reducir el costo de cada tarea sin sacrificar la calidad del resultado. Segun un grafico incluido en el posteo, que compara cuatro experimentos A/B independientes medidos con la misma metrica de creditos de IA, los ahorros individuales fueron de 5,5% para la compresion selectiva de salidas de comandos, 3,1% para la eliminacion de los numeros de linea en la herramienta 'view', 2,9% para la compactacion del prompt de la herramienta 'task' y 2,3% para la reduccion de idas y vueltas en las notificaciones de tareas en segundo plano -- la propia compañia aclaro que esos segmentos se muestran juntos para comparar, pero que sus efectos no son necesariamente sumables de forma estricta. Sobre el primero de esos cambios, GitHub detallo que la herramienta 'view' dejo de anteponer un numero a cada linea de codigo antes de mostrarlo al modelo, una practica heredada de versiones anteriores de las herramientas de edicion que ya no la necesitan, y que esa sola eliminacion bajo el costo de inferencia del modelo alrededor de un 5% en pruebas offline con benchmarks de codificacion agentica y cerca de un 3% en el costo diario promedio por usuario durante un experimento online con usuarios reales de GitHub Copilot CLI. Sobre el ajuste al prompt de la herramienta 'task', la compañia informo que el texto final quedo unos 1.300 tokens mas corto por turno, lo que equivale a 1,8% menos tokens totales por sesion y 2,9% menos costo normalizado por hora activa; y sobre el sistema que agrupa notificaciones de trabajo en segundo plano, señalo que entregar los resultados ya completados sin que el agente tenga que pedirlos en un turno adicional recorto en aproximadamente 2,3% el uso de tokens medido en creditos de IA.

El cambio de enfoque partio de una constatacion que la propia compañia explico en el posteo: contar tokens por cada llamada a una herramienta no es una medida confiable de eficiencia. GitHub probo primero RTK (Rust Token Killer), una utilidad externa que acorta la salida de la terminal antes de que el agente la lea, y encontro que si bien cada respuesta individual se volvia mas corta, cuando el modelo necesitaba la informacion omitida terminaba reabriendo el resultado original o volviendo a ejecutar el comando -- lo que sumaba turnos y, en promedio, terminaba consumiendo mas tokens y mas tiempo por tarea completa. La compañia llamo a esto la 'trampa de la metrica local': ahorrar tokens en un punto aislado del proceso puede terminar costando mas en el resultado final, y esa conclusion la llevo a evaluar cada cambio a lo largo de toda la tarea -- desde el pedido del usuario hasta el resultado final -- y no solo en la respuesta de una herramienta puntual.

Ese aprendizaje se sumo a un antecedente propio: GitHub ya habia recortado el costo de Copilot Code Review en alrededor de un 20% gracias a una migracion previa hacia herramientas de archivo compartidas y a un ajuste de las instrucciones de revision, cambio descrito en un posteo anterior del 25 de junio de 2026 que la compañia cita en este nuevo articulo. En esta ronda de ajustes, GitHub tambien probo aplicar a Copilot CLI un conjunto mas acotado de instrucciones de herramientas de archivo que habian dado buenos resultados en Copilot Code Review, pero un experimento online mostro que el costo aumentaba en ese producto, por lo que la version no se puso en produccion -- muestra, segun el propio texto, de que un cambio que ahorra en un flujo de trabajo puede encarecer otro. Otro de los ajustes, la reduccion a la mitad del prompt de la herramienta 'task' mediante un ciclo de meta-prompting en el que el propio Copilot reescribio su instruccion, tambien tuvo un tropiezo: la primera version convirtio una guia cautelosa sobre paralelismo en una politica rigida que obligaba a ejecutar agentes independientes de forma secuencial, un problema que recien se detecto en el experimento online. GitHub dijo haber frenado esa version, escrito una prueba de regresion especifica para el comportamiento afectado y reemplazado la instruccion original por una sola frase antes de volver a intentarlo.

Los cuatro cambios ya estan en produccion en las distintas experiencias de GitHub Copilot que comparten el mismo motor tecnico -- entre ellas GitHub Copilot CLI, la app de Copilot y Copilot Code Review --, segun informo la compañia. Para los desarrolladores que usan estas herramientas, el efecto practico que describe GitHub es que una porcion mayor de la ventana de contexto del modelo queda disponible para el trabajo real en lugar de destinarse a formato que el agente ya no utiliza, y que las tareas completas insumen en promedio menos creditos de IA sin que la compañia haya detectado, segun sus propias mediciones, una caida en la tasa de exito de las tareas ni en las metricas de calidad y satisfaccion que monitoreo. GitHub tambien remarco que ninguno de estos cambios hizo 'mas inteligente' al modelo: se trato, en sus palabras, de eliminar trabajo que el modelo nunca necesito hacer, y de volver a evaluar cada modificacion en el flujo de trabajo especifico donde se aplica antes de darla por buena en todos los productos que usan el mismo motor.