Revolut logra una reducción del 90% en costos de codificación de IA con modelos autohospedados

Revolut, la empresa británica de fintech, ha anunciado una notable reducción en sus costos de inferencia de codificación de IA, logrando una disminución de alrededor del 90% en menos de un año. Esta medida significativa de ahorro de costos se logró al cambiar a modelos autohospedados y de pesos abiertos, alejándose de la dependencia de servicios comerciales como Claude de Anthropic.

En la reciente conferencia de AI Engineer en Nueva York, David Abitbol, líder de operaciones e infraestructura de Revolut, compartió información sobre la transición de la empresa. Tras el lanzamiento de herramientas de codificación de IA a aproximadamente 2,000 ingenieros, Revolut reportó una mejora del 60% en el tiempo de codificación y un aumento del 70% en el tiempo de entrega, que mide la duración desde el inicio del proyecto hasta la entrega.

Los modelos autohospedados, provenientes del laboratorio de IA chino Z.ai, comenzaron su implementación con el modelo GLM-5.1 en abril de 2026 y luego se actualizaron a GLM-5.3. El nuevo modelo opera en 56 GPUs Nvidia B200 dentro de la infraestructura de Revolut, con un costo de aproximadamente $0.30 por millón de tokens. Antes de este cambio, la empresa enfrentaba facturas mensuales sustanciales que oscilaban entre $1,000 y $10,000 debido al uso de APIs comerciales, lo que llevó a controles presupuestarios estrictos y racionamiento de tokens.

Al autohospedarse, Revolut eliminó la necesidad de racionar tokens, permitiendo a los ingenieros concentrarse en tareas más complejas en lugar de en labores mundanas como la documentación y la presentación de tickets. La empresa también optimizó su sistema después del lanzamiento, logrando un aumento del 76% en el rendimiento y reduciendo el tiempo de respuesta al primer token a un promedio de 1.6 a 1.68 segundos.

La decisión de Revolut de autohospedar modelos de IA es particularmente notable dado su estatus como institución financiera regulada. Este enfoque asegura el cumplimiento al ejecutar los pesos de IA en infraestructura estadounidense mientras se mantiene la supervisión humana de las sugerencias de código. El modelo de autohospedaje requiere una inversión inicial significativa en hardware y experiencia, pero con una fuerza laboral de 2,000 ingenieros, la economía se vuelve favorable.