Después de gastar millones en IA, herramienta ROI.

La empresa de software de recursos humanos, Rippling, ha lanzado recientemente el AI Spend Console, una herramienta diseñada para ayudar a las compañías a rastrear y controlar sus gastos en inteligencia artificial. Este producto surge como respuesta a la creciente preocupación por el gasto excesivo en tokens de IA, permitiendo a las empresas identificar cuánto gastan los empleados, qué equipos son más productivos y si realmente están generando un valor significativo o simplemente desperdiciando recursos.

Este innovador sistema proporciona a las organizaciones datos detallados sobre “qué ingenieros presentan un alto gasto en IA, cuyos colegas frecuentemente les piden rediseñar su trabajo durante las revisiones de código”, según indica un comunicado de la empresa.

El surgimiento del AI Spend Console fue impulsado por una revelación en una reunión ejecutiva donde se reportó que Rippling estaba a punto de consumir el 40% del presupuesto de su personal de I+D en tokens de IA, una cifra sorprendente que representaba millones de dólares destinados a esta tecnología. El crecimiento del gasto era alarmante, con un aumento del 80% al mes, lo que indicaba que, si continuaba esa tendencia, se podría alcanzar un gasto del 90% en tokens de IA en relación con el costo de los empleados de la unidad de I+D al año siguiente.

“Estamos incrédulos”, comentó el Director de Producto, Matt MacInnis, a medios de comunicación. Tras darse cuenta de la magnitud del problema, la dirección emprendió un proyecto urgente para evaluar el gasto y determinar su valor. Un anuncio promocional del producto destaca cómo se ilustraba el despilfarro monetario, mostrando a empleados arrojando dinero en una destructora de papel.

Al analizar el uso de IA, Rippling descubrió que “aproximadamente el 10-15% de nuestros empleados generaban alrededor del 60% del gasto total en IA”. Un ingeniero en particular reportó gastos de $50,000 al mes. La empresa no buscaba eliminar el uso de IA; simplemente, necesitaba reducirlo considerablemente. Para ello, negociaron límites de gasto con las herramientas que utilizaban, como Cursor y OpenAI, y pronto se dieron cuenta de un problema evidente: los empleados tendían a utilizar los modelos más recientes y costosos para todas las tareas.

“Los proveedores de inferencia, como Anthropic y OpenAI, no tienen incentivos para ayudar a controlar tu gasto; al contrario, se benefician del gasto desmedido”, señaló MacInnis. Ocho meses en el año, las empresas han comprendido que necesitan múltiples modelos de diferentes laboratorios de IA a diversos precios, incluido un modelo de última generación, tal vez de origen chino.

Recientemente, el CEO y fundador Parker Conrad indicó que, tras realizar pruebas internas, SpaceX’s Grok emergió como el modelo líder, aunque “GLM 5.2 es un 85% más económico pero ofrece un rendimiento casi idéntico” en comparación con los modelos más avanzados. Este modelo ha ganado popularidad entre las firmas tecnológicas para tareas de codificación.

Adicionalmente, las empresas ahora reconocen la necesidad de una puerta de enlace de IA que dirija las solicitudes al modelo más apropiado y económico. Rippling, reconociendo esta necesidad, desarrolló su propia puerta de enlace integrada en el AI Spend Console, permitiendo que incluso aquellos que utilizan otra puerta de enlace puedan beneficiarse de sus capacidades, aunque no obtendrán todas las funcionalidades relacionadas con el control de gastos.

El AI Spend Console genera paneles informativos que miden atributos como los prompts diarios, la productividad laboral, y el gasto realizado. Con la implementación de esta herramienta, Rippling logró reducir su gasto en tokens del 40% de su presupuesto de personal a aproximadamente el 15%. Aunque el uso de IA no se detuvo, el mes en que se advirtió sobre el despilfarro se alcanzaron los 605 mil millones de tokens, y un tiempo después, en julio, se llegó nuevamente a esta cifra, pero “el costo del gasto de tokens en julio fue del 37% del de abril”, explicó MacInnis.

La compañía también ha capacitado a empleados que utilizan IA de manera efectiva, designándolos como “capitanes de IA” para que asistan al resto del personal. Sin embargo, el uso de IA en funciones más allá de la ingeniería está en proceso, ya que este grupo ha sido el principal usuario. Rippling está trabajando para implementar IA en equipos de incorporación de clientes, automatizando tareas relacionadas con el envío de datos y la reconciliación de información. El panel también medirá la productividad en términos de la cantidad de clientes incorporados.

“Es fundamental poder vincular el consumo de tokens en funciones generales y en la atención al cliente con la productividad. Si no podemos hacer eso, cualquier progreso estará comprometido”, remarcó MacInnis.

Si Rippling es un ejemplo, quizás se esté produciendo un cambio significativo en el acceso a la IA para los empleados, donde la capacidad de medir la productividad podría restringir el acceso a todos los colaboradores. Finalmente, el AI Spend Console está disponible para suscriptores de recursos humanos de Rippling, aunque hay costos adicionales basados en el uso de IA. Además, también se puede adquirir como un producto independiente, integrándose con otros sistemas de registro de recursos humanos.