FinOps for AI Agents: Who Spent All the Tokens? — Tisha Chawla & Susheem Koul, Microsoft
Microsoft-forskarna Tisha Chawla och Susheem Koul presenterar ett system för att kontrollera kostnaderna när AI-agenter kör kod.
Problemet är att dagens AI-verktyg saknar en kontrollmekanism mellan din kod och vad den faktiskt kostar — till skillnad från molntjänster som autoskalning eller SaaS-tjänster med användargränser. Deras lösning använder "steering" istället för att bara stänga av dyra körningar: systemet övervakar utgifterna i realtid och instruerar agenten att ge kortare svar när kostnaderna hotar att spränga budgeten. I tester minskade detta genomsnittskostnaden med 78 procent samtidigt som andelen körningar som faktiskt slutfördes ökade från 67 till 96 procent.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
SOTA Generative Media Panel — Dumitru Erhan, Shane Gu & Nicole Brichtova, Google DeepMind
AI Engineer 30 aug.
Tell the Robot What You Want — Sandhya Subramani, AWS
AI Engineer 29 aug.
The Signal Layer: What to Build When Anything Can Be Built — Lena Hall, Akamai
AI Engineer 29 aug.
Tribal Dungeons of Global Shipping: AI Agents at Global Scale — Dmitry Buykin, Maersk
AI Engineer 29 aug.