Preferences Over Benchmarks: Model Routing — Archana Kamath & Tyler Gillam, DigitalOcean
Archana Kamath och Tyler Gillam från DigitalOcean presenterar en router som automatiskt väljer vilken AI-modell som ska använda för varje uppgift, istället för att alltid köra samma modell.
I en demo bygger två terminaler samma app — den ena använder en dyr premiummodell för allt, den andra använder routern. Båda tar ungefär lika lång tid, men routern kostar 8 cent mot routerns 25 cent. Routern baserar sitt val på vad du faktiskt behöver: uppgiftstyp, kostnad, hastighet, systemkonfiguration och vad användaren vill ha. Det finns inget enkelt svar på vilken modell som är bäst — det beror på sammanhanget.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
SOTA Generative Media Panel — Dumitru Erhan, Shane Gu & Nicole Brichtova, Google DeepMind
AI Engineer 30 aug.
Tell the Robot What You Want — Sandhya Subramani, AWS
AI Engineer 29 aug.
The Signal Layer: What to Build When Anything Can Be Built — Lena Hall, Akamai
AI Engineer 29 aug.
Tribal Dungeons of Global Shipping: AI Agents at Global Scale — Dmitry Buykin, Maersk
AI Engineer 29 aug.