Lessons from Studying Every Memory System — Shlok Khemani, Independent
Shlok Khemani analyserade hur olika AI-system bygger minne av sina användare.
Han började när ChatGPT felaktigt sa att han rest till Turkiet — något han aldrig gjorde, utan hade bara diskuterat det som alternativ till Thailand. Problemet var inte felet i sig utan att systemet inte undrade över motsägelsen eller kollade hans e-postbevis. ChatGPT använder en "löpande profil" som uppdateras i bakgrunden med omkring 4 000 tokens av tätpackad information som användare inte kan se utan att hacka sig in. Claude började motsatt, utan profil men med två sökverktyg i gamla samtal, och lade senare till ett tredje. Khemani menar att minnessystem i grunden handlar om beräkningskostnad: en stor profil är dyr att underhålla och dyr varje gång den läses in i samtalet, så olika system löser samma budget-problem på olika sätt.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
SOTA Generative Media Panel — Dumitru Erhan, Shane Gu & Nicole Brichtova, Google DeepMind
AI Engineer 30 aug.
Tell the Robot What You Want — Sandhya Subramani, AWS
AI Engineer 29 aug.
The Signal Layer: What to Build When Anything Can Be Built — Lena Hall, Akamai
AI Engineer 29 aug.
Tribal Dungeons of Global Shipping: AI Agents at Global Scale — Dmitry Buykin, Maersk
AI Engineer 29 aug.