Safety and alignment in an era of long-horizon models
OpenAI beskriver nya säkerhetsfrågor som uppstår när AI-modeller kan planera och agera långsiktigt över tid, inte bara svara på enskilda frågor.
De delar erfarenheter från att lansera sådana modeller och vilka feltyper de hittat, samt vilka skyddsåtgärder som har hjälpt.
Läs hela hos OpenAI →
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör OpenAI.