Inside 847 Production Clinical AI Notes — Sebastian Fox, Composo
Sebastian Fox från Composo studerade kliniska anteckningar från AI-verktyg som skriver patientnoteringar automatiskt (så kallade ambient scribes).
Han hittade att ungefär en av tjugo anteckningar innehöll fel allvarliga nog att skada patienten, nästan en av fem hade viktiga utelämnade uppgifter, och mer än en av tio innehöll påhittad information. Även när han byggde en avancerad checker-modell för att fånga dessa fel gick en femtedel av problemanteckningarna ändå igenom. Det största problemet är att veta vilka skillnader mellan inspelning och anteckning som faktiskt spelar roll medicinskt — en utelämnad dag kan vara ointressant, men att missa symptom som käksmärta tillsammans med ny huvudvärk över 50 år kan vara en allvarlig diagnos som hotar synen.
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör AI Engineer.
Mer från AI Engineer
SOTA Generative Media Panel — Dumitru Erhan, Shane Gu & Nicole Brichtova, Google DeepMind
AI Engineer 30 aug.
Tell the Robot What You Want — Sandhya Subramani, AWS
AI Engineer 29 aug.
The Signal Layer: What to Build When Anything Can Be Built — Lena Hall, Akamai
AI Engineer 29 aug.
Tribal Dungeons of Global Shipping: AI Agents at Global Scale — Dmitry Buykin, Maersk
AI Engineer 29 aug.