LFM2.5-Encoders for Fast Long-Context Inference on CPU
Bild från huggingface.co
Liquid AI har lanserat LFM2.5-Encoders, små språkmodeller (230 miljoner och 350 miljoner parametrar) som är optimerade för att köra snabbt på vanliga datorprocessorer.
De klarar 8 192 tokens på en gång och är ungefär 3,7 gånger snabbare än konkurrerande ModernBERT på långa texter — en 8 192-tokens text tar cirka 28 sekunder istället för 90 sekunder. Modellerna är tränade för att förstå text bidirektionellt och kan användas för klassificering, routing, detektering av personlig information och andra uppgifter som körs dygnet runt. Du kan ladda hem dem fritt och finjustera dem för dina egna behov.
At 8,192 tokens, ModernBERT-base takes over a minute and a half per forward pass versus about 28s for LFM2.5-Encoder-230M.
Läs hela hos Hugging Face →
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör Hugging Face.