v0.32.4-rc0: model: add Laguna MLX support (#17237)
Bild från github.com
Ollama har uppdaterat sitt MLX-stöd (en teknik för att köra AI-modeller effektivt) för att fungera med Laguna-modellerna XS 2, XS 2.1 och S 2.1.
Uppdateringen innehåller optimeringar för hur modellerna laddar och kör, samt förbättringar för hur stora och komplexa delar av modellen hanteras snabbare.
Läs hela hos Ollama →
Sammanfattningen är skriven av Vibekollen utifrån källans egen publicering. Innehållet tillhör Ollama.