Citat:
Ursprungligen postat av
Tidsmaskinisten
Har kört Jan i några månader nu på min Mac och den fungerar utmärkt. Lättanvänt och bra.
Men jag är nyfiken på denna Ollama ni pratar om, den verkar ju ha fler funktioner, så vad konkret använder ni den till? Auto-svara åt er på mejl från personer ni inte vill ha att göra med?
Ollama är inget annat än en platform för att köra modeller (och lite som ett paket system för modeller som gör det enkelt att ladda ner modeller och olika varianter av detta) och tillhanda håller ett (OpenAI kompatibelt) API som gör det lätt att integrera med andra applikationer, det löser inga uppgifter i sig.
Det är i sig inte tänkt som en slutprodukt utan ska ses som en tjänst som tillhanda håller en service.
Vill du ha något som autosvara mail osv får du skaffa det på annat håll, om någon överhuvudtaget skulle våga använda nuvarande teknik för något sådant.
Kan också tillägga att personligen har jag gått över mer och mer till Mozillas llamafile, medan de inte har infrastrukturen för att ladda ner modeller så är det fruktansvärt smidigt då det kan köras på i stort sett allt och inte ens en kraftfull GPU behövs för att få skaplig prestanda.
