Prata med lokala AI-modeller

Varför lokala AI-modeller?

Ollama kör modellen lokalt. Inloggning och lagring av chattar använder molnet och kräver internet. Det sker inget automatiskt byte till en molnmodell.

Det gäller normalt läge. I offlineläget stannar allt på den här datorn: appen fungerar då även utan internet och nya chattar sparas bara lokalt och krypterat.

Varför Ollama?

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket innebär att det inte finns några begränsningar vad gäller antal användare - inget delat serverkrav.

Installera Ollama

1. Gå till Ollama-nedladdningssidan
2. Ladda ner versionen för ditt operativsystem (Windows eller macOS)
3. Installera Ollama genom installationsprogrammet
4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell

Efter att ha installerat Ollama måste du i minst en språkmodell nedladdad:

1. Öppna Ollama-gränssnittet (via systemfältets ikon eller terminalen)
2. Ladda ner en språkmodell efter eget val

Rekommenderad modell

Välj gärna en modell som har verkytygs- och vision-förmågor:

• Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, som att söka på internet och generera bilder
• Vision capabilities - Modellen kan analysera och beskriva bilder

Rekommenderad modell

qwen3-vl:4b-instruct erbjuder en bra balans mellan snabbhet och verktygs-/visionsmöjligheter. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b-instruct

Välj varianten -instruct: den svarar direkt. Den vanliga qwen3-vl:4b tänker länge före varje steg och är många gånger långsammare på en bärbar dator. För små lokala modeller använder appen en kort instruktion och bara de verktyg som passar din fråga. Om samma steg misslyckas om och om igen slutar AI:n och berättar vad som fungerade och vad som inte gjorde det.

Modellval baserat på hårdvara

Modellens prestanda beror starkt på datorns hårdvara:

Hårdvara	Rekommendation
Begränsad (8GB RAM, inget GPU)	Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)	Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)	Större modeller möjligt (13B+)

Snabbhet vs. kvalitet

En mindre modell presterar generellt bättre när det gäller hastighet, men kan ge mindre exakta svar. Prova för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen

När Ollama körs med en installerad modell, upptäcker skrivbordsapplikationen den automatiskt. Du kan sedan i chatten välja den lokala modellen som alternativ till molnmodellerna.

På startskärmen kan du välja en lokal modell under inmatningsfältet innan du skickar det första meddelandet. Den valda modellen används från det första meddelandet och kan ändras senare.

Tillgängliga modeller med tool/vision-stöd

Se hela listan på ollama.com/library. Filtrera på modeller med:

• Tools-tagg för verktygsförmågor
• Vision-tagg för bildigenkänning

Populära alternativ:

• qwen3-vl:4b-instruct - Kompakt, snabb, tool + vision
• llama3.2-vision - Vision-förmågor
• mistral - Snabba allmänna uppgifter

Läsa dokument och skanningar lokalt

Med en lokal modell läser skrivbordsappen dokument på din egen dator. Ingenting laddas upp.

• Arbetsmapp: i en godkänd mapp läser AI:n Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) och RTF. Gamla .doc- och .ppt-filer läses bara om LibreOffice är installerat.
• Skanningar och foton: skannade PDF-sidor, bilder (PNG, JPG, WebP, TIFF) och bilder i Word- och PowerPoint-filer läses med textigenkänning (OCR). OCR följer med appen och känner igen nederländska, engelska, tyska och franska. I chatten ser du vilken sida som läses; en lång skanning kan ta några minuter. Högst 100 sidor per dokument läses med OCR.
• Osäker igenkänning: när textigenkänningen är osäker säger AI:n det. Kontrollera då namn, siffror och belopp i originalet. Handskrift, tabeller och scheman känns inte alltid igen korrekt.
• Bildmodell: om den valda modellen har vision (som qwen3-vl:4b-instruct) tittar modellen själv på bilder där textigenkänningen läser lite eller osäkert. Utan GPU tar det längre tid.
• iPhone-foton (HEIC): spara dem först som JPEG eller PNG.

Även med en molnmodell läser appen dokumenten i arbetsmappen på din dator, men den lästa texten skickas då till den modellen som en del av samtalet.

Arbeta utan internet, även med bilagor i chatten: se Offlineläge.