Gå till huvudinnehållet

Prata med lokala AI-modeller

Varför lokala AI-modeller?​

Lokal användning av AI-modeller ger viktiga fördelar:

  • Inherently säkert - Dina data stannar på din egen dator och skickas aldrig till externa servrar
  • Inga extra kostnader - Lokala modeller har inga API-kostnader per användning
  • Integritet garanterad - Perfekt för känsliga dokument och information

Varför Ollama?​

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket innebär att det inte finns några begränsningar vad gäller antal användare - inget delat serverkrav.

Installera Ollama​

  1. Gå till Ollama-nedladdningssidan
  2. Ladda ner versionen för ditt operativsystem (Windows, macOS eller Linux)
  3. Installera Ollama genom installationsprogrammet
  4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell​

Efter att ha installerat Ollama måste du i minst en språkmodell nedladdad:

  1. Öppna Ollama-gränssnittet (via systemfältets ikon eller terminalen)
  2. Ladda ner en språkmodell efter eget val

Rekommenderad modell​

Välj gärna en modell som har verkytygs- och vision-förmågor:

  • Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, som att söka på internet och generera bilder
  • Vision capabilities - Modellen kan analysera och beskriva bilder
Rekommenderad modell

qwen3-vl:4b erbjuder en bra balans mellan snabbhet och verktygs-/visionsmöjligheter. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b

Modellval baserat på hårdvara​

Modellens prestanda beror starkt på datorns hårdvara:

HårdvaraRekommendation
Begränsad (8GB RAM, inget GPU)Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)Större modeller möjligt (13B+)
Snabbhet vs. kvalitet

En mindre modell presterar generellt bättre när det gäller hastighet, men kan ge mindre exakta svar. Prova för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen​

När Ollama körs med en installerad modell, upptäcker skrivbordsapplikationen den automatiskt. Du kan sedan i chatten välja den lokala modellen som alternativ till molnmodellerna.

På startskärmen kan du välja en lokal modell under inmatningsfältet innan du skickar det första meddelandet. Den valda modellen används från det första meddelandet och kan ändras senare.

Tillgängliga modeller med tool/vision-stöd​

Se hela listan på ollama.com/library. Filtrera på modeller med:

  • Tools-tagg för verktygsförmågor
  • Vision-tagg för bildigenkänning

Populära alternativ:

  • qwen3-vl:4b - Kompakt, snabb, tool + vision
  • llama3.2-vision - Vision-förmågor
  • mistral - Snabba allmänna uppgifter
WhatsApp