Chatting med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokal arbeid med AI-modeller gir viktige fordeler:

• Innebygd sikkerhet - Datan din blir på din egen datamaskin og sendes aldri til eksterne servere
• Ingen ekstra kostnader - Lokale modeller har ingen API-kostnader per bruk
• Personvern garantert - Ideelt for sensitive dokumenter og informasjon

Hvorfor Ollama?

Ollama er et verktøy som gjør det enkelt å kjøre AI-modeller lokalt. Det installeres separat på hver datamaskin, slik at det ikke er noen begrensninger på antall brukere - ingen delt server nødvendig.

Installere Ollama

1. Gå til Ollama nedlastingssiden
2. Last ned versjonen for ditt operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved å følge installasjonsprogrammet
4. Etter installasjon kjører Ollama automatisk i bakgrunnen

Installere et språkmodell

Etter å ha installert Ollama må du laste ned minst én språkmodell:

1. Åpne Ollama-grensesnittet (via systemfunksjonsikonet eller terminalen)
2. Last ned en språkmodell etter ønske

Anbefalt modell

Velg en modell som har verktøy og visjon-kapasiteter:

• Tool capabilities - Modellen kan bruke alle verktøyene som er tilgjengelige i applikasjonen, slik som nettsøk og bildegenerering
• Vision capabilities - Modellen kan analysere og beskrive bilder

Anbefalt modell

qwen3-vl:4b gir en god balanse mellom hastighet og verktøy/visjon-muligheter. Installer denne modellen via terminalen:

ollama pull qwen3-vl:4b

Velge modell basert på maskinvare

Ytelsen til en modell avhenger sterkt av maskinvaren i datamaskinen din:

Maskinvare	Anbefaling
Begrenset (8GB RAM, ingen GPU)	Velg mindre modeller (1-4B parametere)
Medium (16GB RAM, grunnleggende GPU)	Modeller opp til 7B parametere
Kraftig (32GB+ RAM, moderne GPU)	Større modeller mulig (13B+)

Hastighet vs. kvalitet

En mindre modell presterer generelt bedre på hastighet, men kan gi mindre nøyaktige svar. Eksperimenter for å finne den beste balansen for din situasjon.

Konfigurasjon i skrivebordsapplikasjonen

Når Ollama kjører med en installert modell, oppdager skrivebordsapplikasjonen dette automatisk. Du kan deretter i chatten velge den lokale modellen som alternativ til skymodellene.

Tilgjengelige modeller med verktøy/visjon-støtte

Se hele listen på ollama.com/library. Filtrer på modeller med:

• Tools-tag for verktøy-kapasiteter
• Vision-tag for bildegjenkjenning

Populære alternativer:

• qwen3-vl:4b - Kompakt, rask, verktøy + visjon
• llama3.2-vision - Visjonskapasiteter
• mistral - Rask generelle oppgaver