Chat med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokalt arbejde med AI-modeller giver vigtige fordele:

• Iværksat sikkert - Dine data forbliver på din egen computer og bliver aldrig sendt til eksterne servere
• Ingen ekstra omkostninger - Lokale modeller har ingen API-omkostninger pr. brug
• Fortrolighed sikret - Ideelt til følsomme dokumenter og oplysninger

Hvorfor Ollama?

Ollama er et værktøj, der gør det nemt at køre AI-modeller lokalt. Det installeres på hver computer separat, hvilket betyder, at der ikke er begrænsninger på antallet af brugere - ingen delt server nødvendig.

Installering af Ollama

1. Gå til Ollama download-side
2. Download versionen til dit operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved at følge installationsprogrammet
4. Efter installationen kører Ollama automatisk i baggrunden

Installere et sprogmodel

Efter installation af Ollama skal du mindst downloade ét sprogmodel:

1. Åbn Ollama-udviklingsgrænsefladen (via systembakkeikonet eller terminalen)
2. Download et sprogmodel efter eget valg

Anbefalet model

Vælg helst en model, der har tool og vision kapaciteter:

• Tool capabilities - Modellen kan bruge alle værktøjer, der er tilgængelige i applikationen, såsom internet-søgning og billedgenerering
• Vision capabilities - Modellen kan analysere og beskrive billeder

Anbefalet model

qwen3-vl:4b tilbyder en god balance mellem hastighed og tool/vision-muligheder. Installer denne model via terminalen:

ollama pull qwen3-vl:4b

Modelvalg ud fra hardware

Modellens ydeevne afhænger i høj grad af din computers hardware:

Hardware	Anbefaling
Begrænset (8GB RAM, ingen GPU)	Vælg mindre modeller (1-4B parametre)
Middel (16GB RAM, basis GPU)	Modeller op til 7B parametre
Kraftfuld (32GB+ RAM, moderne GPU)	Større modeller muligt (13B+)

Hastighed vs. kvalitet

En mindre model performer generelt bedre med hensyn til hastighed, men kan give mindre nøjagtige svar. Eksperimentér for at finde den bedste balance for din situation.

Konfiguration i skrivebordsapplikationen

Når Ollama kører med en installeret model, opdager skrivebordsapplikationen dette automatisk. Du kan derefter i chatten vælge den lokale model som alternativ til cloud-modellerne.

Tilgængelige modeller med tool/vision-support

Se hele listen på ollama.com/library. Filtrer på modeller med:

• Tools-mærket for tool capabilities
• Vision-mærket for billedgenkendelse

Populære muligheder:

• qwen3-vl:4b - Kompakt, hurtigt, tool + vision
• llama3.2-vision - Vision capabilities
• mistral - Hurtige generelle opgaver