Hva er åpen kildekode AI?

Åpen kildekode AI (open source AI) refererer til AI-modeller, verktøy og rammeverk som er fritt tilgjengelige for alle – for å laste ned, bruke, modifisere og distribuere. I motsetning til proprietære modeller som ChatGPT og Claude, der du bare kan bruke dem via en tjeneste, kan åpne modeller kjøres på din egen maskinvare, tilpasses dine behov og integreres fritt i dine produkter.

Kort forklart Åpen kildekode AI er AI-modeller du kan laste ned og kjøre selv – på din egen datamaskin eller server. Du har full kontroll over data, tilpasning og bruk, uten å betale per spørring eller sende data til en tredjepart.

Hvorfor åpen kildekode AI er viktig

Åpne modeller demokratiserer tilgangen til AI-teknologi. De gir datakontroll der dataene dine aldri forlater din infrastruktur, kostnadsforutsigbarhet uten per-token-prising etter initial infrastrukturinvestering, tilpasningsmulighet der modellen kan finjusteres for ditt spesifikke brukstilfelle, uavhengighet uten avhengighet av en enkelt leverandørs priser, vilkår eller tilgjengelighet, og transparens der du kan inspisere hvordan modellen er bygget og trent.

For bedrifter med strenge personvernkrav – som norske helseinstitusjoner eller forsvarssektoren – kan åpen kildekode AI være det eneste akseptable alternativet.

De viktigste åpne modellene

Llama (Meta)

Llama-serien fra Meta er den mest innflytelsesrike åpne modellfamilien. Llama 3 er tilgjengelig i størrelser fra 8 til 405 milliarder parametre. De største variantene konkurrerer med proprietære modeller på mange oppgaver. Llama er gratis å bruke for de fleste formål, inkludert kommersiell bruk for selskaper med under 700 millioner brukere.

Mistral

Franske Mistral AI har utmerket seg med effektive, kompakte modeller. Mistral 7B leverer imponerende ytelse for sin størrelse og kan kjøres på forbrukermaskinvare. Mixtral er en Mixture-of-Experts-modell som kombinerer flere spesialiserte moduler. Mistral-modellene er spesielt populære i Europa og har god flerspråklig ytelse.

Qwen (Alibaba)

Qwen fra Alibaba er en familie av åpne modeller med sterkt flerspråklig fokus. Qwen 2.5 tilbyr modeller fra 0,5 til 72 milliarder parametre med konkurransedyktig ytelse, spesielt for kinesisk og andre asiatiske språk, men også for europeiske språk.

Stable Diffusion

For bildegenerering er Stable Diffusion den ledende åpne modellen. Den kan kjøres lokalt, finjusteres og tilpasses fritt. Et enormt fellesskap bidrar med tilpassede modeller og utvidelser.

Whisper (OpenAI)

Whisper er OpenAIs åpne tale-til-tekst-modell. Den støtter over 90 språk inkludert norsk og kan kjøres lokalt for transkribering uten å sende lyd til skybaserte tjenester.

Hugging Face – AI-ens GitHub

Hugging Face er den sentrale plattformen for åpen kildekode AI. Det er et kombinert modellbibliotek med over 500 000 forhåndstrente modeller, datasettbibliotek med tusenvis av datasett for trening og evaluering, verktøy og biblioteker med Transformers for modellinferens og trening, og fellesskap med diskusjoner, delinger og samarbeid.

For de fleste utviklere er Hugging Face startpunktet for å finne, teste og bruke åpne AI-modeller.

Kjøre åpne modeller lokalt

Maskinvarekrav

For å kjøre språkmodeller lokalt trenger du en GPU med tilstrekkelig minne. Små modeller med 7–8 milliarder parametre krever 8–16 GB VRAM og kan kjøres på en god gaming-GPU. Mellomstore modeller med 13–34 milliarder parametre krever 24–48 GB VRAM og trenger profesjonelle GPUer. Store modeller med 70+ milliarder parametre krever 80+ GB VRAM og trenger enterprise-maskinvare eller flere GPUer.

Med kvantisering – teknikken som reduserer modellens presisjon for å spare minne – kan modellene kjøres med vesentlig mindre maskinvare enn tallene over.

Verktøy for lokal kjøring

Ollama er det enkleste verktøyet for å kjøre åpne modeller lokalt. Med én kommando kan du laste ned og kjøre modeller som Llama 3, Mistral og Qwen. Ollama tilbyr et kommandolinjegrensesnitt og et API som kan integreres i applikasjoner.

LM Studio er en desktop-applikasjon med grafisk grensesnitt for å laste ned, konfigurere og chatte med åpne modeller. Ideelt for ikke-tekniske brukere som vil utforske lokale modeller.

vLLM er en produksjonsoptimalisert inferensmotor for høy gjennomstrømning, populær for bedrifter som vil kjøre åpne modeller i skala.

Åpen vs. proprietær – en sammenligning

Åpne modeller gir full datakontroll der data aldri forlater din infrastruktur, mens proprietære modeller sender data til leverandørens servere. Åpne modeller har ingen per-bruk-kostnad etter maskinvareinvestering, mens proprietære modeller prises per token. Åpne modeller kan finjusteres og tilpasses helt fritt, mens proprietære tilbyr begrenset tilpasning. Åpne modeller krever at du administrerer infrastruktur, mens proprietære modeller håndterer alt for deg. I ren ytelse har de beste proprietære modellene fortsatt en fordel på de mest krevende oppgavene, men gapet blir stadig mindre.

«Åpen» er ikke alltid helt åpen

Det er viktig å forstå at «åpen kildekode AI» dekker et spekter. Noen modeller er fullt åpne med modellvekter, treningskode og treningsdata tilgjengelig. Andre har åpne modellvekter med restriksjoner på kommersiell bruk eller brukerstørrelse. Noen deler bare modellvekter uten treningsdata eller kode.

Llama har for eksempel en «community license» som er fri for de fleste, men begrenser bruk for svært store selskaper. Mistral tilbyr modeller under Apache 2.0 – en av de mest permissive lisensene. Licesbetingelsene varierer og bør sjekkes for hvert prosjekt.

Åpen kildekode AI for norske brukstilfeller

For norske bedrifter og institusjoner er åpen kildekode AI spesielt relevant for helse og offentlig sektor der strenge personvernkrav kan gjøre skybaserte AI-tjenester problematiske, forsvar og sikkerhet der suverenitet over AI-infrastruktur er kritisk, norsk språkbehandling der åpne modeller kan finjusteres med norske data, og kostnadsoptimalisering der bedrifter med høyt AI-volum kan spare betydelig ved å kjøre lokalt.

Norske forskningsmiljøer som NorwAI og NORA arbeider med å utvikle og tilpasse åpne modeller for norske behov, inkludert norskspråklige varianter.