Udgivet den: 6. april 2025 / Opdateret den: 6. april 2025 – Forfatter: Konrad Wolfenstein
Meta udgiver nye AI-modelserier Llama 4 Scout, Maverick og Behemoth – Billede: Xpert.Digital
Llama 4: Den nye generation af åbne AI-systemer fra Meta
Llama 4 afsløret: Metas nøgle til den næste tidsalder inden for kunstig intelligens
Den 5. april 2025 afslørede Meta den seneste generation af sine AI-modeller, Llama 4. Disse nye modeller repræsenterer et betydeligt fremskridt i udviklingen af åbne AI-systemer og har en række banebrydende funktioner, der forbedrer deres ydeevne og effektivitet betydeligt. Llama 4-serien omfatter flere modeller, hvoraf to allerede er offentligt tilgængelige, mens den mest kraftfulde model stadig er i træningsfasen.
Relateret til dette:
Llama 4-modelfamilien
Meta har udviklet tre forskellige modeller i Llama 4-serien, der hver især er optimeret til forskellige anvendelsesscenarier:
Llama 4 Spejder
Llama 4 Scout er en kompakt model med imponerende tekniske specifikationer:
- 17 milliarder aktive parametre med 16 eksperter (i alt 109 milliarder parametre)
- Kan betjenes på en enkelt NVIDIA H100 GPU med Int4-kvantisering
- Den har et bemærkelsesværdigt stort kontekstvindue på 10 millioner tokens, hvilket gør den til en af de første åbne modeller med denne kapacitet
Ifølge Meta overgår Scout andre modeller i sin klasse, såsom Gemini 3, Gemini 2.0 Flash-Lite og Mistral 3.1. Den er særligt velegnet til opgaver som at opsummere lange dokumenter, personliggøre indhold baseret på brugerdata og drage komplekse konklusioner ud fra store mængder viden.
Llama 4 Maverick
Llama 4 Maverick er den kraftigste af de to tilgængelige modeller:
- 17 milliarder aktive parametre med 128 eksperter (400 milliarder parametre i alt)
- Den eksperimentelle chatversion nåede ELO 1417 på LMArena
- Ifølge Meta overgår den modeller som GPT-4o og Gemini 2.0 Flash i adskillige benchmarks
Denne model er særligt velegnet til generel assistance og chatapplikationer såsom kreativ skrivning og viser resultater, der kan sammenlignes med DeepSeek v3 i ræsonnement- og kodningsopgaver, men med halvt så mange parametre.
Llama 4 Behemoth
Llama 4 Behemoth er Metas mest kraftfulde model, men den er endnu ikke offentligt tilgængelig:
- 288 milliarder aktive parametre med 16 eksperter (næsten 2 billioner parametre i alt)
- Ifølge Meta overgår den GPT-4.5, Claude Sonnet 3.7 og Gemini 2.0 Pro i adskillige STEM-benchmarks
- Fungerer som "lærermodel" for de mindre Llama 4-modeller
Behemoth er i øjeblikket stadig i træningsfasen og vil blive udgivet på et senere tidspunkt.
Tekniske innovationer
Llama 4-modelserien introducerer adskillige betydelige tekniske innovationer, der forbedrer dens ydeevne og effektivitet:
Arkitektur for blanding af eksperter (MoE)
En af de vigtigste innovationer i Llama 4 er Mixture of Experts (MoE)-arkitekturen, hvor kun en delmængde af modelparametrene aktiveres for hver token:
- Dette reducerer beregningsindsatsen og latenstiden betydeligt, samtidig med at den høje ydeevne opretholdes
- I Llama 4 Maverick behandles hver token af en delt ekspert og en af 128 rutede eksperter
- Denne arkitektur gør det muligt at øge modellens overordnede parametre uden at øge inferensomkostningerne
Native multimodalitet med tidlig fusion
Llama 4 er den første åbne model med native multimodalitet gennem Early Fusion:
- Tekst- og billedtokens er integreret i en samlet modelarkitektur
- Dette muliggør fælles fortræning med store mængder tekst-, billed- og videodata
- I modsætning til Llama 3.2, som brugte separate parametre til tekst og billeder, forstår Llama 4 begge modaliteter native med de samme parametre
Ekstremt langt kontekstvindue
Det ekstremt lange kontekstvindue i Llama 4 Scout er særligt imponerende:
- Med 10 millioner tokens overgår den betydeligt de fleste tilgængelige modeller
- Dette muliggør behandling af meget lange dokumenter, hele kodebaser eller omfattende samtaler
- iRoPE-arkitekturen (interleaved attention layers) gør dette muligt
Nye træningsmetoder
Meta har brugt adskillige innovative metoder til at træne Llama 4:
- MetaP: En teknik til robust finjustering af kritiske modelhyperparametre
- FP8-præcision: Brug af 8-bit flydende kommatal til effektiv træning
- Kodestillation: Brug af Llama 4 Behemoth som lærermodel til mindre modeller
- Fuldt asynkron online læring med forstærkning: En ny infrastruktur til storskala læring
Tilgængelighed og integration
Llama 4-modellerne er tilgængelige via forskellige platforme og tjenester:
Download- og cloud-udbydere
- Scout- og Maverick-modellerne kan downloades direkte fra Meta eller via Hugging Face
- De er også tilgængelige via forskellige cloudplatforme:
- Cloudflare-arbejdere AI
- Azure AI Foundry og Azure Databricks
- Google Clouds Vertex AI
- Flere partnere vil følge i de kommende dage
Integration i metaprodukter
Meta har allerede opdateret sine AI-assistenter til Llama 4 på tværs af forskellige platforme:
- WhatsApp, Messenger og Instagram Direct i 40 forskellige lande
- Meta.AI-webstedet
- De multimodale funktioner er dog i øjeblikket kun tilgængelige for engelsktalende brugere i USA
Relateret til dette:
Licensering og kontroverser
Selvom Meta Llama 4 beskrives som "open source", er der nogle begrænsninger i licensen, der har skabt kontrovers:
Licensbegrænsninger
Llama 4-fællesskabslicensen indeholder flere begrænsninger:
- Virksomheder med mere end 700 millioner månedlige aktive brugere kræver en særlig licens fra Meta
- Brugere og virksomheder fra EU har tilsyneladende ikke tilladelse til at bruge eller distribuere modellerne, formentlig på grund af lovgivningsmæssige krav
- Der er krav til navngivning og tilskrivning af afledte modeller
Debat om "open source"
Der er en debat om, hvorvidt Llama 4 rent faktisk bør kaldes "Open Source":
- Open Source-initiativet besluttede i 2023, at restriktionerne i Llama-licensen fjerner den fra kategorien 'Open Source'
- Kritikere hævder, at det mere er en "kildekode-åben" eller "åben vægt"-model end ægte open source-software
- Licensbegrænsningerne kan være problematiske for små virksomheder uden deres egne juridiske afdelinger
Fremtidsplaner
Meta har allerede givet nogle indblik i sine fremtidsplaner for Llama 4 og videre:
LlamaCon og andre annonceringer
- Meta afholder sin første LlamaCon-konference den 29. april 2025, hvor yderligere detaljer om virksomhedens AI-modeller og produktplaner vil blive annonceret
- Virksomheden planlægger også at udgive en dedikeret applikation til sin meta-chatbot i andet kvartal
Udvidelse af sprogfærdigheder
- Meta arbejder på at forbedre Llama 4's sprogfærdigheder for at muliggøre mere naturlige samtaler
- Målet er at muliggøre mere jævne tovejsdialoger, hvor brugerne kan afbryde AI-modellen
- Chris Cox, Chief Product Officer hos Meta, beskrev den kommende Llama 4 som en "omni-model", der muliggør brug af modersmål i stedet for at oversætte tale til tekst
Agent AI og forbedrede funktioner
- Mark Zuckerberg har annonceret, at Llama 4 vil have "agentiske funktioner", der vil muliggøre nye anvendelsesscenarier
- Meta sigter mod at udvikle AI-modeller, der kan "udføre generaliserede handlinger, kommunikere naturligt med mennesker og løse udfordrende problemer."
- Virksomheden overvejer at tilbyde premium-abonnementer til sin AI-assistent til agentrelaterede formål såsom reservationer eller videoproduktion
Hvorfor Llama 4 er et vendepunkt i AI-landskabet
Udgivelsen af Llama 4 repræsenterer et vigtigt skridt i Metas strategi om at blive førende inden for det meget konkurrenceprægede felt af generativ AI. Med introduktionen af Mixture of Experts-arkitekturen, native multimodalitet og et imponerende langt kontekstvindue demonstrerer Meta, at åbne modeller kan konkurrere med de proprietære modeller fra store teknologivirksomheder.
Trods kontroverserne omkring licenser og spørgsmålet om, hvorvidt Llama 4 virkelig bør kaldes "open source", repræsenterer de tekniske fremskridt en betydelig milepæl. Modellernes evne til at behandle både tekst og billeder åbner nye muligheder for udviklere og virksomheder.
Med Llama 4 Behemoth stadig under udvikling og de annoncerede planer om forbedrede sprog- og agentfunktioner, er det klart, at Meta yderligere vil intensivere sine investeringer i AI. De kommende måneder vil vise, hvordan disse nye modeller vil transformere AI-landskabet, og om de rent faktisk, som Mark Zuckerberg forudsagde, vil hjælpe åbne AI-modeller med at blive den førende kraft inden for kunstig intelligens.
Relateret til dette:
Din globale marketing- og forretningsudviklingspartner
☑️ Vores forretningssprog er engelsk eller tysk
☑️ NYT: Korrespondance på dit modersmål!
Konrad Wolfenstein
Jeg og mit team er glade for at stå til rådighed for dig som din personlige rådgiver.
Du kan kontakte mig ved at udfylde kontaktformularen her eller blot ringe til mig på +49 89 89 674 804 ( München) . Min e-mailadresse er: [email protected]
Jeg glæder mig til vores fælles projekt.
