Nell’estate 2026 due modelli open-weight hanno cambiato i piani di molte aziende europee che vogliono portare l’intelligenza artificiale generativa dentro i propri confini digitali: Llama 4 di Meta e Qwen3.8-27B di Alibaba. Entrambi si scaricano, si eseguono su hardware proprio e non richiedono di spedire dati sensibili verso un’API americana o cinese. Ma le somiglianze finiscono qui. Llama 4 Scout gira su una singola GPU H100 da 80GB e legge fino a 10 milioni di token in una sola sessione. Qwen3.8-27B sta comodo su una scheda consumer da 24GB e porta con sé una licenza Apache 2.0 senza clausole nascoste. Per un’azienda italiana che deve rispettare il GDPR e prepararsi all’AI Act, la scelta tra i due non è affatto scontata.
Questo confronto mette a terra le specifiche tecniche, i benchmark pubblicati, i requisiti hardware reali e i costi di gestione dei due modelli, con un occhio sempre rivolto a chi deve fare self-hosting in Europa per motivi di sovranità dei dati. Dove i dati pubblici non bastano o sono in conflitto tra loro, lo segnaliamo esplicitamente invece di inventare un numero comodo.
Perché confrontare Llama 4 e Qwen3.8-27B nel 2026
La domanda di modelli di intelligenza artificiale autoospitabili è cresciuta insieme alla pressione normativa europea. Tra NIS2, GDPR e il Regolamento UE 2024/1689 sull’intelligenza artificiale, molte aziende con sede in Italia e nel resto dell’Unione preferiscono tenere i dati dei clienti dentro un data center controllato piuttosto che affidarli a un’API cloud extraeuropea. Llama 4 e Qwen3.8-27B rispondono a questa esigenza in modo diverso: il primo punta su contesto enorme e un ecosistema americano maturo, il secondo su efficienza hardware e una licenza realmente permissiva.
Non si tratta di un confronto tra chatbot da consumatore. Sia Llama 4 sia Qwen3.8-27B nascono per essere integrati in pipeline aziendali: assistenti per l’analisi documentale, motori di ricerca interni, strumenti di coding assistito, sistemi di classificazione multimodale. Capire quale dei due si adatta meglio al proprio caso d’uso richiede di guardare oltre gli slogan di lancio e mettere a confronto architettura, contesto, licenza, benchmark e, soprattutto, il costo reale dell’infrastruttura necessaria per farli girare.
Va detto subito con chiarezza cosa questo articolo non è: non è un test di laboratorio condotto internamente da shattered.io, ma una sintesi ragionata delle specifiche ufficiali e dei benchmark pubblicati da terze parti fino a inizio settembre 2026. Ogni volta che le fonti si contraddicono, lo riportiamo, invece di scegliere il numero più comodo per la narrazione. È un approccio più lento da scrivere ma molto più utile per chi deve firmare un ordine d’acquisto di GPU basandosi su questi dati.
Llama 4: le tre varianti di Meta
Meta ha strutturato Llama 4 come una famiglia di tre modelli con architettura Mixture-of-Experts (MoE), un approccio che attiva solo una parte dei parametri totali per ogni token elaborato, riducendo il carico computazionale rispetto a un modello denso della stessa dimensione nominale. Le tre varianti coprono segmenti di mercato molto diversi tra loro.
Scout e Maverick: le varianti disponibili
Llama 4 Scout usa 16 esperti, attiva 17 miliardi di parametri per token e ne conta 109 miliardi in totale. È multimodale (testo e immagini) e i pesi sono scaricabili pubblicamente. Meta descrive la finestra di contesto della versione instruct di Scout come la più ampia mai rilasciata dall’azienda: 10 milioni di token, un salto enorme rispetto ai 256.000 token della fase di pre-training. Llama 4 Maverick sale a 128 esperti, mantiene gli stessi 17 miliardi di parametri attivi ma arriva a circa 400 miliardi di parametri totali, con un contesto instruct di 1 milione di token. Anche Maverick è multimodale e i pesi sono pubblici.
Behemoth: la variante non ancora rilasciata
Behemoth resta il modello più ambizioso della famiglia: 16 esperti, 288 miliardi di parametri attivi e una dimensione totale che si avvicina ai 2.000 miliardi di parametri secondo le stime circolate insieme all’annuncio. Al momento della pubblicazione di questo articolo, inizio settembre 2026, Behemoth non è ancora disponibile al pubblico e i suoi pesi non sono stati distribuiti. Per chi valuta il self-hosting oggi, l’unica opzione concreta della famiglia Llama 4 resta quindi Scout, l’unica variante che gira in modo realistico su una singola GPU enterprise, motivo per cui la useremo come riferimento principale nel confronto diretto con Qwen3.8-27B.
Qwen3.8-27B: il modello denso di Alibaba
Qwen3.8-27B segue una filosofia opposta a quella di Meta. Invece di un’architettura MoE distribuita su decine o centinaia di esperti, Alibaba ha scelto un modello denso da 27 miliardi di parametri, che diventano circa 28 miliardi contando l’encoder visivo integrato. Non essendoci esperti da selezionare, tutti i parametri partecipano a ogni inferenza, una scelta che semplifica il deployment ma richiede una GPU capace di caricare l’intero modello in memoria.
Il punto di forza dichiarato di Qwen3.8-27B è la multimodalità estesa: elabora testo, immagini e video all’interno di un singolo modello, senza bisogno di pipeline separate per ogni tipo di contenuto. Il contesto nativo è di 262.144 token, estendibile fino a circa un milione di token tramite tecniche di scaling come YaRN, anche se questa estensione resta per ora una funzione più adatta a configurazioni cloud che a un’installazione locale su hardware limitato. La licenza è Apache 2.0 piena, senza soglie di utenti attivi mensili o clausole di richiesta esplicita a terzi.
Specifiche tecniche a confronto
La tabella seguente mette fianco a fianco Llama 4 Scout, la variante più adatta al self-hosting nella famiglia Meta, e Qwen3.8-27B. I dati su Maverick sono citati nel testo dove rilevanti ma non entrano nella tabella principale, perché la sua dimensione (circa 400 miliardi di parametri totali) lo colloca in una fascia hardware diversa, più vicina al cloud multi-GPU che al deployment aziendale tipico.
| Caratteristica | Llama 4 Scout | Qwen3.8-27B |
|---|---|---|
| Sviluppatore | Meta | Alibaba |
| Architettura | Mixture-of-Experts, 16 esperti | Densa (nessun esperto) |
| Parametri attivi per token | 17 miliardi | 27 miliardi (tutti attivi) |
| Parametri totali | 109 miliardi | 27-28 miliardi |
| Contesto in pre-training | 256.000 token | 262.144 token |
| Contesto massimo (instruct/esteso) | 10.000.000 token | ~1.000.000 token (YaRN, cloud) |
| Multimodalità | Testo e immagini | Testo, immagini e video |
| Licenza | Llama 4 Community License | Apache 2.0 |
| Restrizioni d’uso commerciale | Richiesta licenza Meta oltre 700 milioni di utenti attivi/mese | Nessuna restrizione dichiarata |
| VRAM minima self-hosting (quantizzato) | ~55GB (Q4, 1 GPU H100 80GB) | 19-24GB (Q4_K_M, GPU consumer) |
| Prezzo API hosted (per milione token, in/out) | 0,18$ / 0,59$ (Together AI) | 0,45$ / 3,20$ (router terze parti) |
| Pesi disponibili pubblicamente | Sì | Sì |
Due numeri saltano subito all’occhio: la finestra di contesto di Scout è dieci volte più ampia di quella estesa di Qwen3.8-27B, ma per caricarla in memoria serve una GPU professionale che costa quasi dieci volte tanto rispetto a quella richiesta da Qwen. Nessuno dei due modelli è oggettivamente “migliore”: rispondono a esigenze hardware e di budget molto diverse.
Benchmark di capacità a confronto
Sui benchmark standard la situazione è meno lineare di quanto i comunicati stampa lascino intendere. Per Llama 4 Scout, fonti come il blog ufficiale di Hugging Face e diversi cataloghi di modelli open source riportano in modo coerente un punteggio MMLU del 79,6% e un MMLU-Pro del 74,3%. Su GPQA Diamond, invece, le fonti divergono: un dato fornito dal vendor indica 57,2%, mentre test indipendenti riportano cifre comprese tra 58,2% e 60,0%. Sul benchmark di coding SWE-bench la forbice è ancora più ampia, con valori che vanno dal 22,4% (SWE-bench Verified secondo un catalogo aggregatore) fino al 68% citato da un singolo test indipendente che usa una metodologia diversa. In assenza di un dato univoco, conviene trattare il 22,4% come riferimento più prudente e ricordare che la metodologia di valutazione cambia molto il risultato finale.
Per Llama 4 Maverick, lo stesso blog ufficiale di Hugging Face riporta un MMLU-Pro dell’80,5% e un GPQA Diamond del 69,8%, entrambi superiori a quelli di Scout, coerentemente con la dimensione maggiore del modello.
Su Qwen3.8-27B i dati pubblici coprono soprattutto i task di coding: un punteggio SWE-bench Pro di 61,7, un DeepSWE 1.1 di 42,2 e un LiveCodeBench v6 di 90,3, numeri che una recensione indipendente colloca alla pari o sopra Claude Opus 4.6 Max su compiti di programmazione. Su GPQA Diamond una tabella di benchmark di terze parti riporta un sorprendente 86,0% nella configurazione quantizzata migliore, un dato che va preso con cautela perché non risulta confermato da altre fonti indipendenti. Su MMLU e MMLU-Pro, invece, non risulta alcun punteggio ufficiale pubblicato per Qwen3.8-27B nelle fonti disponibili a inizio settembre 2026: chi cerca un confronto diretto su questo specifico benchmark non lo troverà, almeno per ora. La scheda modello su Hugging Face conferma architettura e licenza, ma non riporta una suite MMLU completa.
Benchmark a confronto secondo fonti diverse
Uno dei problemi più concreti di chi valuta questi modelli è che le fonti indipendenti non concordano quasi mai sulla stessa cifra, soprattutto sui benchmark di coding. Invece di scegliere un solo numero e presentarlo come definitivo, la tabella seguente mostra i valori così come sono stati pubblicati da fonti diverse, per dare un’idea reale della variabilità che si incontra quando si confrontano modelli open-weight con metodologie di test non standardizzate tra loro.
| Benchmark | Llama 4 Scout | Qwen3.8-27B | Fonte |
|---|---|---|---|
| MMLU | 79,6% | Non pubblicato | llm-stats.com |
| MMLU-Pro | 74,3% | Non pubblicato | Hugging Face / opensourceaimodels.net |
| GPQA Diamond (dato vendor) | 57,2% | – | Scheda modello Meta |
| GPQA Diamond (test indipendente) | 58,2% – 60,0% | 86,0% (config. quantizzata) | Test di terze parti |
| SWE-bench Verified (valore più basso) | 22,4% | – | Catalogo aggregatore |
| SWE-bench (valore più alto) | 68% | – | Test indipendente singolo |
| SWE-bench Pro | Non riportato in questo formato | 61,7 | Recensione indipendente |
| LiveCodeBench v6 | Non riportato | 90,3 | Recensione indipendente |
La lezione pratica di questa tabella non è “quale modello vince”, ma quanto sia rischioso fidarsi di un singolo benchmark pubblicato su un solo sito prima di un acquisto o di un progetto pilota. Per Llama 4 Scout lo scarto tra la cifra più bassa e quella più alta su SWE-bench è di quasi 46 punti percentuali, un intervallo che da solo può ribaltare una decisione di procurement. La raccomandazione più solida resta eseguire un benchmark interno sui propri dati e sui propri task reali prima di scegliere, invece di affidarsi esclusivamente ai numeri pubblicati da terzi.
L’evoluzione delle due famiglie di modelli
Per capire dove si trovano oggi Llama 4 e Qwen3.8-27B aiuta guardare da dove arrivano. La famiglia Llama di Meta è passata dalla generazione 3.3, ancora densa e senza architettura a esperti, al salto architetturale rappresentato da Llama 4, il primo della serie a adottare il Mixture-of-Experts su larga scala. Questo cambio di architettura è il motivo per cui Llama 4 Scout riesce ad attivare solo 17 miliardi di parametri per token pur avendone 109 miliardi complessivi: la MoE permette di aumentare la capacità del modello senza far crescire proporzionalmente il costo computazionale per ogni singola richiesta. Chi vuole approfondire come Llama 4 si comporta contro un altro modello europeo può leggere il nostro confronto tra Llama 4 e Mistral Large 3.
Sul fronte Qwen, Alibaba ha iterato rapidamente all’interno della propria numerazione 3.x. La generazione precedente, Qwen3.6-27B, aveva già mostrato risultati solidi sul coding, con un punteggio SWE-bench Verified riportato a 77,2 in alcune guide indipendenti, anche se non direttamente confrontabile con la metrica SWE-bench Pro usata per Qwen3.8-27B. Il passaggio da Qwen3.6 a Qwen3.8-27B ha mantenuto l’architettura densa da 27 miliardi di parametri ma ha esteso la multimodalità al video, un salto che nella generazione precedente non era presente nella stessa forma. Alibaba non ha ancora pubblicato, nelle fonti raccolte per questo articolo, una suite di benchmark completa e ufficiale per Qwen3.8-27B, un dettaglio che vale la pena tenere presente quando si confrontano i due modelli su basi puramente numeriche. Per un quadro più ampio sulla famiglia Qwen, il nostro confronto tra Qwen3.8 Max e DeepSeek V4 Pro approfondisce la variante di punta della stessa generazione.
Ecosistema di strumenti: quantizzazione e motori di inferenza
Un modello open-weight vale quanto l’ecosistema di strumenti che lo circonda, e su questo fronte entrambi i modelli sono ben serviti, anche se con enfasi diverse. Llama 4 Scout, essendo stato rilasciato da Meta con il pieno supporto di Hugging Face fin dal primo giorno, è disponibile in formati di quantizzazione standard come GGUF per l’esecuzione con llama.cpp e AWQ o GPTQ per motori più orientati al throughput come vLLM e TensorRT-LLM. La sua architettura MoE richiede però un supporto software più maturo per sfruttare al meglio il routing tra esperti, funzionalità che non tutti i motori di inferenza implementano con la stessa efficienza.
Qwen3.8-27B, essendo un modello denso, è generalmente più semplice da quantizzare e distribuire: non ci sono esperti da instradare, quindi anche motori di inferenza più leggeri come Ollama lo gestiscono senza configurazioni particolari. Le community che seguono i modelli Qwen pubblicano regolarmente varianti quantizzate già pronte all’uso, comprese versioni a 4 bit ottimizzate per GPU consumer, il che riduce il lavoro di preparazione richiesto a un team che parte da zero. Per un’azienda con competenze DevOps limitate, questa semplicità di deployment può pesare quanto un punto percentuale in più o in meno su un benchmark di capacità.
Requisiti hardware per l’hosting in locale
Qui la differenza tra i due modelli diventa concreta in termini di budget. Llama 4 Scout, quantizzato a 4 bit, richiede circa 55GB di VRAM, una soglia che si raggiunge praticamente solo con una GPU enterprise come la Nvidia H100 da 80GB o con più schede consumer collegate insieme. Non è un progetto da laboratorio universitario improvvisato: serve un budget hardware serio o un contratto di noleggio cloud.
Qwen3.8-27B, al contrario, si adatta a hardware molto più accessibile. Le configurazioni quantizzate più aggressive scendono fino a circa 9GB di VRAM, mentre una configurazione Q4_K_M realistica per un uso produttivo si attesta intorno ai 19GB. Una singola GPU consumer da 24GB, come una Nvidia RTX 3090 o RTX 4090, è sufficiente per eseguire una versione GGUF a 4 bit interamente in memoria video, senza bisogno di scaricare parte del modello su RAM di sistema o su più schede. Per una piccola o media impresa italiana che vuole provare il self-hosting senza investire subito in un cluster GPU, questo è un vantaggio che pesa quanto i benchmark di capacità.
Costi e tabella prezzi: cloud, router e self-hosting
Né Meta né Alibaba vendono direttamente accesso API ai propri modelli open-weight: l’accesso passa da provider cloud terzi o dal self-hosting diretto. Per stimare un costo realistico abbiamo preso i prezzi orari pubblicati da due marketplace GPU di riferimento, Lambda Labs per le schede enterprise e Vast.ai per quelle consumer, e li abbiamo proiettati su un mese di utilizzo continuativo (730 ore).
| Voce di costo | Llama 4 Scout | Qwen3.8-27B |
|---|---|---|
| GPU di riferimento | Nvidia H100 80GB | Nvidia RTX 4090 24GB |
| Noleggio cloud (Lambda Labs / Vast.ai, on-demand) | ~3,29$/ora | ~0,31$/ora |
| Proiezione mensile (730 ore continue) | ~2.402$ | ~226$ |
| API hosted (per milione token, in/out) | 0,18$ / 0,59$ (Together AI) | 0,45$ / 3,20$ (router terze parti) |
| Licenza software | Gratuita sotto soglia 700M MAU | Gratuita, nessuna soglia |
La differenza tra le due proiezioni mensili, oltre 2.100 dollari, racconta meglio di qualunque benchmark perché tante aziende europee di dimensioni medie stiano guardando a Qwen3.8-27B per i primi progetti di self-hosting. Va detto con chiarezza che questi sono prezzi di mercato per il noleggio GPU, non tariffe ufficiali di Meta o Alibaba, e possono variare in base al provider, alla regione e alla disponibilità del momento.
Licenze open source a confronto: Apache 2.0 contro Llama Community License
Sul piano legale la differenza tra i due modelli è netta. Qwen3.8-27B è distribuito sotto licenza Apache 2.0, una delle licenze open source più permissive che esistano: consente uso commerciale, modifica e ridistribuzione senza royalty e senza soglie basate sul numero di utenti dell’azienda che la adotta.
Llama 4 usa invece la Llama 4 Community License, un testo scritto su misura da Meta che concede una licenza non esclusiva, mondiale, non trasferibile e senza royalty per usare, riprodurre, distribuire e creare opere derivate dai materiali Llama. La licenza consente l’uso commerciale nella grande maggioranza dei casi, ma introduce una clausola specifica: se un’azienda licenziataria, insieme alle proprie affiliate, supera i 700 milioni di utenti attivi mensili alla data di rilascio della versione di Llama 4 utilizzata, deve richiedere una licenza separata direttamente a Meta. Per la stragrande maggioranza delle aziende europee questa soglia non è mai un problema concreto, ma la sua sola esistenza fa sì che Llama 4 non sia una licenza open source certificata secondo la definizione OSI, mentre Qwen3.8-27B lo è a tutti gli effetti. Anche il confronto tra Mistral e Llama 3.3 e quello tra Gemma 4 e Nemotron 3 Ultra mostrano quanto le condizioni di licenza dei modelli open-weight varino da un vendor all’altro.
GDPR, sovranità dei dati e AI Act in Europa
Il motivo principale per cui un’azienda italiana valuta il self-hosting di un modello linguistico, invece di appoggiarsi a un’API cloud, è quasi sempre la residenza dei dati. Con Llama 4 Scout o Qwen3.8-27B installati su un server controllato dall’azienda stessa, nessun prompt e nessuna risposta lasciano l’infrastruttura interna, un elemento che semplifica in modo sostanziale la conformità al GDPR quando si processano dati personali di clienti o dipendenti.
Il Regolamento UE 2024/1689 sull’intelligenza artificiale introduce comunque obblighi propri per i modelli di intelligenza artificiale per scopi generali (general purpose AI, GPAI), con requisiti di trasparenza più stringenti per i modelli classificati a rischio sistemico, soglia che scatta in base alla potenza di calcolo usata in fase di addestramento, come illustrato anche su artificialintelligenceact.eu. Nelle fonti pubbliche raccolte per questo articolo non risulta, a inizio settembre 2026, una classificazione ufficiale specifica secondo l’AI Act né per Llama 4 né per Qwen3.8-27B: nessuno dei due sviluppatori ha pubblicato una dichiarazione formale in tal senso reperibile nei materiali analizzati. Questo significa che, prima di un deployment in produzione, ogni azienda europea deve comunque condurre la propria valutazione di conformità, indipendentemente dal modello scelto: il self-hosting riduce il rischio legato alla residenza dei dati, ma non sostituisce un’analisi legale sugli obblighi di trasparenza previsti dal regolamento. Le aziende italiane già alle prese con gli obblighi della direttiva NIS2 troveranno familiare questo approccio basato su valutazione del rischio caso per caso.
Sicurezza, prompt injection e red teaming
Sul fronte della sicurezza applicativa, il divario informativo tra i due modelli è ampio. Meta pubblica separatamente, nella propria documentazione ufficiale, uno strumento chiamato Prompt Guard, pensato per filtrare input potenzialmente malevoli prima che raggiungano il modello principale e ridurre il rischio di attacchi di prompt injection o jailbreak. Non è un punteggio, ma un componente software aggiuntivo che le aziende possono integrare nella propria pipeline accanto a Llama 4.
Per Qwen3.8-27B non risulta, nelle fonti pubbliche raccolte, uno strumento equivalente documentato con la stessa visibilità, né un punteggio numerico specifico di resistenza al prompt injection per questa particolare versione del modello. Più in generale, né per Llama 4 né per Qwen3.8-27B esistono benchmark di red teaming pubblicati con metodologia riconosciuta e cifre comparabili tra loro: chi cerca un confronto quantitativo puro su questo fronte non lo trova ancora, ed è onesto dirlo piuttosto che inventare una percentuale plausibile. Per un deployment aziendale la raccomandazione pratica resta quella di affiancare a entrambi i modelli un livello indipendente di filtraggio degli input e di logging degli output, indipendentemente dalle garanzie dichiarate dal vendor.
Ritmo di aggiornamento e supporto a lungo termine
Un fattore spesso trascurato in un confronto tecnico è la frequenza con cui il modello scelto verrà aggiornato o sostituito. Alibaba ha mostrato un ritmo di iterazione rapido sulla linea Qwen 3.x, passando da Qwen3.6-27B a Qwen3.8-27B nell’arco di pochi mesi, un cadenza che porta miglioramenti frequenti ma richiede anche un processo interno più snello per validare e ridistribuire ogni nuova versione quantizzata prima di portarla in produzione. Per un team che aggiorna raramente la propria infrastruttura di inferenza, questo ritmo può diventare un costo operativo nascosto.
Meta, al contrario, rilascia meno versioni ma con salti architetturali più marcati, come dimostra il passaggio dalla generazione 3.3, ancora densa, all’architettura Mixture-of-Experts di Llama 4. Questo significa aggiornamenti meno frequenti ma potenzialmente più impegnativi da assorbire quando arrivano, perché possono richiedere una revisione della pipeline di quantizzazione e del motore di inferenza usato in produzione. Nessuno dei due approcci è oggettivamente migliore: un’azienda con un team infrastrutturale piccolo potrebbe preferire la stabilità di Llama 4, mentre un team più agile potrebbe sfruttare meglio gli aggiornamenti frequenti della linea Qwen.
5 casi d’uso reali per aziende italiane ed europee
Le specifiche tecniche prendono senso solo quando si applicano a un progetto concreto. Ecco cinque scenari tipici e quale dei due modelli si adatta meglio a ciascuno.
- Pubblica amministrazione locale con budget limitato. Un comune o una ASL che vuole automatizzare la classificazione della corrispondenza in ingresso senza inviare dati sensibili fuori dal proprio data center trova in Qwen3.8-27B, su una singola GPU consumer da 24GB, la soluzione più economica da avviare e mantenere.
- Banca o compagnia assicurativa con contratti molto lunghi. Per analizzare polizze o contratti di centinaia di pagine in un’unica sessione senza frammentare il testo in chunk separati, la finestra di contesto di 10 milioni di token di Llama 4 Scout è un vantaggio difficile da replicare con Qwen3.8-27B.
- Startup SaaS che serve un assistente clienti multilingue. Chi non vuole gestire infrastruttura GPU propria può appoggiarsi all’API hosted di Llama 4 Scout su Together AI, a 0,18$ di input e 0,59$ di output per milione di token, con costi prevedibili e scalabili.
- Software house che sviluppa strumenti di coding assistito. I punteggi di Qwen3.8-27B su SWE-bench Pro (61,7) e LiveCodeBench v6 (90,3) lo rendono un candidato solido per un assistente di programmazione interno, con il vantaggio aggiuntivo di poter essere eseguito su hardware relativamente economico.
- E-commerce con cataloghi fotografici e video prodotto. La multimodalità estesa di Qwen3.8-27B, capace di elaborare testo, immagini e video in un unico modello, semplifica pipeline di catalogazione automatica rispetto a un’architettura che gestisce solo testo e immagini come Llama 4.
Guida alla migrazione: dal cloud API al self-hosting
Passare da un’API cloud proprietaria a un modello open-weight self-hosted richiede un percorso ordinato, non un semplice cambio di endpoint. Ecco i passaggi essenziali.
- Mappare i volumi di traffico reali (richieste al giorno, lunghezza media dei prompt) per dimensionare correttamente la GPU necessaria.
- Scegliere tra Llama 4 Scout e Qwen3.8-27B in base al vincolo dominante del progetto: contesto lunghissimo per il primo, budget hardware contenuto per il secondo.
- Quantizzare il modello scelto nel formato adatto al proprio motore di inferenza, ad esempio GGUF per llama.cpp o AWQ per vLLM.
- Provisionare l’hardware, valutando se convenga l’acquisto diretto della GPU o il noleggio cloud a consumo nella fase di test.
- Installare un motore di inferenza compatibile con l’API OpenAI, così da minimizzare le modifiche al codice applicativo esistente.
- Eseguire un benchmark interno di latenza e throughput con traffico reale prima di spegnere l’API cloud precedente.
- Attivare logging e monitoraggio locali, senza inviare telemetria a servizi esterni non necessari.
- Mantenere per alcune settimane un percorso di rollback verso l’API cloud, nel caso emergano problemi di qualità delle risposte.
Un esempio pratico di avvio di un server di inferenza compatibile con l’API OpenAI, usando vLLM come motore, per Qwen3.8-27B su una singola GPU consumer:
pip install vllm
vllm serve Qwen/Qwen3.8-27B \
--quantization awq \
--max-model-len 262144 \
--gpu-memory-utilization 0.90 \
--port 8000Il comando espone un endpoint locale compatibile con le librerie client OpenAI più diffuse, permettendo di sostituire l’URL dell’API cloud con quello del server interno senza riscrivere la logica applicativa, un dettaglio che riduce sensibilmente il tempo di migrazione.
Pro e contro: Llama 4 contro Qwen3.8-27B
Llama 4 Scout, i punti di forza: contesto instruct fino a 10 milioni di token, ecosistema di provider cloud maturo con opzioni hosted già pronte come Together AI, strumento dedicato Prompt Guard per il filtraggio degli input, community e documentazione ampie.
Llama 4 Scout, i limiti: requisito hardware elevato (circa 55GB di VRAM anche quantizzato), licenza non open source certificata OSI con clausola sulla soglia dei 700 milioni di utenti attivi mensili, benchmark di coding con valori molto discordanti tra le fonti disponibili.
Qwen3.8-27B, i punti di forza: licenza Apache 2.0 piena e senza soglie, requisiti hardware accessibili anche a una GPU consumer da 24GB, punteggi di coding solidi su SWE-bench Pro e LiveCodeBench, multimodalità estesa a testo, immagini e video.
Qwen3.8-27B, i limiti: assenza di punteggi MMLU o MMLU-Pro ufficiali pubblicati, contesto massimo nettamente inferiore rispetto a Scout, nessun listino prezzi API ufficiale diretto da Alibaba, ecosistema di provider hosted meno maturo in Europa rispetto a quello di Llama.
Checklist di conformità prima del deployment
Prima di portare Llama 4 Scout o Qwen3.8-27B in produzione su dati reali di clienti o dipendenti, un team legale e tecnico italiano dovrebbe verificare alcuni punti che vanno oltre le specifiche del modello in sé, perché riguardano il modo in cui viene distribuito e utilizzato all’interno dell’organizzazione.
- Verificare se l’azienda, insieme alle proprie affiliate, supera la soglia dei 700 milioni di utenti attivi mensili prevista dalla licenza Llama 4 Community License, anche se per la quasi totalità delle aziende europee la risposta sarà negativa.
- Documentare dove risiedono fisicamente i server che eseguono il modello, per dimostrare la residenza dei dati richiesta da clienti sensibili al tema GDPR.
- Effettuare una valutazione d’impatto sulla protezione dei dati (DPIA) quando il modello elabora categorie particolari di dati personali, indipendentemente dalla scelta tra i due modelli.
- Verificare con il proprio ufficio legale se il volume di calcolo usato per eventuali fine-tuning successivi possa far rientrare il progetto negli obblighi aggiuntivi previsti dal Regolamento UE 2024/1689 per i modelli a rischio sistemico.
- Testare il comportamento del modello con un set di prompt di prova malevoli prima del lancio, indipendentemente dagli strumenti di filtraggio dichiarati dal vendor, dato che nessuno dei due modelli ha un punteggio pubblico di resistenza al prompt injection verificabile.
Verdetto finale: quale modello scegliere
Non esiste un vincitore assoluto tra Llama 4 Scout e Qwen3.8-27B, ma i dati raccolti indicano due percorsi chiari a seconda del vincolo di partenza. Se il progetto richiede di ingerire documenti lunghissimi in un’unica sessione, contratti, archivi normativi, corpus legali, la finestra di contesto di 10 milioni di token di Scout non ha un rivale diretto in questo confronto, a patto di poter sostenere il costo di una GPU H100 o di un noleggio cloud da circa 2.400 dollari al mese in uso continuativo.
Se invece il vincolo principale è il budget, o l’azienda vuole avviare il proprio primo progetto di self-hosting senza investimenti hardware importanti, Qwen3.8-27B è la scelta più razionale: gira su una singola GPU consumer da 24GB, costa una frazione del noleggio cloud necessario per Scout, e porta con sé una licenza Apache 2.0 priva di clausole sugli utenti attivi. I suoi punteggi di coding, pur provenienti in parte da fonti terze e da prendere con la dovuta cautela, sono comunque tra i più solidi disponibili per un modello di questa fascia dimensionale. Per entrambi i modelli resta valido un avvertimento: nessuno dei due ha oggi una classificazione ufficiale pubblica secondo l’AI Act europeo, quindi la valutazione di conformità normativa va condotta caso per caso, indipendentemente dalla scelta tecnica.
Domande frequenti
Llama 4 è davvero open source?
I pesi sono scaricabili pubblicamente, ma la licenza non è certificata OSI perché impone che le aziende con oltre 700 milioni di utenti attivi mensili richiedano un accordo separato a Meta. Per la maggior parte delle aziende europee questa soglia non è un problema pratico, ma tecnicamente si tratta di una licenza “open-weight” più che open source in senso stretto.
Qwen3.8-27B può essere usato in produzione da aziende europee?
Sì, la licenza Apache 2.0 non pone restrizioni geografiche o di utilizzo commerciale. Resta comunque necessaria una valutazione autonoma di conformità GDPR e AI Act, come per qualsiasi modello di intelligenza artificiale usato su dati personali.
Quanta VRAM serve per eseguire Llama 4 Scout in locale?
Circa 55GB in quantizzazione Q4, valore che nella pratica richiede una singola GPU Nvidia H100 da 80GB o una configurazione multi-GPU equivalente.
Qual è la differenza principale tra Llama 4 Scout e Maverick?
Scout usa 16 esperti e un contesto instruct fino a 10 milioni di token, Maverick sale a 128 esperti, circa 400 miliardi di parametri totali e un contesto instruct di 1 milione di token. Maverick offre benchmark leggermente superiori ma richiede un’infrastruttura multi-GPU più impegnativa.
Il self-hosting di questi modelli basta da solo a rispettare l’AI Act europeo?
No. Il self-hosting risolve il problema della residenza dei dati, ma gli obblighi di trasparenza del Regolamento UE 2024/1689 per i modelli general purpose AI restano validi indipendentemente da dove gira il modello, e vanno valutati separatamente con un consulente legale.
Quale dei due modelli è più economico da gestire nel tempo?
Qwen3.8-27B, in modo netto: la GPU consumer necessaria costa a noleggio circa 0,31$ l’ora contro i 3,29$ l’ora di una H100 richiesta da Llama 4 Scout, una differenza che sui volumi mensili supera i 2.100 dollari.
Posso usare Llama 4 Behemoth oggi?
No. A inizio settembre 2026 Behemoth non è ancora disponibile pubblicamente e i suoi pesi non sono stati distribuiti, restando per ora un annuncio più che un prodotto utilizzabile.
Esistono benchmark ufficiali di resistenza al prompt injection per questi modelli?
No, nessuno dei due sviluppatori ha pubblicato un punteggio numerico di red teaming o di resistenza al prompt injection specifico per queste versioni. Meta offre lo strumento separato Prompt Guard come livello di filtraggio aggiuntivo, ma non è un benchmark comparabile con un punteggio unico.
Conviene affidarsi a un solo benchmark pubblicato online per scegliere tra i due modelli?
No. Come mostra la tabella dei benchmark a confronto in questo articolo, lo stesso test su Llama 4 Scout può oscillare dal 22,4% al 68% a seconda della fonte e della metodologia. La scelta più prudente resta eseguire un test interno sui propri task reali prima di un deployment definitivo.
Qwen3.8-27B ha un’API ufficiale gestita direttamente da Alibaba?
Non risulta un listino prezzi ufficiale diretto da Alibaba per l’accesso API a Qwen3.8-27B nelle fonti raccolte. Le opzioni disponibili passano da router e provider di terze parti, oppure dal self-hosting diretto usando i pesi pubblicati sotto licenza Apache 2.0.
