Perché due schede hanno senso: come il modello si divide tra loro

Il modello è una pila di strati, e gli strati si possono distribuire

Un modello linguistico è fatto di qualche decina di strati impilati uno sull’altro. I dati entrano nel primo, il risultato passa al secondo, e così via fino in fondo. La nostra configurazione taglia questa pila a metà: i primi strati stanno sulla prima scheda, gli altri sulla seconda.

Che cosa attraversa il confine? Un solo vettore di numeri — lo stato dopo l’ultimo strato della prima scheda. Sono pochi kilobyte, trasmessi una volta per passaggio. È proprio per questo che questo tipo di divisione funziona su una scheda madre normale, senza ponti speciali tra le schede.

Il prezzo è uno e va detto chiaramente: le schede lavorano una dopo l’altra, non insieme. Quando calcola la prima, la seconda aspetta. Nella generazione del testo due schede non danno quindi il doppio della velocità — danno il doppio della capienza. E poiché le due schede sono identiche, non c’è un anello più lento che rovini l’insieme.

Nella lettura di un documento lungo la situazione è migliore: lì il lavoro è così tanto che le due schede si dividono davvero i calcoli. Da qui il risultato di 7.000 token al secondo in lettura contro 200 token al secondo in scrittura — due modalità di lavoro diverse della stessa macchina.

Le divisioni che abbiamo scartato

Prima di scegliere la divisione per strati abbiamo verificato le alternative. Entrambe sono cadute per motivi concreti e verificabili.

La divisione per righe di matrice non esiste più nella libreria che usiamo. L’opzione figura ancora nella guida del programma, ma è stata rimossa dal supporto per le schede NVIDIA — il tentativo di usarla finisce con un errore prima che qualcosa arrivi nella memoria della scheda. Nessun parametro può cambiarlo.

La divisione tensoriale (ogni scheda calcola in parallelo un pezzo dello stesso strato) in teoria offre un vero parallelismo. In pratica si infrange su due cose. Primo: il buffer di lavoro viene allocato in dimensione piena su ciascuna scheda — cioè due volte — e non ci sta nemmeno con un contesto modesto. Secondo: un’allocazione fallita non ripiega dolcemente su una modalità più semplice, ma uccide il processo.

Anche se funzionasse, questa macchina sarebbe per lei il terreno peggiore possibile: la divisione tensoriale richiede la sincronizzazione delle schede dopo ogni strato, e tra le nostre schede non c’è un ponte veloce — la comunicazione passa per il normale bus della scheda madre. La divisione per strati trasmette un vettore per passaggio, e per questo vince.

Uno strato di qua o di là — e abbiamo più contesto

La divisione non deve essere esattamente a metà. Gli strati hanno pesi diversi, e a una delle schede si agganciano elementi aggiuntivi (per esempio il modulo che si occupa della comprensione delle immagini). Il risultato: dopo il caricamento del modello una scheda può essere piena fino all’orlo mentre l’altra ha ancora riserva.

Spostare un solo strato dalla scheda più stretta a quella più libera trasferisce circa 266 MB di riserva. Sul modello con supporto alle immagini questa singola mossa ci ha comprato 24.576 token di contesto — più o meno qualche decina di pagine di testo in più in una conversazione, gratis.

Vale la pena conoscere il limite: la granularità è grossa. Si spostano strati interi, non frazioni, e nei modelli con pochi strati pesanti un singolo strato pesa troppo perché la manovra convenga. Di solito esiste un solo valore sensato, e quelli vicini sono peggiori della divisione a metà.

Il secondo modello che suggerisce al primo

Un trucco a parte, non legato alla divisione tra le schede ma responsabile di buona parte della velocità: la speculazione. Accanto al modello grande lavora un modello minuscolo che indovina i prossimi token. Il modello grande, invece di generarli uno alla volta, verifica l’intera proposta in un colpo solo — e verificare costa molto meno che generare.

Da noi questa tecnica funziona in ogni modello che la supporta e accelera la scrittura da 1,3 a 2,4 volte. La regola è l’opposto dell’intuizione: più lento è il modello di base, più conviene indovinare, perché il costo di un suggerimento è quasi costante mentre il passo risparmiato è sempre più caro.

Con due schede si aggiunge una condizione che dall’esterno non si vede: il modello piccolo deve stare sulla stessa scheda degli strati finali di quello grande. Sistemato con trascuratezza, si spalma tra le schede e invece di aiutare, costa. Abbiamo misurato la differenza: 27 contro 119 token al secondo sullo stesso modello. Tutta la differenza sta in un unico parametro che dice dove deve abitare il suggeritore.

Quanto costa oggi

Prezzi al dettaglio europei, agosto 2026:

Variante	Memoria	Prezzo
RTX 5090 — una scheda	32 GB	4.400–4.650 € (5.100–5.350 $)
RTX 5070 Ti — due schede	16 GB + 16 GB	2 × 1.050 € = 2.100 € (2 × 1.200 $ = 2.400 $)

La coppia di schede costa il 47% del prezzo del modello di punta con identica capienza di memoria. A questo si aggiunge un requisito facile da dimenticare: la scheda madre deve avere due slot con una ripartizione sensata delle linee, e il case — spazio per due schede e flusso d’aria tra loro.

Questi numeri vanno presi come una fotografia del momento, perché il mercato va in una sola direzione. NVIDIA ha già alzato i prezzi due volte nel 2026 — del 10–15% a gennaio su tutta la linea RTX 50, e a maggio sulla sola RTX 5090 — ed è annunciata una terza correzione nell’ordine del 20–30%. La causa non è la domanda di schede, ma la memoria: Samsung ha alzato i prezzi delle DRAM di circa il 20% in un trimestre, e la scarsità di memoria è prevista almeno fino al 2028. Il dettaglio lo sente già — la RTX 5090 a luglio 2026 arrivava a circa 4.329 $ (mercato USA), e le versioni non di riferimento superavano i 5.000.

Per chi compra ne segue una cosa sola: un rincaro percentuale colpisce più forte la variante più cara. Il trenta per cento vale circa 630 € (720 $) sulla coppia di schede e quasi 1.390 € (1.600 $) sul modello di punta. La differenza di prezzo tra le due strade non si riduce — cresce.

Che cosa ne segue al momento dell’acquisto

Due schede di fascia media danno la capienza del modello di punta a meno della metà del prezzo, ma non la sua banda. Se conta il record di token al secondo con un unico modello grande — vince la singola scheda potente. Se conta quale modello e quanto contesto ci stanno in assoluto — due schede fanno esattamente lo stesso lavoro, spendendo meno.

La condizione è una: le schede devono essere identiche. Con la divisione per strati le schede lavorano una dopo l’altra, quindi la più debole della coppia detterebbe il ritmo dell’insieme.

---

Tutti i numeri di prestazione vengono dalle misurazioni sulla nostra macchina di prova: 2 × RTX 5070 Ti 16 GB, divisione per strati, un modello alla volta. Prezzi hardware: mercato europeo, agosto 2026 — verifica quelli attuali prima dell’acquisto.

Fonti sui rincari: ThinkComputers — RTX 50 prices could jump another 30% · TechSpot — GPU pricing, mid-2026