RAMDeck: il nuovo hub per ottimizzare la RAM domestica in crowdfunding

RAMDeck è un nuovo hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un’offerta early-bird a 109 dollari. La campagna, che ha un obiettivo di finanziamento fisso di 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di PC Windows, Mac, Linux e telefoni Android all’interno di una rete domestica, consentendo l’esecuzione di modelli di intelligenza artificiale troppo complessi per un singolo dispositivo.

Il progetto nasce in un contesto di crescente preoccupazione per l’aumento dei prezzi della memoria DDR5, che ha raggiunto costi circa cinque volte superiori rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non fonde la memoria a livello hardware; piuttosto, distribuisce i pesi di un modello tra i vari dispositivi, mantenendo ciascuno la propria porzione di memoria locale e trasferendo solo i risultati intermedi tramite rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene attraverso il protocollo standard di llama.cpp. L’elemento distintivo di TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.

Attualmente, le specifiche hardware del hub non sono state rese pubbliche; non sono disponibili dettagli su processore, memoria, porte e consumo. Tuttavia, la documentazione suggerisce che gli utenti esperti possono seguire una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato sono disponibili soluzioni commerciali di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano una mini PC con RTX 3060, con modelli mixture-of-experts che attivano circa 3 miliardi di parametri per token. In particolare, sono stati registrati 39 token/s per Qwen3-Coder 30B su una coppia di mini PC Beelink e un Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.

Al contrario, i modelli densi mostrano prestazioni significativamente inferiori: un modello 27B ha reso 1,92 token/s su quattro dispositivi, mentre gpt-oss-120b ha segnato 1,37 token/s su un cluster di sei macchine. Inoltre, un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati evidenziano che, sebbene il pooling della memoria possa prevenire crash da esaurimento di memoria, rimane comunque molto più lento rispetto a configurazioni con GPU di alta VRAM.

In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub mira a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le misure pubblicate evidenziano limiti di prestazioni per modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza alcun costo. Per chi preferisce la comodità, i 109 dollari per l’hub in preorder comportano i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.