Vuoi scoprire quale intelligenza artificiale può funzionare sul tuo computer?
Nessuna registrazione, nessun programma da installare. I dati del tuo computer vengono elaborati nel browser e non sono inviati al server.
Questo strumento non scarica né esegue un’intelligenza artificiale: stima quali dimensioni di modello possono essere prese in considerazione in base alla memoria del computer. Qui trovi il significato dei termini e dei passaggi.
La B indica un miliardo (billion) di parametri: 7B significa circa 7 miliardi di valori numerici appresi durante l’addestramento. Più parametri richiedono generalmente più memoria, ma non garantiscono risposte migliori.
È un modo per rappresentare i pesi del modello con meno bit. In termini indicativi, Q4 usa circa 4 bit per peso, Q8 circa 8; FP16 ne usa 16. Ridurre i bit diminuisce la memoria dei pesi, ma può incidere sulla precisione. I file reali includono anche informazioni aggiuntive.
Un modello deve occupare memoria per i suoi pesi e, durante l’uso, per la conversazione (KV cache), i buffer e il programma che lo esegue. Se non conosci la memoria disponibile, il 70% della RAM installata è soltanto una stima di partenza, non una misura né una garanzia.
Leggera, Equilibrata e Avanzata sono tre classi da valutare, non tre programmi da installare. Il calcolo attuale verifica solo il minimo teorico dei pesi: per sapere se un modello funzionerà servono anche formato reale, memoria aggiuntiva e compatibilità del programma di esecuzione.
I comandi mostrati al primo passaggio interrogano informazioni già presenti nel sistema. Non installano software, non richiedono privilegi amministrativi e non modificano configurazioni. Puoi leggere il comando prima di eseguirlo e controllare il testo prima di incollarlo.
Get-CimInstance legge i dati di sistema tramite CIM/WMI: memoria totale, memoria libera dichiarata dal sistema, processore e nome della GPU. Write-Output stampa il risultato.
sysctl legge caratteristiche del computer, come RAM installata e architettura. printf organizza il risultato; sed aggiunge etichette. Questo comando non misura la memoria disponibile.
I file /proc/meminfo e /proc/cpuinfo espongono informazioni del kernel su memoria e processore. awk estrae soltanto i campi utili; printf delimita il risultato.
GB e GiB non sono identici: 1 GB = 1 miliardo di byte; 1 GiB = 1.073.741.824 byte. La memoria dei pesi è solo una parte del fabbisogno totale. Per ora il calcolatore non verifica velocità, supporto GPU o compatibilità dei singoli modelli.
Stima teorica dei soli pesi: parametri × bit effettivi per peso ÷ 8. Il risultato in byte si converte in GiB dividendo per 1.073.741.824. Le sigle Q4 e Q8 non definiscono da sole il numero effettivo di bit per peso: metadati, scale e blocchi introducono differenze.
Il numero di token nel contesto incide sulla memoria durante l’inferenza. Per stimare la KV cache occorrono dati architetturali come livelli (layers), KV heads, head dimension e precisione della cache. Le KV heads sono i gruppi di vettori Key e Value per livello; head dimension indica il numero di elementi in ciascun vettore. La KV cache è memoria temporanea impiegata durante l’elaborazione del contesto, non una memoria permanente della conversazione. Se questi dati mancano, il valore non è determinabile in modo attendibile.
La memoria unificata è condivisa fra CPU e GPU e non va contata due volte. Nei sistemi con VRAM dedicata occorre verificare separatamente capacità della GPU, RAM di sistema e possibilità di offload del runtime: non sono un unico pool liberamente sommabile.
Il 70% della RAM è un’ipotesi di disponibilità, non una misura. Un risultato favorevole sui pesi non prova compatibilità, velocità, supporto delle istruzioni CPU/GPU, né qualità del modello. Non si attribuiscono prestazioni in token/s senza misure.
Seleziona il sistema operativo. Ti mostreremo un comando di sola lettura per raccogliere le caratteristiche utili.
Il comando legge informazioni generali su processore, memoria e grafica. Non raccoglie nomi utente, seriali o indirizzi di rete. Controlla sempre ciò che copi e incolli.
Nella modalità grafica puoi compilare soltanto la memoria disponibile qui sotto. Il riconoscimento automatico degli screenshot non è presente in questa versione beta.
Non sai usare il terminale? Puoi saltare questo passaggio e inserire manualmente la RAM. Il comando serve soltanto a evitare di cercare i valori a mano.
RAM: memoria utilizzata dal sistema e dai programmi. Memoria disponibile: parte che il sistema può destinare a nuove attività. VRAM: memoria della scheda grafica dedicata; non va sommata automaticamente alla RAM.
Se non conosci la memoria disponibile, verrà ipotizzato il 70% della RAM installata. È una stima, non una misura: non garantisce che un modello funzioni.
Questa scelta ci aiuta a spiegare le possibilità, ma non attribuisce capacità inesistenti ai modelli.
La scelta indica cosa vorresti fare, non cambia le caratteristiche hardware. Una dimensione maggiore non garantisce che un modello sappia analizzare immagini o programmare.
Questi valori descrivono un modello ipotetico, non un prodotto specifico. I bit effettivi per peso devono provenire dalla documentazione del formato o dal file del modello.
Versione beta: valuta la memoria, non certifica compatibilità con runtime o prestazioni. Nessuna velocità in token/s è stimata. I formati GGUF e le quantizzazioni specifiche richiedono metadati verificati.