Configura un rig →
Falcon180B params2k contesto

Falcon 180B in locale

Falcon 180B è un LLM open-weight della famiglia Falcon, con 180B parametri. Uso principale: chat, RAG and general assistance. Hardware minimo rilevato: Instinct MI250 (128 GB).

Verifica sulla mia GPU →Hugging Face ↗
Scheda tecnica
Parametri180B
Contesto massimo2k
Q4_K_M113.2 GB
Q5_K_M138.3 GB
Q8201.2 GB
FP16402.3 GB
FamigliaFalcon
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
113.2GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
138.3GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
201.2GB

Qualità quasi FP16. Comoda in produzione.

FP16
402.3GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire Falcon 180B su una sola scheda, ordinate per margine VRAM.

Instinct MI250
AMD
128 GB · Instinct CDNA 1-2
113.2 / 128 GBstretto · Q4
Instinct MI250X
AMD
128 GB · Instinct CDNA 1-2
113.2 / 128 GBstretto · Q4
MacBook Pro 14 M3 Max (128GB)
Apple
128 GB · MacBook Pro 14
113.2 / 128 GBstretto · Q4
MacBook Pro 14 M4 Max (128GB)
Apple
128 GB · MacBook Pro 14
113.2 / 128 GBstretto · Q4
MacBook Pro 16 M3 Max (128GB)
Apple
128 GB · MacBook Pro 16
113.2 / 128 GBstretto · Q4
MacBook Pro 16 M4 Max (128GB)
Apple
128 GB · MacBook Pro 16
113.2 / 128 GBstretto · Q4
Mac Studio M1 Ultra (128GB)
Apple
128 GB · Mac Studio
113.2 / 128 GBstretto · Q4
Mac Studio M2 Ultra (128GB)
Apple
128 GB · Mac Studio
113.2 / 128 GBstretto · Q4
Mac Studio M4 Max (128GB)
Apple
128 GB · Mac Studio
113.2 / 128 GBstretto · Q4
Mac Pro M2 Ultra (128GB)
Apple
128 GB · Mac Pro
113.2 / 128 GBstretto · Q4
Gaudi 3
Intel
128 GB · Gaudi
113.2 / 128 GBstretto · Q4
NVIDIA H200 141GB
NVIDIA
141 GB · Hopper
113.2 / 141 GBcomodo · Q4

Rig multi-GPU consigliati

Per Falcon 180B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

4× RTX 5090
NVIDIA
128 GB · RTX 50
113.2 / 128 GBstretto · Q4

Rig consigliato

4× RTX 5090

Falcon 180B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura →

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12