Configura un rig →
Vicuna13B params4k contesto

Vicuna 13B in locale

Vicuna 13B è un LLM open-weight della famiglia Vicuna, con 13B parametri. Uso principale: chat, RAG and general assistance. Hardware minimo rilevato: RTX 3080 10GB (10 GB).

Verifica sulla mia GPU →Hugging Face ↗
Scheda tecnica
Parametri13B
Contesto massimo4k
Q4_K_M8.2 GB
Q5_K_M10.0 GB
Q814.5 GB
FP1629.1 GB
FamigliaVicuna
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
8.2GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
10.0GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
14.5GB

Qualità quasi FP16. Comoda in produzione.

FP16
29.1GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire Vicuna 13B su una sola scheda, ordinate per margine VRAM.

RTX 3080 10GB
NVIDIA
10 GB · RTX 30
8.2 / 10 GBcomodo · Q4
Radeon RX 6700
AMD
10 GB · RDNA 2
8.2 / 10 GBcomodo · Q4
Arc B570
Intel
10 GB · Arc Battlemage
8.2 / 10 GBcomodo · Q4
GTX 1080 Ti
NVIDIA
11 GB · GTX 10
8.2 / 11 GBcomodo · Q4
RTX 2080 Ti
NVIDIA
11 GB · RTX 20
8.2 / 11 GBcomodo · Q4
RTX 2060 12GB
NVIDIA
12 GB · RTX 20
10.0 / 12 GBcomodo · Q5
RTX 3060 12GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcomodo · Q5
RTX 3080 12GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcomodo · Q5
RTX 3080 Ti
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcomodo · Q5
RTX 4070
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcomodo · Q5
RTX 4070 Super
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcomodo · Q5
RTX 4070 Ti
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcomodo · Q5

Rig multi-GPU consigliati

Per Vicuna 13B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

2× GTX 1060 6GB
NVIDIA
12 GB · GTX 10
10.0 / 12 GBcomodo · Q5
2× GTX 1660
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcomodo · Q5
2× GTX 1660 Super
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcomodo · Q5
2× GTX 1660 Ti
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcomodo · Q5
2× RTX 2060 6GB
NVIDIA
12 GB · RTX 20
10.0 / 12 GBcomodo · Q5
2× RTX 3050 6GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcomodo · Q5
2× Arc A380
Intel
12 GB · Arc Alchemist
10.0 / 12 GBcomodo · Q5
2× GTX 1070
NVIDIA
16 GB · GTX 10
10.0 / 16 GBcomodo · Q5

Rig consigliato

2× GTX 1060 6GB

Vicuna 13B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura →

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12