Configurar un rig →
Aya35B params8k contexto

Aya 23 35B en local

Aya 23 35B es un LLM open-weight de la familia Aya, con 35B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: TITAN RTX (24 GB).

Comprobar en mi GPU →Hugging Face ↗
Ficha técnica
Parámetros35B
Contexto máximo8k
Q4_K_M22.0 GB
Q5_K_M26.9 GB
Q839.1 GB
FP1678.2 GB
FamiliaAya
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
22.0GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
26.9GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
39.1GB

Calidad casi FP16. Cómodo para producción.

FP16
78.2GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Aya 23 35B en una sola tarjeta, ordenadas por margen de VRAM.

TITAN RTX
NVIDIA
24 GB · RTX 20
22.0 / 24 GBjusto · Q4
RTX 3090
NVIDIA
24 GB · RTX 30
22.0 / 24 GBjusto · Q4
RTX 3090 Ti
NVIDIA
24 GB · RTX 30
22.0 / 24 GBjusto · Q4
RTX 4090
NVIDIA
24 GB · RTX 40
22.0 / 24 GBjusto · Q4
Quadro RTX 6000
NVIDIA
24 GB · Quadro RTX
22.0 / 24 GBjusto · Q4
RTX A5000
NVIDIA
24 GB · RTX A (Ampere)
22.0 / 24 GBjusto · Q4
RTX A5500
NVIDIA
24 GB · RTX A (Ampere)
22.0 / 24 GBjusto · Q4
RTX 4500 Ada
NVIDIA
24 GB · RTX Ada
22.0 / 24 GBjusto · Q4
NVIDIA A10
NVIDIA
24 GB · Ampere DC
22.0 / 24 GBjusto · Q4
NVIDIA A30
NVIDIA
24 GB · Ampere DC
22.0 / 24 GBjusto · Q4
NVIDIA L4
NVIDIA
24 GB · Lovelace DC
22.0 / 24 GBjusto · Q4
Radeon RX 7900 XTX
AMD
24 GB · RDNA 3
22.0 / 24 GBjusto · Q4

Rigs multi-GPU recomendados

Para Aya 23 35B con quantization más alta o más contexto, un rig multi-GPU da más margen.

4× GTX 1060 6GB
NVIDIA
24 GB · GTX 10
22.0 / 24 GBjusto · Q4
4× GTX 1660
NVIDIA
24 GB · GTX 16
22.0 / 24 GBjusto · Q4
4× GTX 1660 Super
NVIDIA
24 GB · GTX 16
22.0 / 24 GBjusto · Q4
4× GTX 1660 Ti
NVIDIA
24 GB · GTX 16
22.0 / 24 GBjusto · Q4
4× RTX 2060 6GB
NVIDIA
24 GB · RTX 20
22.0 / 24 GBjusto · Q4
2× RTX 2060 12GB
NVIDIA
24 GB · RTX 20
22.0 / 24 GBjusto · Q4
4× RTX 3050 6GB
NVIDIA
24 GB · RTX 30
22.0 / 24 GBjusto · Q4
2× RTX 3060 12GB
NVIDIA
24 GB · RTX 30
22.0 / 24 GBjusto · Q4

Rig recomendado

4× GTX 1060 6GB

Aya 23 35B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar →

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12