Hermes405B params128k contexto

Hermes 3 405B en local

Hermes 3 405B es un LLM open-weight de la familia Hermes, con 405B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: Instinct MI325X (256 GB).

Comprobar en mi GPU →Hugging Face ↗

Ficha técnica

Parámetros405B

Contexto máximo128k

Q4_K_M254.6 GB

Q5_K_M311.2 GB

Q8452.6 GB

FP16905.2 GB

FamiliaHermes

Última sync2026-05-12

Quantizations disponibles

pesos GGUF

Q4_K_M

254.6GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M

311.2GB

Buena calidad. Punto dulce tamaño / precisión.

452.6GB

Calidad casi FP16. Cómodo para producción.

FP16

905.2GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

3 single-GPU

GPUs capaces de ejecutar Hermes 3 405B en una sola tarjeta, ordenadas por margen de VRAM.

Instinct MI325X

AMD

256 GB · Instinct CDNA 3+

254.6 / 256 GBjusto · Q4

Mac Studio M3 Ultra (256GB)

Apple

256 GB · Mac Studio

254.6 / 256 GBjusto · Q4

Mac Studio M3 Ultra (512GB)

Apple

512 GB · Mac Studio

311.2 / 512 GBcómodo · Q5

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12