25.95
mil millones de parámetros
16
GB RAM
4-bit
Cuantización
Configuración
Ajusta los supuestos para estimar parámetros. No verifica compatibilidad con un modelo.
16 GB
Cómo funciona la estimación
Estimación ilustrativa basada en RAM, cuantización y supuestos de memoria. El uso real depende del modelo y del entorno de ejecución.
RAM
Memoria total del sistema
Cuantización
Bits por parámetro
Contexto
Tamaño de ventana de tokens