Qué es y para qué sirve
Nemotron 3.5 Bolt 74B es un modelo de expertos mezclado (MoE) con 74 mil millones de parámetros totales y 9 mil millones activos. Su arquitectura permite un equilibrio óptimo entre velocidad e inteligencia, superando a modelos densos populares en rapidez y a otros MoE similares en capacidad cognitiva. El modelo se empaqueta en 24 GB de memoria mediante cuantización de 2 bits con técnicas de entrenamiento conscientes de la cuantización, lo que preserva la calidad del rendimiento. Está optimizado específicamente para funcionar en laptops NVIDIA RTX Spark, que ofrecen hasta 128 GB de memoria unificada y 1 petaflop de cómputo de IA. Los usuarios pueden acceder a este modelo a través de frameworks como llama.cpp, vLLM, Ollama, Unsloth y LM Studio. Su lanzamiento coincide con la disponibilidad de herramientas de seguridad como OpenShell y Microsoft Execution Containers, que facilitan la ejecución segura de agentes locales. Aunque está diseñado para uso local, puede integrarse con enrutadores que permiten alternar entre modelos locales y de nube según la necesidad.
