Aumente el rendimiento del sistema AMD Ryzen con ASUS AI Cache Boost
Los Modelos de Lenguaje Grandes (LLM) requieren una cantidad significativa de memoria, tanto que los entusiastas de la IA suelen usar configuraciones multi-GPU para aumentar la memoria de video disponible para sus aplicaciones de IA. Sin embargo, debido a los enormes volúmenes de LLM, incluso este enfoque tiene sus limitaciones. En algunos casos, la GPU (GPU) transfiere el cálculo al procesador central (CPU), y luego el rendimiento de la caché de la CPU y la memoria de acceso aleatorio (DRAM) cobran importancia. Esto significa que, para la eficiencia de las aplicaciones de IA, no solo es... GPU, sino también toda la cadena de conexiones GPU с CPU y módulos DRAM. Por consiguiente, existen oportunidades para optimizar estos componentes para un mayor rendimiento.
Esto es precisamente lo que se demostró durante la investigación en los laboratorios de I+D de ASUS con los últimos procesadores AMD Ryzen. AMD presentó recientemente dos nuevos procesadores Ryzen con tecnología AMD 3D V-Cache: el AMD Ryzen 9 9950X3D y el AMD Ryzen 9 9900X3D, lo que eleva la serie Ryzen a un nuevo nivel. Tras exhaustivas pruebas de diversas optimizaciones en una amplia gama de cargas de trabajo, se identificó un conjunto de configuraciones que ofrecen beneficios tangibles para las aplicaciones de IA. Los resultados de estos estudios se plasmaron en una nueva función de la BIOS: AI Cache Boost. En escenarios reales con grandes LLM, AI Cache Boost proporciona un aumento del rendimiento de hasta un 12,75 %.
Listo para los procesadores AMD Ryzen con tecnología AMD 3D V-Cache
Para activar AI Cache Boost, necesitas una placa base ASUS AMD serie 800 y un procesador AMD Ryzen 9000 Granite Ridge. En la BIOS UEFI, ve a la pestaña Extreme Modifique y active la función correspondiente: el sistema estará listo para funcionar.
La función AI Cache Boost permite una serie de optimizaciones, incluido el overclocking de la frecuencia del reloj Infinity Fabric (FCLK) a 2100 MHz. Aumentar el FCLK es un factor clave, ya que aumenta el ancho de banda entre núcleos. CPU, módulos de memoria caché y memoria, lo que es especialmente importante para trabajar con LLM grandes.
Para usuarios que usan un mismo sistema tanto para aplicaciones de IA como para juegos, tengan en cuenta que activar la función AI Cache Boost prácticamente no afecta el rendimiento de los juegos. Esta función puede dejarse activada al cambiar entre diferentes tipos de carga. Si lo desean, pueden reducir manualmente la frecuencia FCLK a un valor más conservador después de activarla para mejorar la estabilidad en los juegos.
Rendimiento con AI Cache Boost
La configuración de prueba utilizó la placa base ROG Crosshair X870E Hero, una tarjeta gráfica NVIDIA GeForce RTX 5090 y dos procesadores de 2 GB de RAM DDR16. Se probaron varios procesadores con AMD 5D V-Cache: Ryzen 3 9X9950D, 3X9900D y 3X9800D. La primera prueba fue Geekbench AI con el framework ONNX DirectML, que mide el rendimiento. GPU.
Según la configuración, la mejora del rendimiento osciló entre el 4 % y el 8 %. Esto es significativo para los usuarios que trabajan con cargas de trabajo de IA a diario, especialmente considerando la facilidad de activación de la función.
Dado que la serie NVIDIA RTX 50 es nueva en el mercado, se realizaron pruebas adicionales en la generación anterior de tarjetas gráficas, en particular con NVIDIA RTX 4090.
En la prueba de inteligencia artificial de Geekbench con RTX 4090 La activación de AI Cache Boost nos permitió lograr un aumento de rendimiento de hasta un 7,57% con AMD Ryzen 7 9800X3D, que mostró el resultado más alto entre los procesadores probados.
La prueba de referencia UL Procyon AI Computer Vision mostró una dinámica similar, donde Ryzen 7 9800X3D Se logró una mejora del rendimiento del 12,75 % con la función habilitada.
Añadiendo el modo de juego turbo
Puntajes altos Ryzen 7 9800X3D Las pruebas muestran que AMD 3D V-Cache ofrece una mayor ventaja en algunos escenarios de IA que la mayor cantidad de núcleos de los Ryzen 9 9950X3D y 9900X3D. Para un análisis más detallado, se realizaron pruebas adicionales con AI Cache Boost y el modo Turbo Game activados.
El modo Turbo Game, disponible en las placas base ASUS AM5, optimiza el sistema de dos maneras:
- Desactiva el segundo CCD (Core Complex Die), relevante para procesadores con dos CCD. Esto permite reducir los retrasos en aplicaciones que no utilizan todos los núcleos.
- Se apaga SMT (Multihilo simultáneo): multihilo simultáneo. En algunos casos, deshabilitar SMT permite aumentar la eficiencia en cargas que no requieren un gran número de hilos.
Debido al impacto significativo en el rendimiento de múltiples subprocesos, se recomienda habilitar el Modo de juego Turbo solo cuando sea necesario.
Con AI Cache Boost y Turbo Game Mode habilitados, el Ryzen 9 9950X3D ofrece la mayor ganancia de rendimiento de todas las opciones probadas, un 19,85 % más que la configuración base.
Estos resultados sugieren que para los usuarios de aplicaciones de IA que no utilizan todos los flujos disponibles, CPUCombinar dos funciones de la BIOS puede ser muy beneficioso. Ambas funciones están disponibles en la pestaña Extreme Tweaker BIOS, lo que hace que su uso sea cómodo incluso para usuarios menos experimentados.
La ambición de la IA alcanza un nuevo nivel con ASUS y AI Cache Boost
Los procesadores AMD Ryzen 9 9950X3D y 9900X3D abren nuevas posibilidades para los entusiastas de las PC. Con 32 y 24 subprocesos respectivamente, ofrecen un potente rendimiento multihilo y también se benefician de la tecnología AMD 3D V-Cache.
Las placas base ASUS AMD serie 800 optimizan la BIOS para maximizar el potencial de estos procesadores. En particular, AI Cache Boost es una herramienta muy eficaz para aumentar el rendimiento en flujos de trabajo de IA con LLM.
Para aprovechar al máximo los nuevos procesadores de AMD, vale la pena revisar la línea completa de placas base ASUS AM5, desde los modelos insignia X870E y X870 hasta los más asequibles B850 y B840.