Підвищення продуктивності системи на базі AMD Ryzen за допомогою ASUS AI Cache Boost
Великі мовні моделі (LLM) вимагають значного обсягу пам'яті – настільки, що ентузіасти штучного інтелекту часто використовують багатопроцесорні конфігурації, щоб збільшити доступну відеопам'ять для своїх додатків AI. Однак через надзвичайно великі обсяги LLM навіть такий підхід має свої межі. У деяких випадках графічний процесор (GPU) передає обчислення центральному процесору (CPU), і тоді першому плані виходить продуктивність кеша ЦП і оперативної пам'яті (DRAM). Це означає, що для ефективності AI-додатків важлива не тільки GPU, але і весь ланцюг з'єднання GPU с CPU та модулями DRAM. Відповідно, з'являються можливості для оптимізації цих компонентів з метою підвищення продуктивності.
Саме це було продемонстровано під час досліджень у лабораторіях R&D компанії ASUS з використанням найновіших процесорів AMD Ryzen. Нещодавно AMD представила два нові процесори Ryzen з технологією AMD 3D V-Cache – AMD Ryzen 9 9950X3D та AMD Ryzen 9 9900X3D, що виводять серію Ryzen на новий рівень. Після масштабного тестування різних оптимізації у широкому спектрі навантажень було ідентифіковано набір налаштувань, що забезпечують відчутні переваги для додатків AI. Результати цих досліджень були втілені у новій функції BIOS – AI Cache Boost. У реальних сценаріях роботи з великим LLM AI Cache Boost забезпечує приріст продуктивності до 12,75%.
Готовність до процесорів AMD Ryzen із технологією AMD 3D V-Cache
Для активації AI Cache Boost потрібна материнська плата ASUS серії AMD 800 та процесор AMD Ryzen 9000 Granite Ridge. У UEFI BIOS необхідно перейти на вкладку Extreme Tweaker і увімкнути відповідну функцію - система буде готова до роботи.
Функція AI Cache Boost активує низку оптимізації, включаючи розгін частоти Infinity Fabric clock (FCLK) до 2100 МГц. Підвищення FCLK є ключовим фактором, адже збільшує пропускну здатність між ядрами CPU, кешем та модулями пам'яті – що особливо важливо для роботи з великими LLM.
Для користувачів, які використовують одну систему і для AI-програм, і для ігор, слід знати: включення AI Cache Boost практично не впливає на ігрову продуктивність. Функцію можна залишати активною під час перемикання між різними типами навантажень. За бажанням, підвищення стабільності в іграх, частоту FCLK можна вручну знизити до більш консервативного значення після активації.
Продуктивність із AI Cache Boost
У тестовій конфігурації використовувалася материнська плата ROG Crosshair X870E Hero, відеокарта NVIDIA GeForce RTX 5090 та 2x16 ГБ DDR5 RAM. Було протестовано кілька процесорів з AMD 3D V-Cache: Ryzen 9 9950X3D, 9900X3D та 9800X3D. Першим тестом став Geekbench AI з фреймворком ONNX DirectML, що вимірює продуктивність GPU.
Залежно від зміни приріст продуктивності становив від 4 до 8%. Це суттєво для користувачів, які щодня працюють з AI-навантаженнями, особливо з огляду на простоту активації функції.
Оскільки серія NVIDIA RTX 50 нова на ринку, було проведено додаткове тестування на попередньому поколінні відеокарт, зокрема з NVIDIA RTX 4090.
У тесті Geekbench AI з RTX 4090 активація AI Cache Boost дозволила досягти приросту продуктивності до 7,57% AMD Ryzen 7 9800X3D, що показали найвищий результат серед протестованих процесорів
Аналогічну динаміку показав тест UL Procyon AI Computer Vision Benchmark, де Ryzen 7 9800X3D досяг покращення продуктивності на 12,75% з активованою функцією.
Додавання Turbo Game Mode
високі результати Ryzen 7 9800X3D у тестах свідчать, що AMD 3D V-Cache у деяких AI-сценаріях дає більшу перевагу, ніж більша кількість ядер у Ryzen 9 9950X3D та 9900X3D. Для докладнішого аналізу були проведені додаткові тести з включенням як AI Cache Boost, так і Turbo Game Mode.
Turbo Game Mode, доступний на материнських платах ASUS AM5, оптимізує систему двома способами:
- Вимикає другий CCD (Core Complex Die) – актуально для процесорів із двома CCD. Це дозволяє зменшити затримки у додатках, які не використовують усі ядра.
- Вимикає SMT (Simultaneous Multithreading) - одночасне багатопоточність. У деяких сценаріях відключення SMT дозволяє підвищити ефективність у навантаженнях, які потребують великої кількості потоків.
Через суттєвий вплив на багатопоточну продуктивність Turbo Game Mode рекомендується включати лише за необхідності.
У конфігурації з активованими AI Cache Boost та Turbo Game Mode Ryzen 9 9950X3D демонструє найвищий приріст продуктивності серед усіх протестованих варіантів – на 19,85% порівняно з базовими налаштуваннями.
Ці результати свідчать, що для користувачів AI-додатків, які не використовують усі доступні потоки CPU, поєднання двох BIOS-функцій може бути дуже вигідним. Extreme Tweaker BIOS, що робить їх використання зручним навіть менш досвідчених користувачів.
AI-амбітності на новому рівні з ASUS та AI Cache Boost
Процесори AMD Ryzen 9 9950X3D та 9900X3D відкривають нові можливості для ентузіастів ПК. Завдяки 32 та 24 потокам відповідно вони забезпечують потужну багатопоточну продуктивність, а також користуються перевагами технології AMD 3D V-Cache.
Материнські плати ASUS серії AMD 800 допомагають максимально реалізувати потенціал цих процесорів через оптимізацію BIOS. Зокрема, AI Cache Boost є дуже ефективним інструментом підвищення продуктивності в AI-робочих процесах, використовують LLM.
Щоб отримати максимум нових процесорів AMD, варто звернути увагу на повну лінійку материнських плат ASUS AM5 – від флагманських X870E та X870 до доступніших B850 та B840.