NVIDIA планує прискорити SSD до 100 млн IOPS для ІІ-завдань
NVIDIA працює з партнерами над створенням SSD-накопичувачів з продуктивністю до 100 мільйонів операцій вводу-виводу в секунду, щоб усунути вузьке місце у сучасних системах навчання та інференсу ІІ. Про це повідомив глава Silicon Motion Уоллес Куо в інтерв'ю Tom's Hardware.
Сучасні прискорювачі, такі як NVIDIA B200, мають пропускну здатність пам'яті HBM3E до 8 ТБ/с., що багаторазово перевищує можливості сучасних SSD за швидкістю та затримками. Навіть флагманські PCIe 5.0 x4 SSD забезпечують максимум 14,5 ГБ/с та 2–3 млн IOPS при випадковому читанні блоками по 4K або 512 байт. Однак ІІ-моделі використовують часті та дрібні звернення до даних, де важливіша мінімальна затримка, а не пропускна здатність.
Kioxia вже розробляє SSD на базі XL-Flash, здатний досягти 10 млн IOPS при 512B-операціях, і розраховує випустити пристрій у другій половині 2026 року, синхронно із платформою NVIDIA Vera Rubin. Тим не менш, Досягнення планки 100 мільйонів IOPS на одному SSD вимагає або кардинально нових носіїв, або масивів з декількох накопичувачів.
За словами Куо, колишня альтернатива в особі Intel Optane була б ідеальною, але технологія закрита, і тепер індустрії доведеться шукати новий тип енергонезалежної пам'яті. жодна з них поки не забезпечує бажаного балансу між швидкістю, вартістю та енергоспоживанням..
