BlockBeats News, 6 августа — Ахмед Шихаб, директор по продуктам Western Digital, в своем посте заявил, что ключ к конкуренции в сфере хранения данных для ИИ заключается не просто в стремлении к самому быстрому носителю, а в возможности непрерывного расширения емкости при доступной стоимости. Он считает, что многие архитектуры хорошо работают на ранних этапах, но когда объем данных вырастает с однозначных петабайт до сотен петабайт или даже эксабайт, могут проявиться потенциальные проблемы с затратами.

Флэш-память подходит для сценариев с высокой производительностью и низкой задержкой, таких как веса моделей, переполнение GPU, KV-кэш и контекст сессии; HDD больше подходят для крупномасштабных, долгосрочных и чувствительных к стоимости данных, таких как обучающие корпуса, логи, контрольные точки, записи о соответствии требованиям, синтетические данные и результаты вывода. Он резюмировал это так: «Флэш-память отвечает за настоящее, HDD — за весь жизненный цикл».

В масштабах ИИ стоимость хранения сама по себе становится архитектурной проблемой. Длительное хранение больших объемов данных на высокопроизводительных носителях будет посягать на бюджеты, выделенные на вычисления, сетевую инфраструктуру, электропитание и персонал. Для многих пакетных рабочих нагрузок хранения вопрос заключается не в том, может ли флэш-память хранить данные, а в том, смогут ли клиенты выдержать полную стоимость долгосрочного использования флэш-памяти.

В будущем в сфере хранения данных для ИИ не будет доминировать какая-то одна технология; системы должны проектироваться многоуровневыми, исходя из производительности, стоимости, энергопотребления, плотности, надежности и жизненного цикла данных. Он подчеркнул, что это не конкуренция между флэш-памятью и HDD, а необходимость подбора подходящих носителей для различных рабочих нагрузок с самого начала; в противном случае архитектура может повлиять на устойчивость бизнеса по мере его масштабирования.