На проведенной в начале августа конференции Future of Memory and Storage компания Samsung Electronics представила технологии памяти нового поколения, призванные снять ограничения в производительности, энергопотреблении и емкости памяти в инфраструктуре ИИ.
Технологической изюминкой анонса стало архитектурное решение трехмерной флеш‑памяти поколения V10, в которой массив ячеек памяти и периферийная логика изготавливаются на разных пластинах, а затем соединяются между собой (wafer bonding), — BV‑NAND (Bonding V‑NAND). По словам представителей компании, такая технология позволяет создавать устройства NAND с более чем 400 слоями, увеличивая плотность хранения данных примерно на 58% по сравнению с текущим поколением V9.
Эта архитектура повышает производительность чтения, записи и ввода-вывода при одновременном снижении энергопотребления, что делает ее более подходящей для серверов ИИ, SSD-накопители которых из-за современных ИИ‑нагрузок стали критическими компонентами конвейеров данных для графических и тензорных процессоров.
В Samsung представили также две перспективные концепции памяти, которые могут радикально изменить архитектуру систем ИИ. Первая, получившая название zHBM, предусматривает размещение HBM‑памяти непосредственно над ИИ‑ускорителем, а не рядом с процессором, как это делается сегодня.
Такая компоновка, которая сокращает расстояние передачи данных между процессором и памятью, может значительно увеличить пропускную способность при одновременном снижении энергопотребления и тепловыделения, утверждают в Samsung. По оценкам компании, сочетание этой архитектуры с технологией соединения wafer bonding может в конечном итоге обеспечить более чем в десять раз большую плотность памяти по сравнению с HBM5, рост энергоэффективности — в три раза, снижение теплового сопротивления — более чем наполовину.
zHBM — пока еще исследовательская концепция, которая демонстрирует, как производители памяти все активнее переходят к трехмерным решениям, чтобы продолжать масштабирование, поскольку традиционная 2D-упаковка становится все сложнее.
Еще одна концептуальная архитектура, призванная расширить возможности трехмерной памяти за пределы традиционных реализаций NAND — zNAND-O. Подробностей о ней немного, но в Samsung сообщили, что это высокопроизводительное решение на основе NAND-памяти нового поколения, созданное по технологии V-NAND и разрабатываемое в четырех- и восьмислойных версиях.
Представленные архитектурные решения, которые объединяет технология wafer bonding, отражают влияние ИИ на развитие отрасли и формирование направления развития чипов. Память HBM стала важнейшим компонентом ИИ‑вычислений, но очень быстро стали заметны ее ограничения в пропускной способности и производительности, резюмируют отраслевые эксперты.