«Проблема фотонной VRAM» реальна, поддаётся количественной оценке и носит структурный характер, но кремниевая фотоника не решает её одним шагом. Она решает её на протяжении трёх поэтапных горизонтов, и только первый из них применим уже сегодня. Это проверенное исследование: каждый приведённый ниже показатель восходит к рецензируемому или первичному источнику, а четыре наиболее привлекательных заявления вендоров, которые мы обнаружили, были состязательно опровергнуты и исключены из рекомендаций.
Понятнее всего это увидеть так: фотоника сначала исправляет межсоединение (энергию на бит и дальность), что косвенно возвращает ёмкость VRAM, высвобождая место на кромке кристалла. И только позже она исправляет размещение памяти за счёт оптической дезагрегации и пулинга — вот в чём и заключается настоящий выигрыш «фотонной VRAM». Сама по себе фотонная память (оптическая RAM, вычисления в памяти) остаётся исследовательской ставкой.
Суть. Внедряйте совместно упакованную / оптическую I/O для фабрики scale-up/scale-out уже сейчас (она также высвобождает прибрежную зону кромки под дополнительную локальную HBM); далее переходите к оптически объединённой в пул HBM, соглашаясь на «налог» доступа в ~200 нс ради эластичности ёмкости; относитесь к фотонным вычислениям в памяти как к страховке, а не как к плану. Стандартизируйтесь на UCIe-optical + семантику CXL, чтобы избежать привязки к вендору.
1. Проблема в цифрах
Узкое место — это стена памяти и межсоединений, а не стена вычислений. За примерно 20 лет (Gholami et al., AI and Memory Wall, IEEE Micro 2024) темпы масштабирования резко разошлись.
| Ось | Рост / 2 года | Итог за 20 лет | Вердикт |
|---|---|---|---|
| Пиковая серверная вычислительная мощность (FLOPS) | 3.0× | ~60 000× | вырывается вперёд |
| Пропускная способность DRAM | 1.6× | ~100× | отстаёт |
| Пропускная способность межсоединений | 1.4× | ~30× | отстаёт сильнее всего |
Вычисления обогнали пропускную способность памяти примерно в 600 раз, а межсоединений — примерно в 2000 раз. Поверх этого накладывается ещё одно: размер LLM-моделей вырос в 410× за 2 года, тогда как память одиночного GPU выросла лишь в 2× за 2 года. Этот разрыв вынуждает разбивать модели на множество ускорителей, превращая проблему ёмкости в проблему межсоединений — а именно там у фотоники есть рычаг воздействия. (Оговорка, перенесённая из этапа верификации: показатель 410× отражает флагманские/MoE-модели и завышает рост плотных моделей, но суть именно в разрыве.)
2. Почему HBM + электрический SerDes не закроют разрыв в одиночку
Два физических потолка, оба связанные с кромкой кристалла — периметром, который инженеры называют «прибрежной зоной» (beachfront):
- Вычисления масштабируются с площадью кристалла; I/O масштабируется с его периметром. HBM PHY и электрические SerDes конкурируют за одну и ту же конечную береговую линию — нельзя бесконечно наращивать и стеки памяти, и медные I/O.
- Электрические SerDes упираются в стену энергии на бит и дальности (несколько пДж/бит, ~десятки см). Наращивайте пропускную способность — и плотность мощности и целостность сигнала обрушиваются. Именно поэтому медь внутри стойки достигает предела.
Следствие: HBM3E→HBM4 продолжают наращивать стеки, но соотношение памяти к вычислениям намертво впаяно в корпус, а межсоединение, которое позволило бы объединять память в пул между корпусами, электрически ограничено. Проверенный отраслевой механизм — прокладка оптического соединения напрямую в XPU «высвобождает крайне ценную прибрежную зону кромки кристалла, которую можно перепрофилировать для существенного увеличения объёма HBM внутри корпуса XPU» — вот как технология межсоединений выкупает ёмкость.
3. Фотонный инструментарий — что на самом деле делает каждый подход
| Подход | Что делает | Что исправляет | Зрелость |
|---|---|---|---|
| Ayar Labs TeraPHY (оптический чиплет UCIe) | Заменяет краевые SerDes на DWDM-оптическую I/O; до 8 Тбит/с, 16-λ лазер SuperNova, ~5 пДж/бит; первый оптический чиплет UCIe → мультивендорный, независимый от протокола | Энергия и дальность канала; высвобождает прибрежную зону | Продукт / ближайшая перспектива |
| Celestial AI Photonic Fabric (приобретена Marvell, дек. 2025) | Оптические соединения chip-to-chip и chip-to-memory; 16 Тбит/с на чиплет; модуль Gen1 ~2.07 ТБ в пуле, 7.2 Тбит/с, ~200 нс | Дезагрегация / пулинг HBM | Проектная интеграция / среднесрочная перспектива |
| Lightmatter Passage | 3D-фотонный интерпозер + CPO, DWDM высокой плотности | Плотность пропускной способности корпуса | Зарождающаяся |
| Дорожная карта CPO от Nvidia / TSMC | Совместно упакованная оптика для коммутации scale-up/scale-out | Мощность фабрики + радиус (radix) | Эпоха 2026 |
| Оптический CXL / пулинг памяти | Пулы памяти масштаба стойки поверх семантики CXL | Эластичность ёмкости | Зарождающаяся |
| Фотонные вычисления в памяти (pSRAM) | Вычисления в оптической области, ~2.5 TOPS/Вт | Обмены между памятью и вычислениями | Исследования |
4. Количественная реализуемость (расчёт)
4.1 Энергия на бит — решающая метрика
Электрические SerDes находятся на уровне нескольких пДж/бит. Рецензируемая электроника оптических каналов работает в суб-пДж/бит режиме: 3D-интегрированный микрорезонаторный канал достигает ~120 фДж/бит суммарно (50 фДж/бит на TX при размахе 1 В + 70 фДж/бит на RX; Nature Photonics 2025), а тепловая подстройка DWDM снижается до ~313–334 фДж/бит (IEEE CICC 2024).
4.2 Плотность пропускной способности — где электрике не угнаться
Плотность по береговой линии достигает ~2.02 Тбит/с/мм (16.384 Тбит/с через кромку 8.10 мм; CICC 2024), а плотность по площади — 5.3 Тбит/с/мм² (3D-трансивер; Nature Photonics 2025) — обе за пределами практических электрических лимитов.
Честная сноска. Эти лабораторные показатели не учитывают лазер при КПД от розетки ~10%, а также стек DAC/ADC/SerDes. Системный пДж/бит существенно выше. Преимущество реально, но меньше, чем можно предположить по одним лишь цифрам электроники каналов.
Опровергнуто — не цитировать. Комбинированное заявление о «>2 Тбит/с/мм И суб-1 пДж/бит как доказанном масштабируемом пути die-to-die» было отвергнуто со счётом 0–3. Каждая цифра верна по отдельности; составное заявление о масштабе — нет.
4.3 Математика задержки дезагрегации — несущий компромисс
Доступ к локальной HBM составляет ~десятки нс; показатель пула Celestial Gen1 — ~200 нс. Эта надбавка в ~150 нс незаметна для ограниченной пропускной способностью потоковой передачи (трафик весов/активаций), но становится реальным налогом для ограниченного задержкой случайного доступа (KV-кэш, внимание во время декодирования). Именно это единственное число определяет, какие рабочие нагрузки терпят объединённую в пул VRAM — и оно опирается на одну цифру вендора, так что проверьте его прежде, чем брать на себя обязательства.
5. Спроектированное решение — три горизонта
Горизонт 1 (сейчас → ~2 года): оптическая фабрика, электрическая память
Проект. Держите HBM локальной и электрической; замените SerDes scale-up/scale-out на оптические I/O-чиплеты UCIe и коммутацию CPO. Стандартизируйтесь на электрическом интерфейсе UCIe + независимом от протокола оптическом PHY, чтобы одна и та же оптика несла CXL / NVLink / UALink / Ethernet.
Выигрыш. Снижение мощности канала на ~65–73% (Meta измерила 65%: 5.4 Вт против 15 Вт на 800G), увеличенная дальность и высвобожденная прибрежная зона → больше HBM в корпусе. Больше эффективной VRAM без изменения семантики памяти.
Компромисс. Пока не разрушает фиксированное соотношение HBM:вычисления и вносит риск обслуживаемости CPO (§6).
Горизонт 2 (~2–5 лет): оптически дезагрегированная / объединённая в пул HBM
Проект. Выведите HBM из корпуса в оптически подключаемые пулы памяти поверх CXL-подобных фабрик (шаблон Photonic Fabric / коммутатор Marvell CXL). Вычислительные узлы эластично берут ёмкость из общего пула.
Выигрыш. Настоящее исправление «фотонной VRAM» — ёмкость масштабируется независимо от кристалла GPU; подбирайте объём памяти под каждую задачу и перестаньте оставлять HBM невостребованной.
Компромисс и его смягчение. Налог в ~200 нс. Спроектируйте многоуровневую модель памяти — горячее / критичное к задержке состояние (KV-кэш, текущий слой) остаётся локальным; тёплое / ограниченное пропускной способностью состояние (веса, «холодные» эксперты, длинный контекст) живёт в оптическом пуле.
Горизонт 3 (5 лет+, исследовательская ставка): фотонные вычисления в памяти / в сети
Проект. Перенесите вычисления в оптическую / памятевую область — массивы вычислений в памяти pSRAM (~0.9–1.5 TOPS, ~2.5 TOPS/Вт, 0.5 пДж/переключение, изготовлены на GF 45SPCLO) и редукции вычислений в сети на фабрике.
Статус. Битовая ячейка изготовлена, но системная производительность смоделирована, а не измерена на кремнии. Страховка / объект наблюдения, а не план.
6. Риски — что на самом деле хоронит эту идею
Каждый из приведённых ниже рисков был проверен независимо. Решающие препятствия носят операционный, а не физический характер.
- КПД лазера от розетки ~10% (III-V-на-Si DFB ~16%). Неброская доминирующая потеря; каждый «суб-пДж/бит канал» тихо её не учитывает. Смягчение: внешние / общие банки лазеров (ELSFP).
- CPO ломает модель горячей замены. Вышедший из строя встроенный оптический движок может вынудить заменять весь корпус/плату вместо подключаемого модуля на передней панели — проблема операционной экономики. Смягчение: отсоединяемые оптические подузлы / внешне-лазерные FRU.
- Тепло 3D-стека. Вертикальное стекирование концентрирует тепло и может ограничить оптическую плотность раньше, чем это сделает физика приборов; 2.5D/латеральная интеграция деградирует более плавно. (Более сильное утверждение о том, что тепло — это единственный потолок, было опровергнуто со счётом 0–3.)
- Фрагментация экосистемы. Открытый вопрос: сойдётся ли рынок на UCIe-optical + CXL/UALink (мультивендорные пулы) или раздробится на проприетарные фабрики (NVLink, Marvell/Celestial). Ставящий под удар всю архитектуру риск стандартов.
7. Заявления, на которые сознательно НЕ опирались (состязательно опровергнуты)
Эти привлекательно звучащие заявления не пережили верификацию и исключены из рекомендаций:
| Опровергнутое заявление | Голосование | Примечание |
|---|---|---|
| Celestial Photonic Fabric «>в 2× энергоэффективнее меди» | 1–2 | Заявление вендора, недоказанное |
| «>2 Тбит/с/мм И суб-1 пДж/бит в масштабе» как единый доказанный пакет | 0–3 | Компоненты верны, композиция — нет |
| Выход гетерогенного CPO = произведению выходов кристаллов, ограничивающее масштаб | 1–2 | Завышено |
| «Потолок задаёт тепло, а не фотоника» | 0–3 | Серьёзное ограничение, но не жёсткая стена |
Также относитесь к показателям производительности вендоров (Celestial 16 Тбит/с / 25×, Ayar 8 Тбит/с) как к архитектурно проверенным, но не прошедшим независимый бенчмаркинг.
8. Конкретные рекомендации
- Внедряйте сначала на фабрике, память — позже. Оптическая I/O + CPO для scale-up/scale-out — единственная ступень с реальной отдачей уже сейчас (65–73% мощности канала, высвобожденная прибрежная зона → больше локальной HBM). Делайте это независимо от любой ставки на дезагрегацию.
- Стандартизируйтесь на UCIe-optical + семантику CXL. Единственный путь к мультивендорной оптически объединённой в пул памяти; хеджирует риск фрагментации. Избегайте намертво привязываться к одной проприетарной фабрике.
- Охарактеризуйте налог в ~200 нс на ваших рабочих нагрузках прежде, чем объединять в пул. Ограниченные пропускной способностью → объединяйте агрессивно. Ограниченное задержкой декодирование → держите локально. Явно постройте многоуровневую модель горячее/тёплое.
- Закладывайте бюджет на КПД лазера и обслуживаемость, а не только на пДж/бит канала. Именно они, а не физика приборов, тормозят внедрение. Требуйте проектов с внешним лазером / обслуживаемых на уровне FRU.
- Финансируйте фотонные вычисления в памяти только как объект наблюдения. Проверенной на кремнии системы пока нет.
9. Открытые вопросы, которые предстоит решить далее
- Истинная сквозная, системная энергия на бит оптических каналов с учётом мощности лазера от розетки (~10%) против электрического доступа HBM4/HBM3E — переживёт ли преимущество суб-пДж/бит полный учёт?
- Насколько сильно задержка пулинга в ~200 нс ухудшает реальные рабочие нагрузки со случайным доступом (KV-кэш, внимание) и какие нагрузки терпят объединённую в пул HBM, а какие требуют локальной HBM?
- Смогут ли обслуживаемость CPO и надёжность лазеров достичь приемлемой для дата-центров экономики FRU, и каких порогов MTBF/ремонта нужно достичь, прежде чем гиперскейлеры начнут заменять подключаемые модули в масштабе?
- Сойдётся ли экосистема на одном стеке стандартов (UCIe-optical + CXL/UALink) или раздробится на проприетарные фабрики?
Ключевые источники
- Gholami et al., AI and Memory Wall, IEEE Micro 2024 — arXiv:2403.14123
- Celestial AI, Photonic Fabric for Memory & Compute Disaggregation, OFC 2025 W3D.1 — Optica
- Пресс-релиз о приобретении Celestial AI компанией Marvell (дек. 2025) — investor.marvell.com
- Ayar Labs — первый в мире оптический чиплет UCIe (март 2025) — BusinessWire
- Columbia Lightwave, IEEE CICC 2024 (плотность по береговой линии, энергия тепловой подстройки) — PDF
- Nature Photonics 2025 (120 фДж/бит, 5.3 Тбит/с/мм²) — nature.com
- Nature Communications, дорожная карта кремниевой фотоники (КПД лазера от розетки) — PMC10811194
- IET Optoelectronics 2021 (развилка pluggable-против-CPO) — Wiley
- Вычисления в памяти pSRAM — arXiv:2602.00892