Оптические межсоединения для центров обработки данных искусственного интеллекта: от подключаемых оптических модулей к комплексной оптике

Оптические соединения для центров обработки данных искусственного интеллекта— это высокоскоростные каналы передачи данных, которые используют свет для перемещения информации между графическими процессорами, коммутаторами, стойками и системами центров обработки данных. Они имеют значение, поскольку крупным кластерам искусственного интеллекта требуется нечто большее, чем просто вычислительная мощность: им также требуется высокоскоростное, малозадержное и энергоэффективное перемещение данных между многими устройствами.

В течение последних нескольких лет большинство дискуссий об инфраструктуре искусственного интеллекта было сосредоточено на графических процессорах. Такая направленность понятна, поскольку графические процессоры обеспечивают параллельные вычисления, необходимые для крупномасштабного обучения и вывода. Но кластер графических процессоров — это не просто набор ускорителей. Это распределенная вычислительная система, а распределенные системы ограничены не только тем, насколько быстро может выполнять вычисления каждый процессор, но и тем, насколько быстро данные могут перемещаться между процессорами.

Когда тысячи графических процессоров работают вместе, межсоединение становится частью самой вычислительной системы. Если путь данных между графическими процессорами, коммутаторами и стойками не успевает, дорогие ускорители тратят больше времени на ожидание и меньше времени на вычисления. В этом смысле оптическое соединение не является темой периферийных сетей. Это один из физических уровней, который определяет, смогут ли крупные системы искусственного интеллекта эффективно использовать установленные вычислительные ресурсы.

Обучение ИИ — это самый простой способ увидеть проблему. Большая модель может содержать огромное количество параметров, намного превышающее то, что может хранить или эффективно обрабатывать один графический процессор. Рабочая нагрузка распределена между многими акселераторами. Каждый графический процессор вычисляет часть задачи, а затем обменивается промежуточными результатами с другими графическими процессорами. Этот обмен может происходить неоднократно во время обучения, создавая интенсивный трафик с востока на запад внутри кластера ИИ.

Вывод также раньше выглядел проще. В более раннем поколении приложений ИИ было разумно представить, что запрос обрабатывается небольшим количеством графических процессоров. Современный вывод движется в сторону более сложных рассуждений, более длинного контекста, поиска, использования инструментов, планирования и агентных рабочих процессов. В этих случаях системе может потребоваться координировать больше вычислительных ресурсов на большем количестве шагов. В результате логический вывод также может стать рабочей нагрузкой, чувствительной к межсетевому взаимодействию, особенно когда развертывание обслуживает множество пользователей в большом масштабе.

Практический урок прост: как только рабочие нагрузки ИИ требуют, чтобы множество процессоров действовали как одна система,Пропускная способность межсоединения графического процессорастановится частью уравнения производительности.

Обучение и вывод оказывают различное давление на сеть, но оба зависят от перемещения данных.

Во время обучения графические процессоры обмениваются градиентами, активациями, параметрами и промежуточными данными. Чем более распределена модель и чем больше кластер, тем более важными становятся синхронизация и обмен данными. Во время вывода давление зависит от дизайна рабочей нагрузки. Простой вывод запрос-ответ может не нагружать сеть так сильно, как обучение, но многоэтапное рассуждение, извлечение и агентное выполнение могут улучшить связь между вычислительными узлами, системами хранения и группами ускорителей.

Вот почему оптические межсоединения стали центральными в архитектуре центров обработки данных с искусственным интеллектом. Проблема уже не только в том, как создавать более быстрые чипы. Это также то, как соединить эти чипы таким образом, чтобы поддерживать высокую пропускную способность, управляемое расстояние, низкую задержку и контролировать энергопотребление.

Медь по-прежнему занимает важное место в системах искусственного интеллекта. Для очень коротких электрических путей внутри сервера, шасси или плотно интегрированного шкафа медь может быть эффективной, удобной в обслуживании и экономичной. Проблема возникает, когда тот же подход на основе медных проводов применяется в сторону более высоких скоростей линий, более длинных каналов и более крупных топологий кластера.

На высоких скоростях медные каналы сталкиваются с тремя взаимосвязанными ограничениями: целостность сигнала, радиус действия и мощность. Чем выше скорость передачи данных, тем труднее становится передавать чистые электрические сигналы на расстояние. Пассивная медь обычно ограничивается короткими соединениями. Решения с использованием активной меди могут расширить охват за счет добавления электроники, но эта электроника увеличивает мощность, тепло, стоимость и усложняет конструкцию.

Технология SerDes позволила создать очень высокоскоростные электрические интерфейсы, но более высокие скорости передачи сигналов делают медные каналы более чувствительными к потерям, отражениям, перекрестным помехам и сложности выравнивания. По мере того как системы искусственного интеллекта переходят к более быстрым электрическим линиям, эффективный охват меди становится все более зависимым от продукта и архитектуры.

Это не означает, что медь исчезает. Это означает, что медь все чаще используется там, где ее сильные стороны по-прежнему соответствуют физическому расстоянию: короткие, строго контролируемые электрические пути. Как только линия связи выходит за пределы нескольких метров или когда многие каналы должны работать плотно в системе масштаба стойки или кластера, оптические каналы становятся более привлекательными.

Самое важное различие заключается не в абстрактном «медь против волокна». Реальное различие заключается в расстоянии канала и системном уровне.

Внутри шкафа графические процессоры и микросхемы переключателей могут обмениваться данными по очень коротким электрическим путям. В таких системах, как шкафы с графическими процессорами высокой плотности, многие внутренние соединения могут оставаться электрическими, поскольку физическое расстояние невелико. Но связи между стойками, шкафами и центрами обработки данных создают другую проблему. Эти расстояния длиннее, количество каналов выше, а стоимость потери сигнала становится гораздо более заметной на уровне системы.

Медь все еще можно спроектировать для конкретных применений на близком расстоянии. Оптоволокно становится привлекательным, когда архитектура требует высокой пропускной способности для более длинных или более распределенных соединений.

Межсетевое питание — это не просто позиция в спецификации компонента. В масштабе центра обработки данных искусственного интеллекта тысячи или миллионы высокоскоростных линий могут превратить мощность канала в серьезное ограничение при проектировании. Активные медные каналы, таймеры, выравнивание и управление температурным режимом — все это увеличивает нагрузку на систему.

Последний инженерный вопрос заключается не только в том, может ли ссылка работать. Вопрос в том, сможет ли эта связь работать в масштабе, в пределах энергетической и тепловой оболочки плотного объекта искусственного интеллекта. Это одна из причин, по которой оптические межсоединения перешли из темы сетевых технологий в тему инфраструктуры искусственного интеллекта.

Медное и оптоволоконное межсоединение в центрах обработки данных с искусственным интеллектом

Волоконно-оптические линии связи используют свет, а не электрический ток для передачи информации. Это дает им несколько преимуществ в центрах обработки данных с искусственным интеллектом: высокая пропускная способность, большая дальность действия, невосприимчивость к электромагнитным помехам и лучшая пригодность для плотных высокоскоростных каналов связи на расстоянии.

Ценность оптоволокна особенно очевидна, когда система должна соединить несколько стоек, несколько шкафов или несколько залов обработки данных. Электрические медные сигналы ухудшаются с расстоянием и скоростью. Оптические сигналы могут передаваться гораздо дальше, сохраняя при этом высокие скорости передачи данных, что делает оптоволокно естественным выбором для распределенных кластеров искусственного интеллекта.

ВДМ, или мультиплексирование с разделением по длине волны, позволяет нескольким оптическим длинам волны проходить через одно и то же волокно одновременно. Каждая длина волны может нести отдельный поток данных. На практике WDM превращает одно волокно в несколько параллельных оптических каналов.

Это одна из причин, по которой оптические каналы масштабируются иначе, чем медные. Вместо добавления отдельного физического проводника для каждого пути трафика оптические системы могут увеличить пропускную способность за счет объединения каналов длины волны, более высоких форматов модуляции и более быстрых оптических компонентов.

Многоволновая передача WDM по одному волокну

Правильный инженерный выбор зависит от расстояния, пропускной способности, стоимости, удобства обслуживания и теплового расчета. Медь остается полезной в коротких контролируемых звеньях. Оптоволокно становится все более важным по мере расширения кластеров ИИ.

Аподключаемый оптический трансиверпредставляет собой модуль, который преобразует электрические сигналы в оптические сигналы и оптические сигналы обратно в электрические сигналы. Одна сторона электрически подключается к коммутатору, сетевому интерфейсу или системной плате. Другая сторона подключается к оптическому волокну.

В центрах обработки данных искусственного интеллекта подключаемые оптические модули особенно важны для связи между шкафами, стойками и коммутаторами. Обычно они не являются основной технологией для каждого короткого звена внутри корпуса графического процессора. Это различие важно, поскольку оно предотвращает распространенное недоразумение: оптические модули не заменяют автоматически всю внутреннюю проводку графического процессора.

Внутри шкафа с графическими процессорами высокой плотности расстояние между графическими процессорами, коммутаторами и платами может составлять от нескольких сантиметров до нескольких метров. Электрические связи здесь все еще могут иметь смысл, особенно если система спроектирована как тесно интегрированная единица.

Когда трафик покидает статив и перемещается в другую стойку, другой коммутатор или другое помещение, требования к каналу изменяются. Расстояние становится больше, количество каналов растет, а оптические модули становятся более привлекательными.

Полезный способ подумать об иерархии:

Цепочка спроса проста. Больше графических процессоров требует большего количества систем. Для большего количества систем требуется больше шкафов. Большему количеству шкафов требуется больше высокоскоростных соединений между шкафами и коммутаторами. По мере увеличения количества этих каналов растет спрос на оптические модули.

Вот почему оптические трансиверы стали тесно связаны с ростом инфраструктуры искусственного интеллекта. Модуль не представляет ценности, поскольку представляет собой отдельный блок. Это ценно, поскольку позволяет физической сети работать как единая система с большими кластерами графических процессоров.

Подключаемый оптический трансивер снаружи выглядит просто, но внутри он сочетает в себе оптику, электронику, полупроводники, упаковку и прецизионную юстировку. Основными компонентами являются лазер, модулятор, фотодетектор, DSP и система оптической связи.

Внутри подключаемого оптического трансивера

Лазерный диод обеспечивает источник света для оптического сигнала. Он не обязательно несет данные сам по себе. Вместо этого он создает стабильную оптическую несущую, которую можно модулировать.

Материальная система имеет значение. Кремний отлично подходит для цифровой логики, но он не является эффективным излучателем света. В оптических лазерах обычно используются составные полупроводники III-V, такие какИнПилиGaAs, потому что эти материалы гораздо лучше подходят для генерации света.

В оптических модулях и связанных с ними системах встречается несколько типов лазеров:

Переход от традиционной подключаемой оптики к кремниевой фотонике и CPO меняет роль лазера. Во многих сменных модулях лазер и модулятор могут быть тесно интегрированы. В конструкциях типа CPO лазер может располагаться снаружи корпуса в качестве внешнего источника света, а модуляция происходит внутри кремниевого фотонного чипа.

Модулятор — это компонент, который превращает пустой оптический носитель в сигнал, несущий данные. Он принимает поток электрических данных и изменяет оптический сигнал так, чтобы единицы и нули можно было представить интенсивностью света или фазовым поведением.

Два важных подхода к модуляции:ЕАМиМЗИ.

Модулятор электропоглощения изменяет степень поглощения света материалом при подаче напряжения. Его можно интегрировать с лазером для формирования ЭМЛ, который широко используется в обычных высокоскоростных оптических модулях.

Модулятор интерферометра Маха-Цендера работает иначе. Он разделяет свет на два пути, меняет фазу на одном пути, а затем снова объединяет свет. В зависимости от фазового соотношения рекомбинированный сигнал может становиться сильнее или слабее. Этот подход важен в кремниевой фотонике, поскольку его можно реализовать с использованием кремниевых волноводных структур.

На приемной стороне оптический сигнал должен быть преобразован обратно в электрический сигнал. В этом заключается роль фотодетектора.

Фотодетектор использует фотоэлектрический эффект: попадающие фотоны возбуждают носители в полупроводниковом материале, создавая ток. Хороший фотодетектор должен быстро реагировать, генерировать достаточный ток при слабой оптической мощности и поддерживать низкий уровень шума.

Особенно важны три параметра:

В кремниевой фотонике германий часто используется для фотодетектирования, поскольку сам кремний неэффективен для поглощения обычных телекоммуникационных длин волн, таких как 1310 нм и 1550 нм. Это один из примеров того, что кремниевая фотоника по-прежнему зависит от тщательной интеграции материалов, а не только от чистого кремния.

ЦСП— это механизм цифровой обработки сигналов внутри многих высокоскоростных оптических модулей. Он помогает кодировать, выравнивать, восстанавливать и очищать сигнал.

На высоких скоростях оптическая связь не просто передает простые импульсы включения-выключения. Современные модули часто используютПАМ4, что представляет собой два бита на символ с использованием четырех уровней сигнала. PAM4 повышает эффективность использования полосы пропускания, но также делает сигнал более чувствительным к шуму и искажениям. DSP помогает восстановить нужные данные из этого несовершенного сигнала.

Дорожная карта скорости оптических модулей изменилась с 400G до 800G, а развертывание 1,6T и более высокоскоростные конструкции подталкивают отрасль к более быстрым электрическим и оптическим линиям. Точная архитектура зависит от конструкции модуля, количества линий, схемы модуляции и системных требований, но тенденция очевидна: каждое поколение оказывает все большее давление на DSP, оптику, упаковку и процесс тестирования.

Последней важной функцией является оптическая связь. Свет, генерируемый или обрабатываемый на чипе, должен попадать в волокно с очень высокой точностью. Ширина сердцевины одномодового волокна составляет всего около 8–9 микрометров, поэтому связь представляет собой проблему выравнивания микронного масштаба.

Двумя распространенными подходами являются стыковое соединение и решетчатое соединение.

Стыковая муфтанаправляет свет прямо с края чипа в волокно. Это может быть эффективно, но требует согласованности.Решетчатая муфтаиспользует узорчатую структуру на поверхности чипа для перенаправления света в волновод или из него. Это может обеспечить большую точность выравнивания в некоторых конструкциях, но также учитывает длину волны и эффективность.

В масштабе производства задача состоит не в том, чтобы просто один раз продемонстрировать оптическое соединение. Задача состоит в том, чтобы сделать это многократно, надежно и экономично в больших объемах.

Оптический модуль можно понимать как систему двустороннего перевода. При передаче он преобразует электрические данные в оптические. При приеме он преобразует оптические данные обратно в электрические данные.

Поток электрических, оптических и электрических сигналов

В направлении передачи графический процессор или ASIC коммутатора посылают электрический сигнал в сторону оптического модуля. DSP формирует сигнал. Модулятор накладывает информацию на свет от лазерного источника. Затем соединительная оптика направляет этот свет в волокно.

В направлении приема свет выходит из волокна и направляется на фотодетектор. Фотодетектор преобразует оптический сигнал в ток. Затем DSP восстанавливает данные, исправляет искажения и отправляет полезный электрический сигнал обратно в систему.

Это электрооптоэлектрическое преобразование является основой сменных оптических межсоединений.

Оптические модули объединяют два полупроводниковых мира, которые естественным образом не сливаются.

Первый — это кремниевый цифровой мир. DSP — это микросхемы на основе кремния. Они полагаются на усовершенствованную конструкцию КМОП, цифровую обработку сигналов и высокоскоростные электрические интерфейсы.

Второй — оптический мир соединений-полупроводников. Лазеры, многие модуляторы и некоторые фотодетекторы основаны на таких материалах, как InP и GaAs. Эти материалы используются потому, что они могут эффективно генерировать, модулировать или обнаруживать свет, чего не может сделать кремний.

Кремниевый DSP против производства оптических чипов InP

DSP по своей сути является цифровым чипом. Он занимается символами, кодированием, коррекцией, выравниванием и восстановлением сигнала. Его барьерами являются алгоритмическая сложность, высокоскоростная конструкция со смешанными сигналами и передовая полупроводниковая реализация.

Это ближе к миру процессоров, графических процессоров, коммутаторов и сетевых ASIC, чем к миру лазерного производства. Поэтому команды разработчиков, технологические процессы и партнеры-производители отличаются от тех, которые используются для оптических устройств на основе соединения полупроводника.

Оптические устройства InP и GaAs относятся к разным технологическим экосистемам. Пластины меньше, материалы ведут себя по-другому, химия процесса другая, а оптические характеристики во многом зависят от эпитаксии, контроля дефектов и структуры устройства.

Ведущий завод по литью кремния не является автоматически ведущим производителем InP-лазеров. Оборудование, рецепты, знания материалов и проблемы с урожайностью различны. Это одна из причин, по которой цепочки поставок оптических межсоединений более распределены, чем цепочки поставок графических процессоров.

Подложка – это основной материал, на котором построено оптическое устройство. Для лазеров на основе InP качество материала имеет решающее значение, поскольку дефекты могут повлиять на оптическое устройство, выращенное над ним.

Эпитаксия — это процесс выращивания функциональных слоев на подложке. В лазерных устройствах эти слои могут включать в себя структуры с квантовыми ямами, в которых электроны и дырки рекомбинируют с испусканием фотонов. Толщина слоя, состав и легирование должны строго контролироваться. Небольшие отклонения могут сместить длину волны, снизить эффективность или снизить надежность.

Вот почему производство сложных полупроводников — это не просто «производство чипов из другого материала». Это специализированная дисциплина производства оптических устройств.

Кремниевая фотоника ПОСТехнология использует кремниевые структуры для направления, модуляции, разделения, объединения и обнаружения света на интегрированном чипе. Это важно, поскольку оно приближает оптические функции к миру производства и упаковки современной электроники.

PIC кремниевой фотоники не означает, что все оптические функции выполнены только из кремния. Кремний может направлять свет и поддерживать компактные волноводы, модуляторы и схемы интеграции. Но кремний не является эффективным источником света, поэтому внешние или отдельно интегрированные лазеры III-V остаются важными.

Кремниевая фотоника часто использует в качестве платформы КНИ или кремний на изоляторе. Проще говоря, SOI представляет собой слой кремния, отделенный от подложки изолирующим оксидным слоем. Высокий контраст показателей преломления между кремнием и диоксидом кремния помогает удерживать свет внутри компактных кремниевых волноводов.

Эти волноводы действуют как оптические провода на чипе. Они направляют свет между модуляторами, разветвителями, соединителями, детекторами и другими оптическими структурами.

Ключевым ограничением является генерация света. Кремний полезен для управления светом, но неэффективен в качестве материала для лазеров. Вот почему системы кремниевой фотоники часто используют лазерные источники на основе InP.

Такое разделение труда занимает центральное место в архитектуре CPO. PIC кремниевой фотоники может располагаться рядом с ASIC и обеспечивать волноводство, модуляцию и обнаружение. Лазер может оставаться вне корпуса в качестве внешнего источника света, подавая непрерывный свет на фотонный чип.

Сборная оптика, илиCPO, перемещает оптические функции ближе к ASIC коммутатора, вычислительной архитектуре, связанной с графическим процессором, или электронике уровня корпуса. Вместо того, чтобы размещать все функции оптического преобразования в подключаемом модуле в задней части системы, CPO интегрирует оптические механизмы гораздо ближе к чипу.

NVIDIA описывает свой подход к переключению CPOкак замена подключаемых трансиверов кремниевой фотоникой в ​​том же корпусе, что и ASIC. Broadcom аналогичным образом описывает свою архитектуру коммутатора CPO Ethernet как интеграцию оптических механизмов в общий пакет с коммутатором. Инженерная цель — сократить электрическое расстояние, снизить нагрузку на высокоскоростную электрическую передачу сигналов и повысить энергоэффективность при высокой плотности полосы пропускания.

Упрощенная архитектура CPO включает четыре основных блока:

Архитектура CPO с кремниевой фотоникой PIC и внешним лазерным источником

Архитектурный сдвиг заключается в расположении оптического интерфейса. В подключаемом модуле электрические сигналы передаются от чипа или платы к модулю. В CPO оптический интерфейс приближается к корпусу ASIC. Этот более короткий электрический путь является основной причиной привлекательности CPO для сетей искусственного интеллекта с очень высокой плотностью.

CPO не устраняет лазеры. Меняется то, где они сидят и что делают.

Внешние лазерные источники могут обеспечивать непрерывный свет кремниевого фотонного двигателя, оставаясь при этом за пределами самой горячей и сложной части корпуса. Это помогает улучшить удобство обслуживания и тепловой расчет. Если лазер находится вне корпуса, его можно рассматривать как сменный источник оптической энергии, а не как неотъемлемую часть корпуса ASIC.

Лазерный источник по-прежнему обычно основан на материалах III-V, таких как InP. Кремниевая фотоника может приблизить оптическую маршрутизацию и модуляцию к ASIC, но для этого все равно необходим правильный источник света.

CPO не следует понимать как универсальную замену сменной оптики. Две архитектуры обслуживают разные уровни сети центров обработки данных.

Подробности блога

О нас

Направление компании

сертификации

Новости

Свяжитесь с нами

Оптические межсоединения для центров обработки данных искусственного интеллекта: от подключаемых оптических модулей к комплексной оптике

2026-05-29

Что такое оптические межсоединения в центрах обработки данных искусственного интеллекта?

Оптические соединения для центров обработки данных искусственного интеллекта— это высокоскоростные каналы передачи данных, которые используют свет для перемещения информации между графическими процессорами, коммутаторами, стойками и системами центров обработки данных. Они имеют значение, поскольку крупным кластерам искусственного интеллекта требуется нечто большее, чем просто вычислительная мощность: им также требуется высокоскоростное, малозадержное и энергоэффективное перемещение данных между многими устройствами.

В течение последних нескольких лет большинство дискуссий об инфраструктуре искусственного интеллекта было сосредоточено на графических процессорах. Такая направленность понятна, поскольку графические процессоры обеспечивают параллельные вычисления, необходимые для крупномасштабного обучения и вывода. Но кластер графических процессоров — это не просто набор ускорителей. Это распределенная вычислительная система, а распределенные системы ограничены не только тем, насколько быстро может выполнять вычисления каждый процессор, но и тем, насколько быстро данные могут перемещаться между процессорами.

Когда тысячи графических процессоров работают вместе, межсоединение становится частью самой вычислительной системы. Если путь данных между графическими процессорами, коммутаторами и стойками не успевает, дорогие ускорители тратят больше времени на ожидание и меньше времени на вычисления. В этом смысле оптическое соединение не является темой периферийных сетей. Это один из физических уровней, который определяет, смогут ли крупные системы искусственного интеллекта эффективно использовать установленные вычислительные ресурсы.

Почему кластерам графических процессоров нужно больше, чем просто вычисления

Обучение ИИ — это самый простой способ увидеть проблему. Большая модель может содержать огромное количество параметров, намного превышающее то, что может хранить или эффективно обрабатывать один графический процессор. Рабочая нагрузка распределена между многими акселераторами. Каждый графический процессор вычисляет часть задачи, а затем обменивается промежуточными результатами с другими графическими процессорами. Этот обмен может происходить неоднократно во время обучения, создавая интенсивный трафик с востока на запад внутри кластера ИИ.

Вывод также раньше выглядел проще. В более раннем поколении приложений ИИ было разумно представить, что запрос обрабатывается небольшим количеством графических процессоров. Современный вывод движется в сторону более сложных рассуждений, более длинного контекста, поиска, использования инструментов, планирования и агентных рабочих процессов. В этих случаях системе может потребоваться координировать больше вычислительных ресурсов на большем количестве шагов. В результате логический вывод также может стать рабочей нагрузкой, чувствительной к межсетевому взаимодействию, особенно когда развертывание обслуживает множество пользователей в большом масштабе.

Практический урок прост: как только рабочие нагрузки ИИ требуют, чтобы множество процессоров действовали как одна система,Пропускная способность межсоединения графического процессорастановится частью уравнения производительности.

Обучение, логический вывод и рабочие нагрузки агентного ИИ

Обучение и вывод оказывают различное давление на сеть, но оба зависят от перемещения данных.

Во время обучения графические процессоры обмениваются градиентами, активациями, параметрами и промежуточными данными. Чем более распределена модель и чем больше кластер, тем более важными становятся синхронизация и обмен данными. Во время вывода давление зависит от дизайна рабочей нагрузки. Простой вывод запрос-ответ может не нагружать сеть так сильно, как обучение, но многоэтапное рассуждение, извлечение и агентное выполнение могут улучшить связь между вычислительными узлами, системами хранения и группами ускорителей.

Вот почему оптические межсоединения стали центральными в архитектуре центров обработки данных с искусственным интеллектом. Проблема уже не только в том, как создавать более быстрые чипы. Это также то, как соединить эти чипы таким образом, чтобы поддерживать высокую пропускную способность, управляемое расстояние, низкую задержку и контролировать энергопотребление.

Почему медные межсоединения достигают пределов в инфраструктуре искусственного интеллекта

Медь по-прежнему занимает важное место в системах искусственного интеллекта. Для очень коротких электрических путей внутри сервера, шасси или плотно интегрированного шкафа медь может быть эффективной, удобной в обслуживании и экономичной. Проблема возникает, когда тот же подход на основе медных проводов применяется в сторону более высоких скоростей линий, более длинных каналов и более крупных топологий кластера.

На высоких скоростях медные каналы сталкиваются с тремя взаимосвязанными ограничениями: целостность сигнала, радиус действия и мощность. Чем выше скорость передачи данных, тем труднее становится передавать чистые электрические сигналы на расстояние. Пассивная медь обычно ограничивается короткими соединениями. Решения с использованием активной меди могут расширить охват за счет добавления электроники, но эта электроника увеличивает мощность, тепло, стоимость и усложняет конструкцию.

Пропускная способность и масштабирование SerDes

Технология SerDes позволила создать очень высокоскоростные электрические интерфейсы, но более высокие скорости передачи сигналов делают медные каналы более чувствительными к потерям, отражениям, перекрестным помехам и сложности выравнивания. По мере того как системы искусственного интеллекта переходят к более быстрым электрическим линиям, эффективный охват меди становится все более зависимым от продукта и архитектуры.

Это не означает, что медь исчезает. Это означает, что медь все чаще используется там, где ее сильные стороны по-прежнему соответствуют физическому расстоянию: короткие, строго контролируемые электрические пути. Как только линия связи выходит за пределы нескольких метров или когда многие каналы должны работать плотно в системе масштаба стойки или кластера, оптические каналы становятся более привлекательными.

Досягаемость, целостность сигнала и расстояние на уровне шкафа

Самое важное различие заключается не в абстрактном «медь против волокна». Реальное различие заключается в расстоянии канала и системном уровне.

Внутри шкафа графические процессоры и микросхемы переключателей могут обмениваться данными по очень коротким электрическим путям. В таких системах, как шкафы с графическими процессорами высокой плотности, многие внутренние соединения могут оставаться электрическими, поскольку физическое расстояние невелико. Но связи между стойками, шкафами и центрами обработки данных создают другую проблему. Эти расстояния длиннее, количество каналов выше, а стоимость потери сигнала становится гораздо более заметной на уровне системы.

Медь все еще можно спроектировать для конкретных применений на близком расстоянии. Оптоволокно становится привлекательным, когда архитектура требует высокой пропускной способности для более длинных или более распределенных соединений.

Потребляемая мощность и тепловое давление

Межсетевое питание — это не просто позиция в спецификации компонента. В масштабе центра обработки данных искусственного интеллекта тысячи или миллионы высокоскоростных линий могут превратить мощность канала в серьезное ограничение при проектировании. Активные медные каналы, таймеры, выравнивание и управление температурным режимом — все это увеличивает нагрузку на систему.

Последний инженерный вопрос заключается не только в том, может ли ссылка работать. Вопрос в том, сможет ли эта связь работать в масштабе, в пределах энергетической и тепловой оболочки плотного объекта искусственного интеллекта. Это одна из причин, по которой оптические межсоединения перешли из темы сетевых технологий в тему инфраструктуры искусственного интеллекта.

Медное и оптоволоконное межсоединение в центрах обработки данных с искусственным интеллектом

Волоконно-оптические каналы связи: пропускная способность, радиус действия, мощность и WDM

Волоконно-оптические линии связи используют свет, а не электрический ток для передачи информации. Это дает им несколько преимуществ в центрах обработки данных с искусственным интеллектом: высокая пропускная способность, большая дальность действия, невосприимчивость к электромагнитным помехам и лучшая пригодность для плотных высокоскоростных каналов связи на расстоянии.

Ценность оптоволокна особенно очевидна, когда система должна соединить несколько стоек, несколько шкафов или несколько залов обработки данных. Электрические медные сигналы ухудшаются с расстоянием и скоростью. Оптические сигналы могут передаваться гораздо дальше, сохраняя при этом высокие скорости передачи данных, что делает оптоволокно естественным выбором для распределенных кластеров искусственного интеллекта.

Почему WDM увеличивает пропускную способность одного волокна

ВДМ, или мультиплексирование с разделением по длине волны, позволяет нескольким оптическим длинам волны проходить через одно и то же волокно одновременно. Каждая длина волны может нести отдельный поток данных. На практике WDM превращает одно волокно в несколько параллельных оптических каналов.

Это одна из причин, по которой оптические каналы масштабируются иначе, чем медные. Вместо добавления отдельного физического проводника для каждого пути трафика оптические системы могут увеличить пропускную способность за счет объединения каналов длины волны, более высоких форматов модуляции и более быстрых оптических компонентов.

Многоволновая передача WDM по одному волокну

Сравнение медных и оптоволоконных межсоединений

Измерение	Медное межсоединение	Волоконно-оптическое соединение
Тип сигнала	Электрический сигнал	Оптический сигнал
Оптимальное расстояние	Очень короткие внутренние ссылки	Стойка, шкаф, кластер и каналы связи на большие расстояния
Задача высокоскоростного масштабирования	Потери, перекрестные помехи, выравнивание, активная электроника	Характеристики оптических компонентов, связь, конструкция модуля
Поведение электромагнитных помех	Восприимчив к электромагнитным помехам	Невосприимчивость к электромагнитным помехам
Силовое давление	Может увеличиваться при активном формировании сигнала	Часто более выгодно по сравнению с более длинными высокоскоростными соединениями.
Мультиплексирование	Ограничено по сравнению с оптическим мультиплексированием длин волн.	Поддерживает WDM для нескольких длин волн в одном волокне.
Типичная роль ИИ-центра обработки данных	Короткие внутренние электрические пути	Оптические пути «стойка-стойка», «коммутатор-коммутатор», масштаб кластера

Правильный инженерный выбор зависит от расстояния, пропускной способности, стоимости, удобства обслуживания и теплового расчета. Медь остается полезной в коротких контролируемых звеньях. Оптоволокно становится все более важным по мере расширения кластеров ИИ.

Аподключаемый оптический трансиверпредставляет собой модуль, который преобразует электрические сигналы в оптические сигналы и оптические сигналы обратно в электрические сигналы. Одна сторона электрически подключается к коммутатору, сетевому интерфейсу или системной плате. Другая сторона подключается к оптическому волокну.

В центрах обработки данных искусственного интеллекта подключаемые оптические модули особенно важны для связи между шкафами, стойками и коммутаторами. Обычно они не являются основной технологией для каждого короткого звена внутри корпуса графического процессора. Это различие важно, поскольку оно предотвращает распространенное недоразумение: оптические модули не заменяют автоматически всю внутреннюю проводку графического процессора.

Внутри шкафа с графическими процессорами высокой плотности расстояние между графическими процессорами, коммутаторами и платами может составлять от нескольких сантиметров до нескольких метров. Электрические связи здесь все еще могут иметь смысл, особенно если система спроектирована как тесно интегрированная единица.

Когда трафик покидает статив и перемещается в другую стойку, другой коммутатор или другое помещение, требования к каналу изменяются. Расстояние становится больше, количество каналов растет, а оптические модули становятся более привлекательными.

Полезный способ подумать об иерархии:

Цепочка спроса проста. Больше графических процессоров требует большего количества систем. Для большего количества систем требуется больше шкафов. Большему количеству шкафов требуется больше высокоскоростных соединений между шкафами и коммутаторами. По мере увеличения количества этих каналов растет спрос на оптические модули.

Вот почему оптические трансиверы стали тесно связаны с ростом инфраструктуры искусственного интеллекта. Модуль не представляет ценности, поскольку представляет собой отдельный блок. Это ценно, поскольку позволяет физической сети работать как единая система с большими кластерами графических процессоров.

Подключаемый оптический трансивер снаружи выглядит просто, но внутри он сочетает в себе оптику, электронику, полупроводники, упаковку и прецизионную юстировку. Основными компонентами являются лазер, модулятор, фотодетектор, DSP и система оптической связи.

Внутри подключаемого оптического трансивера

Лазерный диод обеспечивает источник света для оптического сигнала. Он не обязательно несет данные сам по себе. Вместо этого он создает стабильную оптическую несущую, которую можно модулировать.

Материальная система имеет значение. Кремний отлично подходит для цифровой логики, но он не является эффективным излучателем света. В оптических лазерах обычно используются составные полупроводники III-V, такие какИнПилиGaAs, потому что эти материалы гораздо лучше подходят для генерации света.

В оптических модулях и связанных с ними системах встречается несколько типов лазеров:

Переход от традиционной подключаемой оптики к кремниевой фотонике и CPO меняет роль лазера. Во многих сменных модулях лазер и модулятор могут быть тесно интегрированы. В конструкциях типа CPO лазер может располагаться снаружи корпуса в качестве внешнего источника света, а модуляция происходит внутри кремниевого фотонного чипа.

Модулятор — это компонент, который превращает пустой оптический носитель в сигнал, несущий данные. Он принимает поток электрических данных и изменяет оптический сигнал так, чтобы единицы и нули можно было представить интенсивностью света или фазовым поведением.

Два важных подхода к модуляции:ЕАМиМЗИ.

Модулятор электропоглощения изменяет степень поглощения света материалом при подаче напряжения. Его можно интегрировать с лазером для формирования ЭМЛ, который широко используется в обычных высокоскоростных оптических модулях.

Модулятор интерферометра Маха-Цендера работает иначе. Он разделяет свет на два пути, меняет фазу на одном пути, а затем снова объединяет свет. В зависимости от фазового соотношения рекомбинированный сигнал может становиться сильнее или слабее. Этот подход важен в кремниевой фотонике, поскольку его можно реализовать с использованием кремниевых волноводных структур.

На приемной стороне оптический сигнал должен быть преобразован обратно в электрический сигнал. В этом заключается роль фотодетектора.

Фотодетектор использует фотоэлектрический эффект: попадающие фотоны возбуждают носители в полупроводниковом материале, создавая ток. Хороший фотодетектор должен быстро реагировать, генерировать достаточный ток при слабой оптической мощности и поддерживать низкий уровень шума.

Особенно важны три параметра:

В кремниевой фотонике германий часто используется для фотодетектирования, поскольку сам кремний неэффективен для поглощения обычных телекоммуникационных длин волн, таких как 1310 нм и 1550 нм. Это один из примеров того, что кремниевая фотоника по-прежнему зависит от тщательной интеграции материалов, а не только от чистого кремния.

ЦСП— это механизм цифровой обработки сигналов внутри многих высокоскоростных оптических модулей. Он помогает кодировать, выравнивать, восстанавливать и очищать сигнал.

На высоких скоростях оптическая связь не просто передает простые импульсы включения-выключения. Современные модули часто используютПАМ4, что представляет собой два бита на символ с использованием четырех уровней сигнала. PAM4 повышает эффективность использования полосы пропускания, но также делает сигнал более чувствительным к шуму и искажениям. DSP помогает восстановить нужные данные из этого несовершенного сигнала.

Дорожная карта скорости оптических модулей изменилась с 400G до 800G, а развертывание 1,6T и более высокоскоростные конструкции подталкивают отрасль к более быстрым электрическим и оптическим линиям. Точная архитектура зависит от конструкции модуля, количества линий, схемы модуляции и системных требований, но тенденция очевидна: каждое поколение оказывает все большее давление на DSP, оптику, упаковку и процесс тестирования.

Последней важной функцией является оптическая связь. Свет, генерируемый или обрабатываемый на чипе, должен попадать в волокно с очень высокой точностью. Ширина сердцевины одномодового волокна составляет всего около 8–9 микрометров, поэтому связь представляет собой проблему выравнивания микронного масштаба.

Двумя распространенными подходами являются стыковое соединение и решетчатое соединение.

Стыковая муфтанаправляет свет прямо с края чипа в волокно. Это может быть эффективно, но требует согласованности.Решетчатая муфтаиспользует узорчатую структуру на поверхности чипа для перенаправления света в волновод или из него. Это может обеспечить большую точность выравнивания в некоторых конструкциях, но также учитывает длину волны и эффективность.

В масштабе производства задача состоит не в том, чтобы просто один раз продемонстрировать оптическое соединение. Задача состоит в том, чтобы сделать это многократно, надежно и экономично в больших объемах.

Оптический модуль можно понимать как систему двустороннего перевода. При передаче он преобразует электрические данные в оптические. При приеме он преобразует оптические данные обратно в электрические данные.

Поток электрических, оптических и электрических сигналов

В направлении передачи графический процессор или ASIC коммутатора посылают электрический сигнал в сторону оптического модуля. DSP формирует сигнал. Модулятор накладывает информацию на свет от лазерного источника. Затем соединительная оптика направляет этот свет в волокно.

В направлении приема свет выходит из волокна и направляется на фотодетектор. Фотодетектор преобразует оптический сигнал в ток. Затем DSP восстанавливает данные, исправляет искажения и отправляет полезный электрический сигнал обратно в систему.

Это электрооптоэлектрическое преобразование является основой сменных оптических межсоединений.

Оптические модули объединяют два полупроводниковых мира, которые естественным образом не сливаются.

Первый — это кремниевый цифровой мир. DSP — это микросхемы на основе кремния. Они полагаются на усовершенствованную конструкцию КМОП, цифровую обработку сигналов и высокоскоростные электрические интерфейсы.

Второй — оптический мир соединений-полупроводников. Лазеры, многие модуляторы и некоторые фотодетекторы основаны на таких материалах, как InP и GaAs. Эти материалы используются потому, что они могут эффективно генерировать, модулировать или обнаруживать свет, чего не может сделать кремний.

Кремниевый DSP против производства оптических чипов InP

DSP по своей сути является цифровым чипом. Он занимается символами, кодированием, коррекцией, выравниванием и восстановлением сигнала. Его барьерами являются алгоритмическая сложность, высокоскоростная конструкция со смешанными сигналами и передовая полупроводниковая реализация.

Это ближе к миру процессоров, графических процессоров, коммутаторов и сетевых ASIC, чем к миру лазерного производства. Поэтому команды разработчиков, технологические процессы и партнеры-производители отличаются от тех, которые используются для оптических устройств на основе соединения полупроводника.

Оптические устройства InP и GaAs относятся к разным технологическим экосистемам. Пластины меньше, материалы ведут себя по-другому, химия процесса другая, а оптические характеристики во многом зависят от эпитаксии, контроля дефектов и структуры устройства.

Ведущий завод по литью кремния не является автоматически ведущим производителем InP-лазеров. Оборудование, рецепты, знания материалов и проблемы с урожайностью различны. Это одна из причин, по которой цепочки поставок оптических межсоединений более распределены, чем цепочки поставок графических процессоров.

Подложка – это основной материал, на котором построено оптическое устройство. Для лазеров на основе InP качество материала имеет решающее значение, поскольку дефекты могут повлиять на оптическое устройство, выращенное над ним.

Эпитаксия — это процесс выращивания функциональных слоев на подложке. В лазерных устройствах эти слои могут включать в себя структуры с квантовыми ямами, в которых электроны и дырки рекомбинируют с испусканием фотонов. Толщина слоя, состав и легирование должны строго контролироваться. Небольшие отклонения могут сместить длину волны, снизить эффективность или снизить надежность.

Вот почему производство сложных полупроводников — это не просто «производство чипов из другого материала». Это специализированная дисциплина производства оптических устройств.

Кремниевая фотоника ПОСТехнология использует кремниевые структуры для направления, модуляции, разделения, объединения и обнаружения света на интегрированном чипе. Это важно, поскольку оно приближает оптические функции к миру производства и упаковки современной электроники.

PIC кремниевой фотоники не означает, что все оптические функции выполнены только из кремния. Кремний может направлять свет и поддерживать компактные волноводы, модуляторы и схемы интеграции. Но кремний не является эффективным источником света, поэтому внешние или отдельно интегрированные лазеры III-V остаются важными.

Кремниевая фотоника часто использует в качестве платформы КНИ или кремний на изоляторе. Проще говоря, SOI представляет собой слой кремния, отделенный от подложки изолирующим оксидным слоем. Высокий контраст показателей преломления между кремнием и диоксидом кремния помогает удерживать свет внутри компактных кремниевых волноводов.

Эти волноводы действуют как оптические провода на чипе. Они направляют свет между модуляторами, разветвителями, соединителями, детекторами и другими оптическими структурами.

Ключевым ограничением является генерация света. Кремний полезен для управления светом, но неэффективен в качестве материала для лазеров. Вот почему системы кремниевой фотоники часто используют лазерные источники на основе InP.

Такое разделение труда занимает центральное место в архитектуре CPO. PIC кремниевой фотоники может располагаться рядом с ASIC и обеспечивать волноводство, модуляцию и обнаружение. Лазер может оставаться вне корпуса в качестве внешнего источника света, подавая непрерывный свет на фотонный чип.

Сборная оптика, илиCPO, перемещает оптические функции ближе к ASIC коммутатора, вычислительной архитектуре, связанной с графическим процессором, или электронике уровня корпуса. Вместо того, чтобы размещать все функции оптического преобразования в подключаемом модуле в задней части системы, CPO интегрирует оптические механизмы гораздо ближе к чипу.

NVIDIA описывает свой подход к переключению CPOкак замена подключаемых трансиверов кремниевой фотоникой в ​​том же корпусе, что и ASIC. Broadcom аналогичным образом описывает свою архитектуру коммутатора CPO Ethernet как интеграцию оптических механизмов в общий пакет с коммутатором. Инженерная цель — сократить электрическое расстояние, снизить нагрузку на высокоскоростную электрическую передачу сигналов и повысить энергоэффективность при высокой плотности полосы пропускания.

Упрощенная архитектура CPO включает четыре основных блока:

Архитектура CPO с кремниевой фотоникой PIC и внешним лазерным источником

Архитектурный сдвиг заключается в расположении оптического интерфейса. В подключаемом модуле электрические сигналы передаются от чипа или платы к модулю. В CPO оптический интерфейс приближается к корпусу ASIC. Этот более короткий электрический путь является основной причиной привлекательности CPO для сетей искусственного интеллекта с очень высокой плотностью.

CPO не устраняет лазеры. Меняется то, где они сидят и что делают.

Внешние лазерные источники могут обеспечивать непрерывный свет кремниевого фотонного двигателя, оставаясь при этом за пределами самой горячей и сложной части корпуса. Это помогает улучшить удобство обслуживания и тепловой расчет. Если лазер находится вне корпуса, его можно рассматривать как сменный источник оптической энергии, а не как неотъемлемую часть корпуса ASIC.

Лазерный источник по-прежнему обычно основан на материалах III-V, таких как InP. Кремниевая фотоника может приблизить оптическую маршрутизацию и модуляцию к ASIC, но для этого все равно необходим правильный источник света.

CPO не следует понимать как универсальную замену сменной оптики. Две архитектуры обслуживают разные уровни сети центров обработки данных.