Малюнок 1. Основні переваги упакованої оптики зі щільним мультиплексуванням по довжині хвилі (DWDMCPO). (Кредит зображення: Scintil Photonics)
У сфері проектування центрів обробки даних існує вислів: «Використовуйте мідні кабелі всюди, де це можливо, і вдавайтеся до оптичних технологій лише тоді, коли оптоволокно абсолютно необхідно». Протягом багатьох років прагматичний підхід галузі полягав у тому, щоб надавати пріоритет недорогим-кабелям з міді, доки закони фізики не вимагатимуть технологічного оновлення. Але сьогодні, коли обчислювальні кластери зі штучним інтелектом (ШІ) наближаються до масштабів «фабрик обчислювальної потужності», які розгортають мільйони графічних процесорів (GPU), а вартість-центрів обробки даних стикається з величезним тиском, люди виявляють, що ця «без{4}}оптика-альтернативна» технологічна точка перелому настала набагато раніше, ніж будь-хто інший передбачуваний.
Архітекторам мереж давно відомо, що мідні кабелі мають значні обмеження на відстань передавання за високо-швидкісних сценаріїв, але мало хто аналізував основні причини з фундаментальної фізичної точки зору. Незважаючи на те, що завдяки своєму досвіду мережеві інженери розширили межі відстані та пропускної здатності мідного кабелю до крайніх меж, обмеження законів фізики неможливо подолати; навіть найгеніальніші інженерні розробки намагаються подолати властиві обмеження мідних кабелів. Розуміння цього пояснює, чому галузь терміново переходить на технологію Co-Packaged Optics (CPO).
Чим вища частота електричних сигналів, що передаються через мідні кабелі, тим вище швидкість передачі символів і пропускна здатність, і тим більше інформації вони можуть передавати. Проблема полягає в тому, що зі збільшенням частоти сигналу відстань передачі значно зменшується. Існує дві основні причини втрати сигналу: скін-ефект і діелектричні втрати.
Скін-ефект: «Поверхнева концентрація» струму
Коли сигнал змінного струму проходить через мідний кабель, мінливе магнітне поле викликає вихрові струми в провіднику. Магнітне поле, створюване цими вихровими струмами, компенсує сигнальне магнітне поле в центрі кабелю. Чим швидше змінюється магнітне поле сигналу-, тобто чим вища частота-, тим сильнішим стає цей ефект скасування.
Прямим результатом є те, що струм «стискується» в надзвичайно тонкий поверхневий шар провідника; товщина цього шару відома як глибина шкіри. Поточна передача сигналу в центрах обробки даних ШІ зазвичай використовує частоти близько 53 ГГц. На цій частоті глибина оболонки мідних кабелів становить лише 0,3 мкм. Такий тонкий передавальний шар використовує менше 1% площі поперечного-перерізу провідника, спричиняючи різке зростання опору кабелю-навіть перевищення опору постійному струму більш ніж у 100 разів.
Діелектричні втрати: «розсіювання енергії» в шарі ізоляції
Іншою основною причиною ослаблення сигналу в мідних кабелях є діелектричні втрати. У сценаріях високої-частоти на рівні гігагерців молекули в ізоляційному діелектрику кабелю не можуть встигати за швидкими коливаннями електричного поля. Затримка між швидкими коливаннями електричного поля та запізнілою реакцією молекул перетворює електромагнітну енергію сигналу в теплову, що призводить до втрати енергії.
Подвійні втрати: фатальна слабкість мідних кабелів
Коли скін-ефект і діелектричні втрати діють узгоджено, втрати сигналу в мідних кабелях зростають експоненціально зі зростанням частоти.
Щоб чітко проілюструвати це: на частоті 50 ГГц, навіть із високоякісними-мідними кабелями, сукупні втрати від цих двох ефектів споживатимуть понад 90% бюджету потужності сигналу на відстані 2 метрів. Фізичні властивості мідних кабелів диктують непереборну основну суперечність: пропускна здатність і відстань передачі не можуть бути досягнуті одночасно.
Укомплектована оптика з мультиплексуванням щільної довжини хвилі (DWDMCPO)
Сьогодні вузьке місце для продуктивності навчальних кластерів штучного інтелекту перемістилося від-операцій із плаваючою комою за секунду (FLOPS) до вимог до пропускної здатності.
У масштабованих мережах із постійною пам’яттю необхідне нове покоління мережевих технологій, щоб задовольнити численні вимоги:
|Оскільки енергоспоживання стає обмежуючим фактором у розгортанні центрів обробки даних, потрібне менше енергоспоживання на біт;
| Оскільки операції-з плаваючою комою більше не є вузьким місцем, для кожного процесора потрібно забезпечити більшу пропускну здатність;
| Оскільки фізичний простір для розгортання оптоволокна стає обмеженим, необхідно досягти вищої щільності інтеграції;
| Щоб увімкнути-горизонтальне масштабування між стелажами, мають підтримуватися більші відстані передачі;
| Щоб підтримувати узгодженість домену пам’яті та покращувати використання GPU, необхідна над-низька затримка хвоста;
| Важливі також висока надійність і простота обслуговування.
Коли кінцева затримка стає основним обмеженням, виконання наведених вище вимог значно підвищить використання GPU (деякі оцінки моделі вказують на те, що використання може подвоїтися), суттєво зменшить енергоспоживання мережі та покращить-to-продуктивність моделі. Наразі DWDMCPO є єдиним технічним підходом, здатним одночасно задовольнити ці суворі вимоги, і він забезпечить операторам гіпермасштабованих центрів обробки даних далеко{3}}перетворення витрат-на користь.
Завдяки передачі кількох довжин хвиль світла по одному волокну технологія DWDMCPO надає кожному графічному процесору кілька широких низько{0}}швидкісних каналів. Масштабуючи кількість переданих довжин хвиль від 1 до 8, 16 або навіть більше, цей геометричний шаблон масштабування готовий зробити революцію в мережах ШІ, так само як технологія DWDM зробила революцію в магістралі Інтернету 25 років тому.
Швидкість одноканальної передачі-DWDM становить приблизно 50–64 Гбіт/с, що належить до категорії низько{3}}швидкісної передачі. Ця характеристика дозволяє інженерам спростити схему кодування даних від PAM4 до NRZ. Це спрощення усуває численні дорогі та енерго-інтенсивні етапи обробки сигналу, досягаючи подвійного зменшення енергоспоживання та затримки шляхом оптимізації шляху передачі сигналу.
Остаточна затримка є «тихим вбивцею», що знижує рентабельність інвестицій центру обробки даних. Коли кластери GPU обробляють маркери даних, їм потрібен безперервний передбачуваний вхідний потік бітів. Якщо один біт відчуває затримку передачі, решта кластера стає незадіяною, що значно знижує використання процесора. Зі збільшенням кількості процесорів у кластері ймовірність затримки хвостового біта рівня p999 значно зростає, а використання процесора відповідно знижується.
Без низької-затримки, низької-потужності,-технології DWDMCPO масштабованість мереж була б обмеженою, а продуктивність великих мовних моделей (LLM) була б обмеженою. Масштабні-масштабніші, плоскіші,-масштабовані мережі з низькою{5}}затримкою можуть підтримувати більші кеші-значень ключів, безпосередньо збільшуючи розмір вікна контексту моделі та релевантність вмісту, тим самим ефективно розширюючи ефективну робочу пам’ять LLM. Збільшена смуга пропускання-з низькою затримкою також має потенціал для збільшення кількості трансформаторних шарів, дозволяючи моделям глибше мислити та міркувати. Коротше кажучи: подолання обмежень зв’язку між мікросхемами дозволяє LLM зберігати більше інформації в робочій пам’яті та виконувати більше кроків міркування без заїкань.
Мідні кабелі, безсумнівно, були чудовою технологією свого часу, але властиві їм фізичні обмеження створили нагальну потребу в більш передових мережевих технологіях, щоб значно підвищити рентабельність інвестицій у гіпермасштабовані центри обробки даних і розширити можливості LLM.
За кілька років центри обробки даних зі штучним інтелектом, повністю побудовані на мідних кабелях, стануть такими ж неймовірними, як-інтернет-з’єднання на великій відстані, що покладаються виключно на мідь.
Оператори гіпермасштабованих центрів обробки даних, інвестори, розробники LLM та інші зацікавлені сторони в інфраструктурі штучного інтелекту повинні серйозно поставитися до цієї технологічної тенденції: вона не лише кардинально змінить-ландшафт ефективності витрат центрів обробки даних, але й постійно розширюватиме межі можливостей штучного інтелекту. Підприємства, які першими приймуть технологію DWDMCPO, отримають архітектурні переваги з точки зору вартості, енергоспоживання та продуктивності; ці переваги продовжуватимуть збільшуватися в міру розширення інфраструктури ШІ.
