Мережа епохи ШІ: джерела попиту та напрямки інновацій

Мережа відіграє ключову роль в епоху великих моделей ШІ. Зі швидким зростанням масштабів великих моделей попит на мережеві пристрої, такі як оптичні модулі, комутатори та інші, переживає вибух попиту та прискорення оновлень. У цій статті ми розглянемо з принципів, чому мережа стала новим фокусом в епоху ШІ, а також обговоримо інновації та інвестиційні можливості на мережевій стороні в умовах змін в галузі.

1. Джерела потреби в мережі

Увійшовши в еру великих моделей, різниця між масштабами моделей і обмеженнями однієї картки швидко розширюється, багатосерверні кластери стають неминучим вибором для вирішення задачі навчання моделей, що складає основу підвищення важливості мережі в епоху ШІ. На відміну від минулого, коли мережа використовувалася лише для передачі даних, зараз мережа більше використовується для синхронізації параметрів моделей між графічними картами, що ставить вищі вимоги до щільності та потужності мережі.

1.1 Все більший масштаб моделей

Час тренування = обсяг тренувальних даних × кількість параметрів моделі / швидкість обчислень Швидкість обчислення = Швидкість обчислення одного пристрою × Кількість пристроїв × Ефективність паралельної роботи кількох пристроїв

У контексті подвійного прагнення до розміру навчальних даних і параметрів, лише прискорення підвищення обчислювальної ефективності може скоротити час навчання. Підвищення швидкості обчислень на одному пристрої має циклічний характер і обмеження, тому те, як використовувати мережу для розширення "кількості пристроїв" та "паралельної ефективності", безпосередньо визначає рівень обчислювальної потужності.

1.2 Складна комунікація багатьох карт

Під час навчання великої моделі, після розподілу моделі на одиночні картки, після кожного обчислення потрібно виконувати вирівнювання між одиночними картками. У комунікаційних примітивах, таких як NCCL, операції типу All-to-All є досить поширеними, що висуває вищі вимоги до мережевої передачі та обміну.

1.3 Дорога вартість збоїв

Навчання великих моделей часто триває кілька місяців, і після перерви необхідно повернутися до точки зупинки для повторного навчання. Будь-яка несправність або висока затримка в мережі можуть призвести до перерви, що збільшує витрати та затримує графік. Сучасні AI-мережі вже перетворилися на складні системи інженерії, які можна порівняти з літаками, авіаносцями тощо.

2. Напрями мережевих інновацій

Після двох років розвитку, обсяг глобальних інвестицій у обчислювальну потужність досяг кількох сотень мільярдів доларів. Параметри моделі продовжують розширюватися, конкуренція між гігантами залишається жорсткою. На даний момент основними темами інновацій у мережі є "зниження витрат", "відкритість" та баланс обчислювальної потужності.

2.1 Зміна комунікаційних носіїв

Світло, мідь та кремній є основними засобами передачі. В еру штучного інтелекту оптичні модулі прагнуть до більшої швидкості, одночасно знижуючи витрати за допомогою рішень LPO, LRO, кремнієвої оптики тощо. Мідні кабелі завдяки співвідношенню ціни та якості та низькій ймовірності відмов займають перевагу в з'єднаннях у шафах. Нові технології, такі як Chiplet, Wafer-scaling, досліджують межі кремнієвої інтеграції.

2.2 Конкуренція мережевих протоколів

Протоколи зв'язку між чіпами, такі як NVLINK, Infinity Fabric тощо, сильно прив'язані до графічних процесорів та визначають межу обчислювальної потужності одного вузла, що є запеклою ареною між гігантами. Конкуренція між IB та Ethernet є основною темою зв'язку між вузлами.

2.3 Зміни в мережевій архітектурі

Поточна мережа вузлів зазвичай використовує архітектуру Leaf-Spine, яка має переваги у вигляді зручності, простоти та стабільності. Але зростання кількості вузлів в одному кластері робить архітектуру Leaf-Spine надмірною в надвеликому кластері, що призводить до значних витрат на мережу. Архітектури Dragonfly, rail-only та інші нові рішення можуть стати еволюційним напрямком для наступного покоління надвеликих кластерів.

3. Інвестиційні рекомендації

Ключові елементи комунікаційної системи: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communications, Hu Dian Co.

Інновації в системах зв'язку: YOFC, Zhongtian Technology, Hengtong Optoelectronics і Centec Communications.

4. Попередження про ризики

1. Попит на ШІ не відповідає очікуванням
2. Втрата закону масштабування
3. Загострення конкурентної боротьби в галузі