Зміст
Центр обробки даних штучного інтелекту — це місце, де працює штучний інтелект
Центр обробки даних штучного інтелекту — це спеціалізований об’єкт, у якому розміщено обчислювальне обладнання, необхідне для створення, впровадження та експлуатації систем штучного інтелекту. Він може забезпечувати навчання моделей, інференцію, обробку даних, роботу пошукових помічників, генерацію зображень, роботу систем рекомендацій або корпоративних додатків на базі штучного інтелекту.
Термін «центр обробки даних» може створювати враження, що ця інфраструктура є абстрактною, але насправді це фізичні будівлі, підключені до електромереж, оптоволоконних мереж, систем охолодження та інфраструктури відведення води або тепла. Штучний інтелект може здаватися програмним забезпеченням, але він залежить від реальних машин, розташованих у реальних місцях.
Звичайний хмарний центр обробки даних може виконувати різноманітні робочі навантаження. Центр обробки даних на базі штучного інтелекту, як правило, оптимізований для дуже інтенсивних обчислень, зокрема для кластерів графічних процесорів (GPU) або прискорювачів, які виконують величезну кількість паралельних математичних операцій.
Що знаходиться всередині центру обробки даних штучного інтелекту?
Основу системи становлять стелажі з серверами. У центрах штучного інтелекту багато з цих серверів оснащені графічними процесорами (GPU), прискорювачами штучного інтелекту, пам’яттю з високою пропускною здатністю та спеціалізованими мережевими картами. Ці машини призначені для швидкої передачі даних та ефективного виконання матричних обчислень.
Навколо обчислювального обладнання розгорнута масштабна система супровідних систем: системи зберігання даних та контрольних точок моделей, мережеві комутатори, оптоволоконні з’єднання, обладнання для перетворення електроенергії, системи резервного копіювання, системи моніторингу, системи пожежогасіння та фізична охорона.
Охолодження є не менш важливим, ніж обчислення. Потужне апаратне забезпечення для штучного інтелекту постійно виділяє тепло, тому на об’єктах, залежно від їхньої конструкції та місцевих умов, використовують повітряне охолодження, рідинне охолодження, холодильні установки, насоси, градирні або теплообмінники.
Чим відрізняється центр обробки даних на базі штучного інтелекту?
Головна відмінність полягає в інтенсивності та характері навантаження. Навчання штучного інтелекту може тривалий час завантажувати тисячі прискорювачів, тоді як системи інференції повинні швидко реагувати на запити користувачів, виклики API, рекомендації або згенеровані зображення.
Кластери на базі штучного інтелекту також потребують надзвичайно швидкого обміну даними між машинами. Під час навчання графічні процесори постійно обмінюються градієнтами та даними моделей. Під час інференції сервери повинні завантажувати ваги моделей, обробляти контекст і повертати результати з низькою затримкою.
Таке поєднання високої щільності мікросхем, значного енергоспоживання, швидких мережевих з’єднань та систем управління тепловідведенням робить інфраструктуру штучного інтелекту більш вимогливою, ніж багато традиційних веб-або корпоративних робочих навантажень.
Центри обробки даних штучного інтелекту забезпечують навчання та інференцію
Навчання — це етап, на якому модель навчається на основі даних. Для цього можуть знадобитися великі набори даних, тривалі цикли обробки, багаторазові обчислення та кластери графічних процесорів, що працюють у комплексі. Це часто є найбільш помітним видом обчислень у сфері штучного інтелекту, оскільки створює великий і сконцентрований попит на інфраструктуру.
Інференція — це етап, на якому використовується навчена модель. Кожна відповідь чат-бота, генерація зображення, відповідь пошукового помічника або запит на класифікацію супроводжуються інференцією. Один запит може бути невеликим, але глобальне використання створює постійний попит.
Багато центрів обробки даних штучного інтелекту підтримують обидві фази, хоча й не завжди однаково. Для навчання важливі великі синхронізовані кластери, тоді як для інференції на першому місці стоять затримка, доступність, маршрутизація, пакетна обробка та вартість одного запиту.
Енергозабезпечення та охолодження визначають структуру кожного центру обробки даних штучного інтелекту
Апаратне забезпечення штучного інтелекту потребує електроенергії, і майже вся ця електроенергія зрештою перетворюється на тепло. Тому об’єкту необхідне достатнє електропостачання для роботи обладнання та достатня потужність охолодження для надійного відведення тепла.
Саме тому про центри обробки даних для штучного інтелекту часто говорять у мегаватах чи гігаватах, а не лише у квадратних метрах. Обмежуючим фактором може бути підключення до електромережі, трансформатори, резервні джерела електроенергії, охолоджувальна вода, відведення тепла або місцеві дозволи, а не лише земельна ділянка.
Більш досконалі мікросхеми, рідинне охолодження та ефективніша конструкція центрів обробки даних можуть знизити енергоспоживання на одне завдання, але загальний попит все одно може зростати, якщо використання штучного інтелекту розширюватиметься швидше, ніж підвищуватиметься ефективність.
Де будуються центри обробки даних для штучного інтелекту?
Центри обробки даних для штучного інтелекту будуються там, де оператори можуть поєднати такі фактори, як електропостачання, земельні ділянки, оптоволоконне підключення, системи охолодження, податкові умови та умови отримання дозволів, наявність робочої сили, а також близькість до користувачів або хмарних регіонів.
Деякі об’єкти офіційно визначені як суперкомп’ютери для штучного інтелекту або об’єкти інфраструктури штучного інтелекту. Інші — це загальні гіпермасштабні хмарні регіони, які можуть виконувати робочі навантаження штучного інтелекту, але офіційно не пов’язані з жодною конкретною моделлю чи продуктом.
Для обережного загального огляду див. супутній перелік: Де розташовані центри обробки даних штучного інтелекту?.
Чому центри обробки даних на базі штучного інтелекту мають таке велике значення
Центри обробки даних для штучного інтелекту відіграють важливу роль, оскільки вони пов’язують повсякденне використання штучного інтелекту з фізичною інфраструктурою. Команда, введена на ноутбуці чи телефоні, може запустити обчислення на серверах з графічними процесорами, які потребують електроенергії, охолодження, води, мікросхем, земельних ділянок та мереж.
Вони також мають значення для місцевих громад. Великі об’єкти можуть приносити інвестиції та створювати робочі місця, але водночас можуть викликати питання щодо пропускної здатності енергомережі, використання води, землекористування, шуму, викидів, прозорості та того, хто оплачує витрати на супутню інфраструктуру.
Отже, серйозне обговорення впливу штучного інтелекту має виходити за межі абстрактних можливостей моделей. Воно має враховувати, де працює інфраструктура, як вона забезпечується енергією, наскільки ефективно здійснюється її охолодження та наскільки відкрито її оператори звітують про використання ресурсів.