Какво представлява центърът за данни с изкуствен интелект?

Центърът за изкуствен интелект е специализирано съоръжение, в което се намира изчислителното оборудване, необходимо за създаването, внедряването и експлоатацията на системи за изкуствен интелект. Той може да поддържа обучение на модели, извличане на заключения, обработка на данни, асистенти за търсене, генериране на изображения, системи за препоръки или корпоративни приложения за изкуствен интелект.

Изразът „център за данни“ може да създаде впечатление, че инфраструктурата е нещо абстрактно, но всъщност става дума за физически сгради, свързани с електроенергийни мрежи, оптични мрежи, системи за охлаждане и инфраструктура за отвеждане на вода или топлина. Изкуственият интелект може да изглежда като софтуер, но той разчита на реални машини, разположени на реални места.

Обикновеният облачен център за данни може да обработва много различни видове работни натоварвания. Центърът за данни за изкуствен интелект обикновено е оптимизиран за изчисления с много висока плътност, особено за GPU или ускорителни клъстери, които изпълняват огромен брой паралелни математически операции.

В основата на системата стоят редици от сървъри. В центровете за изкуствен интелект много от тези сървъри съдържат графични процесори (GPU), ускорители за изкуствен интелект, памет с висока пропускателна способност и специализирани мрежови карти. Тези машини са проектирани да прехвърлят данни бързо и да извършват матрични изчисления ефективно.

Около изчислителния хардуер е изградена по-широка поддържаща система: хранилища за набори от данни и контролни точки на моделите, мрежови комутатори, оптични връзки, оборудване за преобразуване на електроенергия, системи за резервно копиране, мониторинг, противопожарна защита и физическа сигурност.

Охлаждането е също толкова важно, колкото и изчислителната мощност. Хардуерът за изкуствен интелект с висока плътност непрекъснато генерира топлина, затова в съоръженията се използват въздушно охлаждане, течно охлаждане, охладители, помпи, охладителни кули или топлообменници в зависимост от проекта и местните условия.

Основната разлика се състои в интензивността и характера на натоварването. Обучението на изкуствен интелект може да заема хиляди ускорители за продължителни периоди, докато системите за извличане на заключения трябва да реагират бързо на потребителски команди, API-заявки, препоръки или генерирани изображения.

Клъстерите с изкуствен интелект също се нуждаят от изключително бърза комуникация между машините. По време на обучението графичните процесори (GPU) постоянно обменят градиенти и данни от модела. По време на извличането на заключения сървърите трябва да зареждат теглата на модела, да обработват контекста и да връщат резултати с ниска латентност.

Тази комбинация от чипове с висока плътност, голям разход на енергия, бърза мрежова връзка и управление на топлината прави инфраструктурата за изкуствен интелект по-взискателна от много традиционни уеб или корпоративни работни натоварвания.

Обучението е фазата, в която моделът се обучава въз основа на данни. То може да изисква големи масиви от данни, продължителни изчислителни цикли, повтарящи се изчисления и групи от графични процесори, работещи съвместно. Това често е най-забележимият вид изчислителна мощност за изкуствен интелект, тъй като генерира голямо и концентрирано търсене на инфраструктура.

Инференцията е фазата, в която се използва обучен модел. Всеки отговор на чатбот, генериране на изображение, отговор на асистента за търсене или заявка за класификация изисква инференция. Една заявка може да е малка, но глобалното използване създава непрекъснато търсене.

Много центрове за данни за изкуствен интелект поддържат и двете фази, макар и не винаги по един и същ начин. При обучението се обръща внимание на големи синхронизирани клъстери, докато при извличането на заключения се обръща голямо внимание на латентността, достъпността, маршрутизацията, обработката на партиди и разходите на заявка.

Хардуерът за изкуствен интелект се захранва с електроенергия, като почти цялата тази електроенергия в крайна сметка се превръща в топлина. Поради това дадено съоръжение се нуждае от достатъчно електрозахранване за работата на оборудването и от достатъчен охладителен капацитет за надеждно отнемане на топлината.

Ето защо капацитетът на центровете за изкуствен интелект често се измерва в мегавати или гигавати, а не само в квадратни метри. Ограничаващият фактор може да бъде свързването към електропреносната мрежа, трансформаторите, резервните генератори, водата за охлаждане, отвеждането на топлината или местните разрешителни, а не само площта на терена.

По-добрите чипове, течното охлаждане и по-ефективният дизайн на центровете за данни могат да намалят енергопотреблението на задача, но общото потребление все пак може да нарасне, ако използването на изкуствен интелект се разраства по-бързо, отколкото се подобрява ефективността.

Центърът за изкуствен интелект се изгражда на места, където операторите могат да съчетаят електроенергия, земя, оптична връзка, възможности за охлаждане, данъчни условия и изисквания за разрешителни, наличност на работна ръка и близост до потребителите или облачните региони.

Някои локации са официално определени като обекти за суперкомпютри за изкуствен интелект или инфраструктура за изкуствен интелект. Други са общи хипермащабни облачни региони, които могат да изпълняват задачи, свързани с изкуствен интелект, но не са официално свързани с конкретен модел или продукт.

За общ преглед, изготвен с оглед на предпазливост, вижте съпътстващия списък: Къде се намират центровете за изкуствен интелект?.

Центърът за данни за изкуствен интелект е от значение, защото свързва ежедневното използване на изкуствения интелект с физическата инфраструктура. Една команда, въведена на лаптоп или телефон, може да задейства изчислителни процеси в сървъри с графични процесори (GPU), които разчитат на електроенергия, охлаждане, вода, чипове, земя и мрежи.

Те са от значение и за местните общности. Големите съоръжения могат да донесат инвестиции и работни места, но могат и да породят въпроси относно капацитета на електропреносната мрежа, използването на вода, използването на земя, шума, емисиите, прозрачността и това кой поема разходите за поддържащата инфраструктура.

Ето защо един сериозен разговор за въздействието на изкуствения интелект трябва да погледне отвъд абстрактните възможности на моделите. Той трябва да обхваща къде се намира инфраструктурата, как се захранва, колко ефективно се охлажда и доколко прозрачно операторите ѝ отчитат използването на ресурсите.