Содержание
Центр обработки данных ИИ — это место, где работает ИИ
Центр обработки данных для искусственного интеллекта — это специализированный объект, в котором размещается вычислительное оборудование, необходимое для создания, внедрения и эксплуатации систем искусственного интеллекта. Он может обеспечивать обучение моделей, инференцию, обработку данных, работу поисковых помощников, генерацию изображений, работу систем рекомендаций или корпоративных приложений на базе искусственного интеллекта.
Термин «центр обработки данных» может создавать впечатление, что речь идет об абстрактной инфраструктуре, однако на самом деле это физические здания, подключенные к электросетям, оптоволоконным сетям, системам охлаждения и инфраструктуре отвода воды или тепла. Искусственный интеллект может восприниматься как программное обеспечение, но он зависит от реальных машин, расположенных в реальных местах.
Обычный облачный центр обработки данных может обрабатывать самые разные виды рабочих нагрузок. Центр обработки данных на базе искусственного интеллекта, как правило, оптимизирован для выполнения вычислений с очень высокой плотностью, в частности для кластеров графических процессоров (GPU) или ускорителей, которые выполняют огромное количество параллельных математических операций.
Что находится внутри центра обработки данных для искусственного интеллекта?
Основу системы составляют серверные стойки. На объектах искусственного интеллекта многие из этих серверов оснащены графическими процессорами (GPU), ускорителями ИИ, памятью с высокой пропускной способностью и специализированными сетевыми картами. Эти машины предназначены для быстрого перемещения данных и эффективного выполнения матричных вычислений.
Вокруг вычислительного оборудования расположена более обширная система поддержки: хранилища для наборов данных и контрольных точек моделей, сетевые коммутаторы, оптоволоконные соединения, оборудование для преобразования электроэнергии, системы резервного копирования, средства мониторинга, системы пожаротушения и физическая охрана.
Охлаждение не менее важно, чем вычисления. Аппаратное обеспечение для высокопроизводительных систем искусственного интеллекта непрерывно выделяет тепло, поэтому на объектах используются системы воздушного и жидкостного охлаждения, чиллеры, насосы, градирни или теплообменники — в зависимости от конструкции оборудования и местных условий.
Чем отличается центр обработки данных на базе искусственного интеллекта?
Основное различие заключается в интенсивности и характере нагрузки. Обучение ИИ может обеспечивать загрузку тысяч ускорителей в течение длительного времени, тогда как системы инференса должны быстро реагировать на запросы пользователей, вызовы API, рекомендации или сгенерированные изображения.
Кластеры искусственного интеллекта также требуют чрезвычайно быстрой связи между машинами. В процессе обучения графические процессоры постоянно обмениваются градиентами и данными моделей. Во время инференса серверы должны загружать веса моделей, обрабатывать контекст и возвращать результаты с низкой задержкой.
Благодаря сочетанию высокоплотных микросхем, высокого энергопотребления, высокоскоростных сетевых подключений и систем управления тепловыделением инфраструктура искусственного интеллекта предъявляет более высокие требования, чем многие традиционные веб- или корпоративные рабочие нагрузки.
Центры обработки данных ИИ обеспечивают обучение и вычисления
Обучение — это этап, на котором модель обучается на данных. Для этого могут потребоваться большие наборы данных, длительные циклы обработки, многократные вычисления и кластеры графических процессоров, работающих совместно. Зачастую это наиболее заметный вид вычислений в сфере искусственного интеллекта, поскольку он создает значительную и сконцентрированную нагрузку на инфраструктуру.
Инференс — это этап, на котором используется обученная модель. Каждый ответ чат-бота, генерация изображения, ответ поискового помощника или запрос на классификацию сопровождаются выполнением инференса. Один запрос может быть небольшим, но его использование в глобальном масштабе создает постоянный спрос.
Многие центры обработки данных для ИИ поддерживают обе фазы, хотя и не всегда одинаково. При обучении основное внимание уделяется крупным синхронизированным кластерам, тогда как при инференции на первый план выходят такие факторы, как задержка, доступность, маршрутизация, пакетная обработка и стоимость одного запроса.
Энергоснабжение и охлаждение определяют особенности каждого центра обработки данных для ИИ
Оборудование для искусственного интеллекта потребляет электроэнергию, и практически вся эта электроэнергия в конечном итоге превращается в тепло. Поэтому на объекте необходимо обеспечить достаточную подачу электроэнергии для работы оборудования, а также достаточную мощность систем охлаждения для надежного отвода тепла.
Именно поэтому при обсуждении центров обработки данных для искусственного интеллекта речь часто идет о мегаваттах или гигаваттах, а не только о квадратных метрах. Ограничивающим фактором может стать подключение к энергосети, трансформаторы, резервные источники генерации, вода для охлаждения, отвод тепла или местные разрешения, а не только земельный участок.
Усовершенствованные микросхемы, жидкостное охлаждение и более эффективная архитектура центров обработки данных позволяют снизить энергопотребление на одну задачу, однако общий спрос на энергию может по-прежнему расти, если темпы внедрения ИИ будут опережать темпы повышения энергоэффективности.
Где строятся центры обработки данных для искусственного интеллекта?
Центры обработки данных для искусственного интеллекта строятся там, где операторы могут сочетать такие факторы, как электроснабжение, земельные участки, оптоволоконные линии связи, системы охлаждения, налоговые условия и условия получения разрешений, наличие квалифицированной рабочей силы, а также близость к пользователям или облачным регионам.
Некоторые объекты официально обозначены как суперкомпьютерные центры ИИ или объекты инфраструктуры ИИ. Другие представляют собой обычные гипермасштабируемые облачные регионы, в которых можно выполнять рабочие нагрузки ИИ, но которые официально не привязаны к какой-либо конкретной модели или продукту.
Общий обзор для тех, кто предпочитает осторожный подход, см. в сопутствующем списке: Где расположены центры обработки данных для искусственного интеллекта?.
Почему центры обработки данных для ИИ имеют такое большое значение
Центры обработки данных для ИИ играют важную роль, поскольку они связывают повседневное использование ИИ с физической инфраструктурой. Команда, введенная на ноутбуке или телефоне, может запустить вычисления на серверах с графическими процессорами, которые нуждаются в электроэнергии, охлаждении, воде, микросхемах, земельных участках и сетях.
Они также имеют значение для местных сообществ. Крупные объекты могут привлечь инвестиции и создать рабочие места, но при этом могут вызвать вопросы, касающиеся пропускной способности энергосистемы, водопользования, землепользования, шума, выбросов, прозрачности, а также того, кто будет оплачивать сопутствующую инфраструктуру.
Поэтому при серьезном обсуждении воздействия ИИ необходимо выйти за рамки абстрактных возможностей моделей. Необходимо учитывать, где работает инфраструктура, как она питается, насколько эффективно осуществляется её охлаждение и насколько открыто её операторы сообщают об использовании ресурсов.