Spis treści
Centrum danych AI to miejsce, w którym działa sztuczna inteligencja
Centrum danych AI to wyspecjalizowany obiekt, w którym znajduje się sprzęt komputerowy niezbędny do tworzenia, wdrażania i obsługi systemów sztucznej inteligencji. Może ono obsługiwać procesy uczenia modeli, wnioskowania, przetwarzania danych, asystentów wyszukiwania, generowania obrazów, systemów rekomendacji lub korporacyjnych aplikacji opartych na sztucznej inteligencji.
Termin „centrum danych” może sprawiać, że infrastruktura ta wydaje się abstrakcyjna, ale w rzeczywistości są to fizyczne budynki podłączone do sieci energetycznych, sieci światłowodowych, systemów chłodzenia oraz infrastruktury odprowadzającej wodę lub ciepło. Sztuczna inteligencja może kojarzyć się z oprogramowaniem, ale opiera się na prawdziwych maszynach znajdujących się w rzeczywistych lokalizacjach.
Tradycyjne centrum danych w chmurze może obsługiwać wiele różnych rodzajów obciążeń. Centrum danych oparte na sztucznej inteligencji jest zazwyczaj zoptymalizowane pod kątem bardzo intensywnych obliczeń, zwłaszcza klastrów procesorów graficznych (GPU) lub akceleratorów, które wykonują ogromną liczbę równoległych operacji matematycznych.
Co znajduje się w centrum danych wykorzystującym sztuczną inteligencję?
Sercem całej instalacji są szafy serwerowe. W ośrodkach zajmujących się sztuczną inteligencją wiele z tych serwerów jest wyposażonych w procesory graficzne (GPU), akceleratory AI, pamięć o dużej przepustowości oraz specjalistyczne karty sieciowe. Urządzenia te zostały zaprojektowane z myślą o szybkim przesyłaniu danych i wydajnym wykonywaniu obliczeń macierzowych.
Wokół sprzętu obliczeniowego funkcjonuje rozbudowany system wsparcia: pamięć masowa na zbiory danych i punkty kontrolne modeli, przełączniki sieciowe, połączenia światłowodowe, urządzenia do przetwarzania energii, systemy tworzenia kopii zapasowych, systemy monitorowania, systemy przeciwpożarowe oraz zabezpieczenia fizyczne.
Chłodzenie jest równie ważne jak obliczenia. Sprzęt do przetwarzania intensywnych obliczeń AI nieustannie wytwarza ciepło, dlatego w obiektach stosuje się chłodzenie powietrzem, chłodzenie cieczą, agregaty chłodnicze, pompy, wieże chłodnicze lub wymienniki ciepła – w zależności od projektu i lokalnych warunków.
Czym wyróżnia się centrum danych oparte na sztucznej inteligencji?
Główną różnicą jest gęstość obciążenia oraz jego charakter. Trening modeli sztucznej inteligencji może przez długi czas angażować tysiące akceleratorów, podczas gdy systemy wnioskowania muszą szybko reagować na polecenia użytkowników, wywołania API, rekomendacje lub generowane obrazy.
Klastry AI wymagają również niezwykle szybkiej komunikacji między maszynami. Podczas uczenia procesory graficzne (GPU) nieustannie wymieniają między sobą gradienty i dane modelu. Podczas wnioskowania serwery muszą wczytywać wagi modelu, przetwarzać kontekst i zwracać wyniki z niewielkim opóźnieniem.
To połączenie gęsto rozmieszczonych układów scalonych, wysokiego poboru mocy, szybkiej łączności sieciowej i zarządzania ciepłem sprawia, że infrastruktura sztucznej inteligencji stawia większe wymagania niż wiele tradycyjnych obciążeń internetowych lub korporacyjnych.
Centra danych AI obsługują procesy uczenia i wnioskowania
Trening to etap, w którym model uczy się na podstawie danych. Może on wymagać dużych zbiorów danych, długotrwałych obliczeń, powtarzających się operacji oraz współdziałania klastrów procesorów graficznych (GPU). Jest to często najbardziej widoczny rodzaj obliczeń w dziedzinie sztucznej inteligencji, ponieważ generuje duże, skoncentrowane zapotrzebowanie na infrastrukturę.
Inferencja to etap, na którym wykorzystywany jest wytrenowany model. Każda odpowiedź chatbota, generowanie obrazu, reakcja asystenta wyszukiwania lub żądanie klasyfikacji wymaga przeprowadzenia inferencji. Pojedyncze żądanie może być niewielkie, ale globalne wykorzystanie generuje ciągłe zapotrzebowanie.
Wiele centrów danych zajmujących się sztuczną inteligencją obsługuje obie fazy, choć nie zawsze w ten sam sposób. W przypadku uczenia kluczowe znaczenie mają duże, zsynchronizowane klastry, natomiast w przypadku wnioskowania dużą wagę przywiązuje się do opóźnień, dostępności, routingu, przetwarzania wsadowego oraz kosztu na żądanie.
Zasilanie i chłodzenie mają decydujący wpływ na każde centrum danych wykorzystujące sztuczną inteligencję
Sprzęt wykorzystujący sztuczną inteligencję zużywa energię elektryczną, a niemal cała ta energia ostatecznie zamienia się w ciepło. Obiekt musi zatem dysponować wystarczającym zasilaniem, aby zapewnić działanie sprzętu, oraz wystarczającą wydajnością chłodniczą, aby niezawodnie odprowadzać ciepło.
Właśnie dlatego o centrach danych wykorzystujących sztuczną inteligencję często mówi się w kategoriach megawatów lub gigawatów, a nie tylko w metrach kwadratowych. Czynnikiem ograniczającym może być raczej przyłącze do sieci energetycznej, transformatory, rezerwowe źródła zasilania, woda chłodząca, odprowadzanie ciepła lub lokalne pozwolenia, a nie sama powierzchnia gruntu.
Lepsze układy scalone, chłodzenie cieczą oraz bardziej wydajna konstrukcja centrów danych mogą zmniejszyć zużycie energii na jedno zadanie, jednak całkowite zapotrzebowanie na energię może nadal rosnąć, jeśli wykorzystanie sztucznej inteligencji będzie się rozwijać szybciej niż poprawia się wydajność.
Gdzie powstają centra danych wykorzystujące sztuczną inteligencję?
Centra danych AI powstają w miejscach, gdzie operatorzy mogą połączyć dostęp do energii elektrycznej, gruntów, łączności światłowodowej, rozwiązań chłodniczych, warunków podatkowych i pozwoleniowych, dostępności siły roboczej oraz bliskości użytkowników lub regionów chmury.
Niektóre lokalizacje są publicznie określane jako ośrodki superkomputerów AI lub infrastruktury AI. Inne to ogólne regiony chmury hiperskalowej, które mogą obsługiwać obciążenia związane ze sztuczną inteligencją, ale nie są publicznie powiązane z żadnym konkretnym modelem ani produktem.
Ogólny przegląd dla osób, które podchodzą do tematu z rezerwą, można znaleźć w powiązanym wpisie: Gdzie znajdują się centra danych obsługujące sztuczną inteligencję?.
Dlaczego centra danych oparte na sztucznej inteligencji mają znaczenie
Centra danych sztucznej inteligencji mają duże znaczenie, ponieważ łączą codzienne zastosowania sztucznej inteligencji z infrastrukturą fizyczną. Polecenie wprowadzone na laptopie lub telefonie może uruchomić obliczenia na serwerach z procesorami graficznymi (GPU), które wymagają zasilania elektrycznego, chłodzenia, wody, układów scalonych, terenu oraz sieci.
Mają one również znaczenie dla lokalnych społeczności. Duże obiekty mogą przyciągać inwestycje i tworzyć miejsca pracy, ale mogą też budzić wątpliwości dotyczące przepustowości sieci energetycznej, zużycia wody, zagospodarowania terenu, hałasu, emisji, przejrzystości oraz tego, kto pokrywa koszty infrastruktury pomocniczej.
Poważna dyskusja na temat wpływu sztucznej inteligencji musi zatem wykraczać poza abstrakcyjne możliwości modeli. Musi ona uwzględniać miejsce, w którym działa infrastruktura, sposób jej zasilania, efektywność chłodzenia oraz stopień przejrzystości, z jaką operatorzy informują o wykorzystaniu zasobów.