Ce este un centru de date bazat pe inteligență artificială?

Un centru de date pentru IA este o instalație specializată care găzduiește echipamentele informatice necesare pentru construirea, implementarea și operarea sistemelor de inteligență artificială. Acesta poate susține antrenarea modelelor, inferența, prelucrarea datelor, asistenții de căutare, generarea de imagini, sistemele de recomandare sau aplicațiile de IA pentru întreprinderi.

Termenul „centru de date” poate da impresia că infrastructura este ceva abstract, dar este vorba de clădiri fizice conectate la rețelele electrice, la rețelele de fibră optică, la sistemele de răcire și la infrastructura de evacuare a apei sau a căldurii. Deși inteligența artificială poate părea a fi doar un software, ea se bazează pe mașini reale, amplasate în locuri reale.

Un centru de date cloud convențional poate rula numeroase tipuri de sarcini de lucru. Un centru de date dedicat inteligenței artificiale este, de obicei, optimizat pentru calcule de mare densitate, în special clustere de GPU-uri sau acceleratoare care efectuează un număr imens de operații matematice paralele.

Nucleul vizibil îl constituie rafturile cu servere. În centrele de IA, multe dintre aceste servere conțin GPU-uri, acceleratoare de IA, memorie cu lățime de bandă mare și plăci de rețea specializate. Aceste mașini sunt concepute pentru a transfera date rapid și pentru a efectua calcule matriciale în mod eficient.

În jurul echipamentelor de calcul se află un sistem de suport mai amplu: spațiu de stocare pentru seturi de date și puncte de control ale modelelor, comutatoare de rețea, conexiuni prin fibră optică, echipamente de conversie a energiei electrice, sisteme de rezervă, monitorizare, sisteme de stingere a incendiilor și securitate fizică.

Răcirea este la fel de importantă ca și procesarea datelor. Echipamentele hardware de IA de mare densitate generează căldură în mod continuu, astfel încât centrele de date utilizează sisteme de răcire cu aer, răcire cu lichid, răcitoare, pompe, turnuri de răcire sau schimbătoare de căldură, în funcție de proiectare și de condițiile locale.

Principala diferență constă în densitate și în modul în care se distribuie volumul de lucru. Antrenarea modelelor de IA poate menține mii de acceleratoare ocupate pe perioade îndelungate, în timp ce sistemele de inferență trebuie să răspundă rapid la solicitările utilizatorilor, la apelurile API, la recomandări sau la imaginile generate.

Clusterele de IA necesită, de asemenea, o comunicare extrem de rapidă între mașini. În timpul antrenării, GPU-urile fac schimb constant de gradienți și date ale modelului. În timpul inferenței, serverele trebuie să încarce ponderile modelului, să proceseze contextul și să returneze rezultatele cu o latență redusă.

Această combinație de cipuri cu densitate mare, consum ridicat de energie, rețea rapidă și gestionarea căldurii face ca infrastructura de IA să fie mai solicitantă decât multe sarcini tradiționale de tip web sau de afaceri.

Antrenarea este faza în care un model învață pe baza datelor. Aceasta poate necesita seturi de date de mari dimensiuni, durate lungi de execuție, calcule repetate și grupuri de GPU-uri care funcționează în paralel. Acesta este adesea cel mai vizibil tip de calcul în domeniul IA, deoarece generează o cerere mare și concentrată de infrastructură.

Inferența reprezintă etapa în care se utilizează un model antrenat. Fiecare răspuns al unui chatbot, generarea unei imagini, răspunsul unui asistent de căutare sau o cerere de clasificare implică o operație de inferență. O singură cerere poate fi de mică amploare, dar utilizarea la nivel global generează o cerere continuă.

Multe centre de date dedicate inteligenței artificiale (IA) suportă ambele faze, deși nu întotdeauna în același mod. În cazul antrenării, accentul se pune pe clustere mari și sincronizate, în timp ce în cazul inferenței, se acordă o importanță deosebită latenței, disponibilității, rutării, procesării în loturi și costului pe cerere.

Echipamentele hardware pentru IA au nevoie de energie electrică, iar aproape toată această energie se transformă, în cele din urmă, în căldură. Prin urmare, o instalație trebuie să dispună de o alimentare cu energie electrică suficientă pentru a alimenta echipamentele și de o capacitate de răcire suficientă pentru a elimina căldura în mod fiabil.

De aceea, când se vorbește despre centrele de date pentru IA, se folosesc adesea unități de măsură precum megawați sau gigawați, nu doar metri pătrați. Factorul limitativ poate fi reprezentat de racordarea la rețea, transformatoare, sursele de energie de rezervă, apa de răcire, disiparea căldurii sau autorizațiile locale, mai degrabă decât doar suprafața de teren.

Procesorele mai performante, răcirea cu lichid și un design mai eficient al centrelor de date pot reduce consumul de energie pe sarcină, dar cererea totală poate crește în continuare dacă utilizarea IA se extinde mai rapid decât se îmbunătățește eficiența.

Centrele de date pentru IA sunt construite în locuri în care operatorii pot combina accesul la energie electrică, terenuri, conectivitate prin fibră optică, opțiuni de răcire, condiții fiscale și de autorizare, disponibilitatea forței de muncă și proximitatea față de utilizatori sau regiunile de cloud.

Unele locații sunt identificate public ca fiind supercomputere de IA sau centre de infrastructură pentru IA. Altele sunt regiuni cloud generale de tip hyperscale care pot rula sarcini de lucru de IA, dar nu sunt asociate public cu un model sau un produs specific.

Pentru o prezentare generală obiectivă, consultați lista aferentă: Unde se află centrele de date pentru IA?.

Centrele de date pentru IA sunt importante deoarece fac legătura între utilizarea cotidiană a IA și infrastructura fizică. O comandă introdusă pe un laptop sau pe un telefon poate declanșa procesări în interiorul serverelor cu GPU, care depind de energie electrică, sisteme de răcire, apă, cipuri, terenuri și rețele.

Acestea sunt importante și pentru comunitățile locale. Instalațiile de mari dimensiuni pot atrage investiții și locuri de muncă, dar pot ridica întrebări legate de capacitatea rețelei electrice, consumul de apă, utilizarea terenurilor, zgomotul, emisiile, transparența și cine suportă costurile infrastructurii de sprijin.

Prin urmare, o analiză serioasă a impactului IA trebuie să depășească limitele capacităților abstracte ale modelelor. Aceasta trebuie să ia în considerare locul în care funcționează infrastructura, modul în care este alimentată, eficiența sistemului de răcire și gradul de transparență cu care operatorii raportează utilizarea resurselor.