Mengapa Pusat Data AI Menggunakan Air Sebanyak Itu?

Beban kerja AI dijalankan pada mesin fisik. Ketika GPU, CPU, memori, perangkat penyimpanan, dan peralatan jaringan mengonsumsi listrik, hampir seluruh energi listrik tersebut pada akhirnya berubah menjadi panas di dalam pusat data.

Server web konvensional mungkin mampu menangani permintaan yang ringan, tetapi proses pelatihan dan inferensi AI dapat membuat akselerator terus beroperasi pada tingkat pemanfaatan tinggi dalam jangka waktu yang lama. Rak-rak GPU yang padat menghasilkan panas jauh lebih banyak dalam ruang yang lebih kecil dibandingkan dengan peralatan TI perusahaan tradisional.

Oleh karena itu, pendinginan bukanlah sekadar sistem kenyamanan yang bersifat opsional. Pendinginan merupakan bagian dari infrastruktur yang diperlukan untuk menjaga chip tetap berada dalam rentang suhu operasi yang aman, mencegah terjadinya throttling, melindungi perangkat keras, serta memastikan layanan yang andal bagi pengguna.

Pusat data AI modern sering kali mengelompokkan ribuan GPU ke dalam kluster. GPU-GPU tersebut dirancang untuk komputasi paralel, itulah sebabnya mereka sangat berguna untuk melatih jaringan saraf tiruan dan menangani beban kerja inferensi.

Kepadatan yang sama yang membuat infrastruktur AI begitu kuat juga menimbulkan tekanan termal. Semakin banyak akselerator per rak berarti semakin besar pasokan daya, semakin banyak koneksi jaringan, semakin banyak memori, dan semakin banyak panas yang harus dibuang dari server.

Inilah sebabnya mengapa pusat data AI sangat bergantung pada pasokan listrik dan kapasitas pendinginan. Sebuah lokasi mungkin memiliki lahan yang cukup atau konektivitas serat optik yang memadai, namun tetap dibatasi oleh ketersediaan daya listrik, kapasitas pembuangan panas, atau pertimbangan terkait pasokan air di wilayah setempat.

Air berguna dalam proses pendinginan karena mampu mentransfer panas secara efisien. Banyak pusat data menggunakan sistem sirkulasi air dingin, menara pendingin, pendinginan evaporatif, atau sistem hibrida yang menggabungkan udara dan air, tergantung pada kondisi lingkungan luar.

Dalam sistem evaporatif, sebagian air sengaja diuapkan untuk membuang panas. Hal ini dapat mengurangi kebutuhan listrik untuk pendinginan mekanis, terutama jika dibandingkan dengan pengoperasian chiller secara intensif dalam kondisi cuaca panas, namun dapat meningkatkan konsumsi air di tingkat lokal.

Tidak semua pusat data menggunakan desain yang sama. Beberapa fasilitas lebih mengandalkan pendinginan udara, beberapa menggunakan sistem pendinginan cairan berputar tertutup di dekat chip, dan beberapa menggunakan air daur ulang atau air yang tidak layak minum. Jejak air bergantung pada arsitektur pendinginan, iklim, dan strategi pengoperasian.

Penggunaan air langsung merujuk pada air yang dikonsumsi di lokasi pusat data, biasanya untuk pendinginan atau pengendalian kelembapan. Ini merupakan aspek yang paling terlihat dari masalah tersebut, terutama ketika sebuah fasilitas menggunakan sistem pendinginan evaporatif di wilayah yang mengalami kelangkaan air.

Penggunaan air secara tidak langsung juga bisa menjadi faktor penting. Pembangkitan listrik mungkin memerlukan air untuk pendinginan pembangkit listrik atau produksi bahan bakar, tergantung pada jaringan listrik setempat. Sebuah pusat data yang menggunakan sedikit air di lokasi operasinya tetap dapat terkait dengan penggunaan air melalui listrik yang dikonsumsinya.

Inilah salah satu alasan mengapa perkiraan yang dipublikasikan sangat bervariasi. Sebuah penilaian yang komprehensif perlu menjelaskan secara spesifik apakah penilaian tersebut mencakup air di lokasi, air dalam rantai pasokan, air yang terkait dengan listrik, pengambilan air, konsumsi air, atau semua kategori tersebut.

Satu liter air yang dikonsumsi di wilayah yang sejuk dan kaya akan air tidak memiliki dampak lokal yang sama dengan satu liter air yang dikonsumsi di wilayah yang panas dan kering dengan daerah aliran sungai yang tertekan. Oleh karena itu, teknologi pendinginan yang sama dapat menimbulkan konsekuensi yang sangat berbeda tergantung pada lokasinya.

Iklim memengaruhi seberapa sering pendinginan alami, pendinginan evaporatif, atau pendinginan mekanis digunakan. Komposisi sumber daya listrik memengaruhi emisi karbon. Ketersediaan air di tingkat lokal memengaruhi apakah permintaan tambahan bersifat kecil, kontroversial, atau sulit dipenuhi secara operasional.

Inilah sebabnya mengapa keberlanjutan pusat data tidak bisa disederhanakan menjadi satu angka global saja. Pertanyaan yang relevan bukan hanya seberapa banyak air yang digunakan, tetapi di mana air tersebut digunakan, kapan digunakan, dan opsi pendinginan atau pasokan listrik alternatif apa saja yang tersedia.

Mengurangi penggunaan air terkadang dapat meningkatkan penggunaan listrik. Sebagai contoh, desain yang tidak menggunakan pendinginan evaporatif mungkin lebih bergantung pada pendingin mekanis, yang dapat meningkatkan kebutuhan energi selama musim panas.

Hal sebaliknya juga bisa terjadi: penggunaan air untuk pendinginan evaporatif dapat mengurangi konsumsi listrik dan dengan demikian mengurangi emisi jika jaringan listrik tersebut bersifat karbon-intensif. Pilihan yang lebih baik bergantung pada tingkat kelangkaan air di daerah setempat, intensitas karbon jaringan listrik, kondisi cuaca, dan kepadatan perangkat keras.

Inilah mengapa pelaporan yang transparan sangat penting. Indikator seperti PUE untuk efisiensi energi dan WUE untuk penggunaan air memang bermanfaat, tetapi perlu disesuaikan dengan konteks lokal. Desain yang hemat air tidak otomatis berarti rendah karbon, dan desain yang hemat energi tidak otomatis berarti hemat air.

Ya, tetapi tidak ada satu solusi universal pun. Pilihan yang tersedia antara lain pengelolaan aliran udara yang lebih baik, suhu operasi yang lebih tinggi, sistem pendingin cairan loop tertutup, pendingin kering, air daur ulang, air non-minum, penentuan lokasi yang lebih tepat, serta perangkat keras AI yang lebih efisien.

Optimasi model AI juga penting. Model yang lebih kecil, inferensi yang efisien, pengelompokan data (batching), penyimpanan dalam cache, dan spesialisasi perangkat keras dapat mengurangi kebutuhan komputasi untuk suatu layanan tertentu, yang secara tidak langsung mengurangi panas dan kebutuhan pendinginan.

Di sisi lain, permintaan total tetap dapat meningkat jika penggunaan AI berkembang lebih cepat daripada peningkatan efisiensi. Oleh karena itu, tujuan praktisnya bukan hanya pendinginan yang lebih efisien, tetapi juga keterbukaan informasi yang lebih baik, pemilihan lokasi yang cermat, serta perencanaan infrastruktur yang memperhitungkan keterbatasan pasokan air di tingkat lokal.