Perusahaan AI Lapar akan Pusat Data

(Business Lounge Journal – Global News)

Maraknya pembangunan pusat data untuk melayani permintaan kecerdasan buatan yang semakin meningkat menyebabkan kekurangan suku cadang, properti, dan daya yang dibutuhkan oleh gudang superkomputer yang luas. Waktu tunggu untuk mendapatkan sistem pendingin khusus lima kali lebih lama dibandingkan beberapa tahun lalu, kata para eksekutif pusat data. Waktu pengiriman untuk generator cadangan telah berubah dari sebulan menjadi dua tahun.

Kelangkaan real estat murah dengan akses mudah ke listrik yang memadai dan konektivitas data membuat para pengembang menjelajahi dunia dan menjadi kreatif. Pusat data baru direncanakan di dekat gunung berapi di El Salvador dan di dalam kontainer pengiriman yang diparkir di Texas Barat dan Afrika.

Awal tahun ini, operator pusat data Hydra Host mengalami kesulitan saat mencari energi sebesar 15 megawatt yang diperlukan untuk mengoperasikan fasilitas yang direncanakan dengan 10.000 chip AI.

Perusahaan berangkat dari Phoenix ke Houston ke Kansas City, Mo., ke New York hingga North Carolina untuk menemukan tempat yang tepat. Ia masih dalam perburuan. Lokasi yang memiliki aliran listrik tidak memiliki sistem pendingin yang diperlukan untuk menjaga operasional server. Sistem pendingin baru akan membutuhkan waktu enam hingga delapan bulan untuk tiba karena krisis pasokan.

Sementara itu, bangunan yang memiliki pendingin tidak memiliki trafo yang diperlukan untuk menerima daya tambahan—hal ini memerlukan waktu hingga satu tahun untuk tiba. “Dengan apa yang kami lihat, semangat untuk membangun mungkin merupakan yang terbesar sejak gelombang dotcom pertama,” kata Kepala Eksekutif Hydra Host, Aaron Ginn.

Dia mengatakan pencarian bagian dan ruang yang tepat memakan waktu berbulan-bulan lebih lama dari yang diperkirakan. Permintaan akan kekuatan komputasi untuk menciptakan sistem AI telah melonjak sejak akhir tahun 2022, ketika ChatGPT OpenAI mulai menunjukkan potensi teknologi tersebut.

Permintaan akan server komputer yang dilengkapi dengan chip AI generasi baru—yang paling populer adalah unit pemrosesan grafis, atau GPU, dari Nvidia—membebani pusat data yang ada. “Anda mengalami tsunami ini, dan akan terjadi kekurangan inventaris pusat data,” katanya

Raul Martynek, kepala eksekutif perusahaan pusat data DataBank. Membuat dan menerapkan sistem AI yang kompleks memerlukan jumlah chip yang belum pernah ada sebelumnya. Analis memperkirakan bahwa pelatihan versi ChatGPT yang dirilis pada tahun 2022 memerlukan lebih dari 10.000 GPU Nvidia, sementara pembaruan yang lebih baru memerlukan lebih banyak GPU secara signifikan sehingga menambah tekanan pada pusat data.

Perusahaan-perusahaan teknologi besar kesulitan mendapatkan pasokan. Jumlah ruang pusat data di AS tumbuh 26% tahun lalu, menurut perusahaan real estat CBRE, dan jumlah yang mencapai rekor sedang dibangun. Harga ruang yang tersedia meningkat sementara tingkat kekosongan dapat diabaikan—sebuah tanda bahwa pasokan tidak dapat memenuhi permintaan.

Bill Vass, wakil presiden bidang teknik di Amazon Web Services, mengatakan pusat data baru muncul di suatu tempat di dunia setiap tiga hari. Biasanya diperlukan waktu satu setengah atau dua tahun untuk membangun fasilitas data baru yang besar, kata Jon Lin, manajer umum layanan pusat data di Equinix, salah satu operator pusat data terbesar di dunia.

Sulit bagi industri untuk tiba-tiba meningkatkan skalanya ketika permintaan meroket karena diperlukan perencanaan ekstensif dan manajemen rantai pasokan, katanya. “Ini bukanlah masalah yang mudah di mana Anda dapat mengubah kapasitas sepeser pun dan tiga kali lipat dengan sangat cepat,” kata Lin. Raksasa cloud seperti Amazon Web Services, Microsoft, dan Google Alphabet menginvestasikan miliaran dolar untuk pusat data baru. Belanja modal Google—hampir setengahnya digunakan untuk infrastruktur data—melonjak 45% dari tahun sebelumnya menjadi $11 miliar dalam tiga bulan hingga bulan Desember.