JURNAL IT - Perlombaan Big Tech menuju dominasi kecerdasan buatan (AI) telah memicu pembangunan pusat data yang masif di seluruh dunia.
 |
| Pemandangan udara dari pusat data 33 megawatt dengan sistem pendingin tertutup, di tengah gudang di Vernon, California. |
Dalam kurun waktu satu setengah dekade, dari tahun 2010 hingga akhir tahun 2024, jumlah pusat data di Amerika Serikat meningkat empat kali lipat.
Tren ini serupa secara global, dengan ratusan proyek pembangunan pusat di atas 100 megawatt telah diumumkan dalam empat tahun terakhir.
Namun, pembangunan besar-besaran ini didorong oleh sebuah masalah fisik yang mendasar: pusat data lama secara fisik tidak mampu mendukung barisan chip AI modern.
Rak AI Terlalu Berat
Masalahnya sesederhana tanah tempat Anda berdiri pusat data warisan (legacy) tidak dapat menahan beban teknologi AI terbaru.
Menurut para pakar pusat data, rak yang menampung chip komputer atau chip AI terlalu berat untuk lantai pusat data yang ada, dan lantai tersebut akan retak di bawah bebannya.
Perbedaan beratnya sangat mencolok. Tiga puluh tahun yang lalu, rak rata-rata berbobot sekitar 400 hingga 600 pon, seberat kulkas rumah tangga hingga piano baby grand.
Saat ini, rak standar umumnya berkisar antara 1.250 pon hingga 2.500 pon. Namun, rak yang khusus dilengkapi peralatan AI berada pada ujung atas spektrum ini, dengan bobot yang diproyeksikan mencapai 5.000 pon, setara dengan berat seekor beruang grizzly hingga Toyota Prius.
Banyak pusat data lama memiliki lantai yang ditinggikan yang hanya mampu menopang sekitar 1.250 pon per kaki persegi untuk beban statis, membuat struktur ini tidak sesuai dengan tugasnya.
Densitas Tinggi dan Pendingin Cair
Peningkatan berat ini disebabkan oleh kepadatan elektronik yang dijejalkan ke dalam rak logam.
Kesenjangan kecil antara Unit Pemrosesan Grafis (GPU) dapat memperlambat transmisi data dan melatih model AI, yang pada akhirnya membuang daya komputasi dan uang. Untuk mengatasi hal ini, rak kepadatan tinggi terbaru diisi dengan chip memori dan ratusan hingga 1.000 GPU.
Mereka menempatkan sebanyak mungkin komponen ke dalam setiap rak dan meletakkan rak serapat mungkin untuk memaksimalkan kemampuan.
Pengepakan komponen ini menghasilkan kebutuhan daya yang luar biasa.
Sementara beban kerja chip tradisional satu dekade lalu rata-rata sekitar 10 kilowatt per rak, beban kerja AI saat ini mencapai hingga 350 kilowatt per rak, 35 kali lipat dari rata-rata sebelumnya.
Daya yang tinggi ini menghasilkan lebih banyak panas yang harus dibuang sebelum chip meleleh atau terjadi kebakaran.
Untuk mengatasi panas, sistem pendingin udara digantikan atau ditambah dengan pelat pendingin yang diisi cairan, seringkali berupa campuran berair dari cairan pendingin beracun. Cairan pendingin ini menambah bobot (air berbobot sedikit di atas 8 pon per galon).
Berat juga berasal dari kabel atau busway (lempengan tembaga seperti kabel) yang diameternya harus ditingkatkan untuk menyalurkan daya yang cukup. Sebuah busway modern dapat memiliki berat 37 pon per kaki linear.
Chris Brown, chief technical officer di Uptime Institute, merangkum bahwa beban ini merupakan total dari berat prosesor, memori, chip, dan semua perangkat keras pendingin yang dibutuhkan di dalamnya.
Sulitnya Memodernisasi Pusat Data Lama
Mengingat tantangan fisik ini, para ahli sepakat bahwa upaya untuk memodernisasi atau menggunakan kembali fasilitas yang sudah ada sebagian besar tidak praktis.
Meskipun secara teoritis kita dapat membuat perbaikan di sana-sini pada pusat data warisan, faktanya, "Sebagian besar waktu, yang harus dilakukan adalah merobohkan bangunan dan memulai dari awal," kata Brown.
Pusat data lama dapat dimodifikasi sampai batas tertentu, tetapi tidak sampai pada tingkat yang dibutuhkan oleh pabrik-pabrik AI.
Bahkan jika lantai pusat lama diperkuat, masalah geometris lainnya tetap ada.
Ketinggian rak telah tumbuh dari 6 kaki menjadi 9 kaki, yang berarti rak baru lebih tinggi daripada kusen pintu industri beberapa tahun lalu.
Selain itu, elevator kargo seringkali tidak mampu menahan beban rak raksasa, ditambah dengan berat peralatan penggerak dan manusia yang mendorongnya, yang membutuhkan elevator yang sangat kuat untuk bangunan bertingkat.
Pembangunan besar dalam dua tahun terakhir ini didorong oleh fakta bahwa kecerdasan buatan melahap segalanya.
Ketika perusahaan seperti OpenAI atau Microsoft kehabisan ruang, mereka menyewa fasilitas colocation yang juga harus membangun pusat data baru yang berfokus pada AI.
Meskipun demikian, pusat data tradisional tetap sama pentingnya, karena beban kerja data non-AI masih meningkat.
Universitas, rumah sakit, dan perusahaan menengah masih membutuhkan lingkungan pusat data lama untuk menyimpan file data non-AI mereka, dan lingkungan ini tidak akan pernah hilang.
Perlombaan AI saat ini ibarat mencoba memasukkan mesin jet ke dalam kerangka mobil tua, meskipun tujuannya adalah peningkatan performa, beban fisik dan strukturnya membutuhkan pembangunan fasilitas yang benar-benar baru.(*)
0 Komentar