Pendinginan Air Panas: Standar Baru untuk Infrastruktur AI

  • Transisi ke pendinginan cair langsung ke chip sangat penting karena kepadatan daya melebihi 50 kW per rak.
  • Penggunaan air panas (hingga 45 °C) memungkinkan penghapusan pendingin dan secara drastis mengurangi konsumsi air dan energi.
  • Integrasi terkoordinasi antara distribusi listrik dan manajemen termal dapat meningkatkan output komputasi hingga 33%.

Sistem pendingin untuk AI

Manajemen termal di pusat data telah berhenti menjadi detail teknis sederhana dan telah menjadi sebuah hal yang penting. sumbu tengah yang mendefinisikan kelayakan Kecerdasan Buatan. Dengan ledakan AI generatif, kita melihat rak yang kepadatan dayanya melebihi 50 kW, membuat pendingin udara tradisional tidak memadai dan sama sekali tidak layak. Ini bukanlah perubahan yang lambat, tetapi sebuah transisi mendadak ke pendinginan cairan langsung ke prosesor, yang bukan lagi sekadar eksperimen laboratorium, tetapi menjadi dasar dari setiap instalasi yang ingin tetap kompetitif.

Dalam skenario baru ini, konsepnya adalah... Pendinginan air panasPenggunaan sistem pendingin di mana cairan pendingin masuk pada suhu melebihi 40 atau bahkan 45°C sedang mengubah desain pusat data secara drastis. Ini bukan sekadar masalah mengganti cairan pendingin; ini adalah pergeseran mendasar. memikirkan ulang arsitektur kelistrikan dan sistem distribusi. Saat ini, kesuksesan tidak hanya diukur dengan PUE, tetapi dengan mengevaluasi seberapa banyak daya komputasi nyata yang dapat diperas dari setiap kilowatt yang terhubung ke jaringan listrik, sehingga efisiensi termal menjadi masalah. Keuntungan murni dan sederhana bagi bisnis..

Infrastruktur AI untuk pusat data
Artikel terkait:
Revolusi infrastruktur pusat data AI mendefinisikan ulang kedaulatan energi dan teknologi.

Lompatan teknologi: Mengapa menggunakan air panas?

Sekilas, mendinginkan chip dengan air 45°C terdengar gila, hampir seperti menggunakan air bak mandi air panas, tetapi justru di sinilah letak keajaiban efisiensinya. Logikanya sederhana: semakin tinggi suhu cairan yang bersirkulasi, Panasnya lebih mudah dibuang. ke luar tanpa perlu menggunakan kompresor atau pendingin yang mengonsumsi energi dalam jumlah besar. Hal ini memungkinkan pusat data untuk menggunakan pendingin kering sistem tertutup, yang secara praktis menghilangkan ketergantungan pada pendinginan evaporatif dan mengurangi konsumsi air hingga mendekati nol di iklim yang menguntungkan.

Agar hal ini berhasil, hal-hal berikut sangat penting: pelat pendingin canggih dengan struktur mikro internalKomponen berpresisi tinggi ini memungkinkan 80% hingga 90% panas ditangkap langsung di GPU atau CPU. Jika motherboard berkualitas biasa saja, sistem akan gagal; jika berkualitas tinggi, panas dapat dikelola pada tingkat chip secara efektif sehingga anggaran energi yang sebelumnya dihabiskan untuk pendinginan udara kini dapat dialihkan. alihkan daya untuk memberi daya pada lebih banyak GPUHal ini berarti peningkatan daya komputasi dan sejalan dengan revolusi perangkat keras termal saat ini.

Aliansi Intel dan Foxconn untuk infrastruktur AI
Artikel terkait:
Intel dan Foxconn bergabung untuk mentransformasi infrastruktur kecerdasan buatan global.

Komponen penting: CDU dan arsitektur jaringan

Inti dari sistem ini adalah Unit Distribusi Refrigeran atau CDU pintarUnit-unit ini tidak hanya menggerakkan cairan, tetapi juga bertindak sebagai otak yang mengoordinasikan pendinginan dengan arsitektur listrik. Ketika kedua sistem dirancang bersama, maka... Keandalan yang jauh lebih besar dari chip ke jaringan.mencegah CDU menjadi hambatan operasional.

  • Piring Dingin: Dirancang untuk menangani daya keluaran termal hingga 1.500 W, kompatibel dengan silikon NVIDIA, AMD, atau Intel.
  • CDU cerdas: Mereka mengelola laju aliran dan kapasitas mulai dari 105 kW hingga 2,3 MW.
  • Manifold rak: Kolektor baja tahan karat yang memastikan aliran antara pelat dan CDU lancar dan tanpa kebocoran.
  • Penukar Panas Pintu Belakang (RDHx): Solusi yang menghilangkan panas menggunakan udara berpendingin cairan dengan kapasitas hingga 75 kW.

Penerapan teknologi ini memungkinkan pendinginan cairan menjadi hingga 3.000 kali lebih efektif daripada udara untuk menangkap energi termal. Selain itu, dengan mengurangi kebisingan dan emisi karbon, tercipta lingkungan operasi yang jauh lebih berkelanjutan dan aman, sehingga mengurangi ketergantungan pada infrastruktur berat seperti CRAH atau kondensor tradisional.

Fitur dan janji Intel 18a
Artikel terkait:
Intel 18A: Fitur, Janji, dan Dampaknya pada AI

Dampak ekonomi dan visi "Pabrik AI"

Kita beralih dari memandang pusat data sebagai ruangan dingin yang penuh dengan server menjadi memahaminya sebagai sebuah pabrik industri yang dioptimalkanKonsep "pabrik AI" ini bertujuan untuk memaksimalkan produksi token dan pelatihan model dalam jumlah besar. Menurut data industri, integrasi pendinginan cair canggih dapat mewakili sebuah penghematan energi antara 20% dan 40%yang secara langsung berdampak pada laporan laba rugi.

Strategi perusahaan raksasa seperti NVIDIA, dengan platform referensi mereka seperti DSX dan generasi Rubin, mengarah pada sebuah Infrastruktur berpendingin cairan 100%Hal ini melibatkan penghapusan kipas internal sepenuhnya, mengintegrasikan jaringan, komputasi, dan daya ke dalam satu ekosistem. Dengan mengoptimalkan desain termal, dimungkinkan untuk mencapai hingga [persentase yang hilang]. Output komputasi 33% lebih tinggi per sambungan listrik, memungkinkan lebih banyak daya untuk dikemas dalam meter persegi yang lebih sedikit.

Meskipun ini tampak seperti solusi mujarab, beralih dari sistem pendingin udara yang disetel dengan baik ke sistem pendingin cairan melibatkan risiko operasional dan kompleksitas integrasi yang cukup besar. Namun, ketika rak melebihi 50 kW, Pendinginan cairan bukan lagi pilihan opsional.Hal ini bukan lagi sebuah kemewahan untuk HPC atau komputasi ilmiah, melainkan sebuah kebutuhan yang sangat diperlukan untuk menopang beban kerja Model Bahasa Besar (LLM) tanpa menyebabkan kerusakan peralatan akibat panas berlebih atau mengurangi masa pakainya.


Tambahkan sebagai sumber pilihan di Google