Các trung tâm dữ liệu ngày càng dùng phương pháp nào để những tủ AI dày đặc này không quá nóng?

Làm mát bằng chất lỏng, dẫn chất làm mát trực tiếp đến từng con chip, ngày càng được sử dụng nhiều trong các dàn máy chủ AI mật độ cao vì chất lỏng có thể hấp thụ và mang đi lượng nhiệt lớn hơn nhiều trên mỗi đơn vị thể tích so với không khí, điều này vô cùng quan trọng khi các chip AI nhồi nhét càng nhiều bộ xử lý ngốn điện hơn khả năng quạt gió có thể ngăn chúng quá nhiệt.

Chỉ đơn giản thêm nhiều quạt để đẩy khí lạnh nhanh hơn sẽ gặp giới hạn vật lý, vì không khí có nhiệt dung thấp hơn nhiều so với chất lỏng, và vượt qua một ngưỡng nhất định, luồng gió mạnh hơn không thể bù đắp lượng nhiệt mà các dàn máy AI hiện đại tạo ra. Đặt máy chủ cách xa nhau hơn sẽ làm giảm mật độ và lãng phí diện tích sàn quý giá của trung tâm dữ liệu thay vì thực sự giải quyết vấn đề làm mát.

Một số hệ thống tiên tiến nhất hiện nay ngâm toàn bộ máy chủ trực tiếp vào một loại chất lỏng làm mát không dẫn điện đặc biệt, cách tiếp cận này gọi là làm mát ngâm chìm, có thể xử lý tải nhiệt còn cao hơn cả việc dẫn chất làm mát đến các tấm lạnh của từng con chip.