Làm mát bằng chất lỏng có phải là giải pháp làm mát tối ưu cho máy chủ AI không?

 

I Làm mát bằng không khí truyền thống đang quá tải; Công nghệ làm mát bằng chất lỏng xuất hiện

 

Ba trụ cột của AI là chip, sức mạnh tính toán và thuật toán. Chip và sức mạnh tính toán là động lực thúc đẩy năng suất và để đạt được sức mạnh tính toán phi thường, mọi người liên tục tìm kiếm bộ xử lý nhanh hơn và phần cứng hiệu quả hơn. Khi sức mạnh tính toán AI tăng lên và hiệu suất của CPU và GPU được cải thiện, mức tiêu thụ điện năng của chip và lượng nhiệt tỏa ra cũng tăng theo. Ví dụ, chip GPU dòng H200 của NVIDIA có TDP (Công suất thiết kế nhiệt) lên tới 700W.

 

Làm mát bằng không khí truyền thống có giới hạn của nó. Nguyên lý làm mát bằng không khí là để không khí lưu thông qua bề mặt của bộ tản nhiệt để tản nhiệt. Hiện tại, các bộ làm mát bằng không khí tốt nhất trên thị trường có thể xử lý công suất lên tới 275W. Làm mát bằng không khí truyền thống không còn có thể đáp ứng được yêu cầu làm mát của các máy chủ AI chính thống.

 

Công nghệ làm mát bằng chất lỏng đã xuất hiện. Nguyên lý làm mát bằng chất lỏng là tuần hoàn chất làm mát dạng lỏng bên trong máy chủ, hấp thụ nhiệt từ các thành phần sinh nhiệt thông qua trao đổi nhiệt. Làm mát bằng chất lỏng mang lại hiệu quả làm mát cao hơn và cho phép kiểm soát chính xác chất làm mát để thích ứng với các môi trường làm việc khác nhau, mặc dù chi phí cao hơn.

 

Làm mát bằng chất lỏng đã được công nhận chính thức. Vào tháng 6 năm 2023, ba nhà khai thác viễn thông lớn của Trung Quốc đã cùng nhau phát hành "Sách trắng về công nghệ làm mát bằng chất lỏng dành cho các nhà khai thác viễn thông (2023)", trong đó thúc đẩy rõ ràng hai tuyến kỹ thuật: làm mát bằng chất lỏng tấm lạnh và làm mát bằng chất lỏng ngâm một pha. Họ cũng đã phác thảo một kế hoạch thúc đẩy cho 2023-2025:

 

▲ Kế hoạch quảng cáo cho 2023-2025

 

 

II Làm mát bằng chất lỏng là gì?

 

Làm mát bằng chất lỏng là phương pháp làm mát sử dụng chất lỏng làm chất làm mát để truyền nhiệt do các thành phần bên trong của thiết bị CNTT trong trung tâm dữ liệu tạo ra ra bên ngoài, đảm bảo các bộ phận tạo nhiệt của thiết bị CNTT hoạt động trong phạm vi nhiệt độ an toàn. Các giải pháp làm mát bằng chất lỏng chính thống chủ yếu được chia thành loại tấm lạnh và loại ngâm. Làm mát bằng chất lỏng ngâm có thể được chia thành loại làm mát ngâm thay đổi pha và không thay đổi pha, tùy thuộc vào việc chất làm mát có trải qua quá trình thay đổi pha hay không.

 

▲ Công nghệ làm mát bằng chất lỏng

 

Làm mát bằng chất lỏng dạng tấm lạnh hoạt động bằng cách sử dụng bộ tản nhiệt làm bằng kim loại như đồng hoặc nhôm, có khả năng dẫn nhiệt tốt. Nhiệt do các thành phần tạo ra được truyền đến chất làm mát dạng lỏng bên trong bộ tản nhiệt, sau đó mang nhiệt đi.

 

Làm mát bằng chất lỏng ngâm là phương pháp làm mát bằng chất lỏng tiếp xúc trực tiếp, trong đó thiết bị CNTT, chẳng hạn như máy chủ (bao gồm CPU, bộ nhớ, I/O, v.v.), được ngâm hoàn toàn trong chất lỏng làm mát. Làm mát diễn ra thông qua quá trình lưu thông của chất lỏng. Công nghệ làm mát ngâm thay đổi pha, đang phát triển nhanh chóng, hoạt động bằng cách làm mát các thành phần sinh nhiệt, khiến chất làm mát bốc hơi, sau đó ngưng tụ hơi trở lại dạng lỏng để tái sử dụng. Phương pháp này mang lại hiệu quả làm mát cao hơn và tiếng ồn thấp hơn.

 

 

III Có nên thay thế tất cả các giải pháp làm mát máy chủ bằng làm mát bằng chất lỏng không?

 

Rõ ràng là không. Các phương pháp làm mát trung tâm dữ liệu bao gồm cả làm mát bằng không khí cưỡng bức và làm mát bằng chất lỏng. Trong khi công nghệ làm mát bằng không khí tương đối hoàn thiện, làm mát bằng chất lỏng là một yêu cầu mới hơn do nhu cầu làm mát tăng lên của các trung tâm dữ liệu trong những năm gần đây.

 

Hiện nay, các trung tâm dữ liệu chủ yếu có ba giải pháp làm mát:

1. Thiết kế các trung tâm dữ liệu mới chỉ dựa vào làm mát bằng chất lỏng, tạo ra các trung tâm dữ liệu nhỏ hơn, hiệu quả hơn với sức mạnh tính toán khổng lồ.

2. Thiết kế các trung tâm dữ liệu chủ yếu sử dụng làm mát bằng không khí nhưng bao gồm các tùy chọn làm mát bằng chất lỏng để đơn giản hóa quá trình chuyển đổi trong tương lai.

3. Các nhà điều hành trung tâm dữ liệu tích hợp hệ thống làm mát bằng chất lỏng vào các cơ sở làm mát bằng không khí hiện có, thường chuyển đổi một phần hệ thống làm mát bằng không khí sang làm mát bằng chất lỏng.

 

▲ Các phương pháp làm mát được khuyến nghị cho các loại trung tâm dữ liệu khác nhau

 

 

 

IV Làm mát bằng chất lỏng phải đối mặt với những thách thức nào?

 

1. Vấn đề chi phí

Chi phí của hệ thống làm mát bằng chất lỏng bao gồm chi phí vật liệu cao (chất làm mát, bộ tản nhiệt, đường ống, v.v.), cũng như tính phức tạp của thiết kế và sản xuất, chi phí lắp đặt và bảo trì cao và nhu cầu đầu tư cao hơn để đạt được độ tin cậy cao.

 

2. Các vấn đề về độ tin cậy

 

Sự ổn định:Độ ổn định hóa học của chất làm mát dạng lỏng có thể không đủ, dẫn đến sự phân hủy, oxy hóa hoặc sản sinh ra các chất có hại trong quá trình sử dụng, ảnh hưởng đến hiệu quả làm mát và độ ổn định của hệ thống.

 

Sự rò rỉ:Trong trường hợp rò rỉ chất lỏng, đường ống bị tắc hoặc các sự cố khác, hệ thống làm mát bằng chất lỏng gián tiếp hiện tại có thể không phát hiện lỗi kịp thời, gây ảnh hưởng đến sự an toàn của máy chủ.

 

Khả năng tương thích:Một số thiết bị trung tâm dữ liệu có thể không phù hợp với hệ thống làm mát bằng chất lỏng, đòi hỏi phải điều chỉnh và sửa đổi thêm.

 

 

V Các ngành công nghiệp thượng nguồn và hạ nguồn trong lĩnh vực làm mát bằng chất lỏng là gì?

 

Hệ sinh thái ngành làm mát bằng chất lỏng bao gồm các nhà cung cấp linh kiện đầu nguồn, nhà cung cấp máy chủ làm mát bằng chất lỏng trung nguồn và người dùng điện toán hạ nguồn, tập trung vào hệ thống làm mát bằng chất lỏng dạng tấm lạnh và ngâm.

 

▲ Nguyên lý hệ thống làm mát bằng chất lỏng tấm lạnh

 

▲ Nguyên lý hệ thống làm mát bằng chất lỏng ngâm

 

 

1. Ngược dòng

 

▲ Phía thượng nguồn của hệ thống làm mát bằng chất lỏng tấm lạnh
 

Hệ thống làm mát bằng chất lỏng tấm lạnh chủ yếu bao gồm CDU, nguồn lạnh, chất làm mát, đường ống làm mát chất lỏng và tủ làm mát chất lỏng. Hệ thống làm mát bằng chất lỏng ngâm chủ yếu bao gồm CDU, nguồn lạnh, đường ống làm mát chất lỏng, buồng ngâm, thiết bị CNTT và chất làm mát.

 

Đơn vị phân phối làm mát (CDU)

CDU được sử dụng để trao đổi nhiệt giữa chất làm mát nhiệt độ cao ở phía thứ cấp và nguồn lạnh ở phía chính, cung cấp phân phối làm mát cho thiết bị CNTT làm mát bằng chất lỏng và quản lý nhiệt độ, áp suất và giám sát lưu lượng. Nó có các chức năng như trao đổi nhiệt, truyền động tuần hoàn, làm sạch chất làm mát và lưu trữ chất lỏng. CDU chủ yếu bao gồm bộ trao đổi nhiệt/tụ điện, bơm tuần hoàn, bộ lọc, bể chứa chất lỏng và các phụ kiện (van, đường ống, đầu nối, cảm biến, v.v.).

 

Nguồn lạnh

Nguồn lạnh ngoài trời của hệ thống làm mát bằng chất lỏng có thể được lựa chọn dựa trên các điều kiện từ máy làm mát khô, tháp giải nhiệt kín hoặc máy làm lạnh.

 

Đường ống làm mát bằng chất lỏng

Đường ống là thành phần cần thiết kết nối tấm trao đổi nhiệt lạnh, bộ phận phân phối làm mát, bộ phận trao đổi nhiệt và nguồn lạnh ngoài trời. Nhìn chung, đường ống tuần hoàn có thể được chia thành loại kết nối trực tiếp (không đồng bộ) và loại kết nối vòng (đồng bộ) dựa trên các phương pháp kết nối khác nhau của chúng.

 

Chất làm mát

Các chất làm mát thông dụng cho hệ thống tấm lạnh bao gồm nước, ethylene glycol, propylene glycol, v.v. Các chất làm mát này có nhiệt dung riêng cao và độ nhớt thấp, cho phép chúng hấp thụ nhanh nhiệt do thiết bị tạo ra và truyền đến bộ trao đổi nhiệt để tản ra.

 

Chất làm mát ngâm (cách điện) phổ biến bao gồm dầu khoáng, hợp chất fluorocarbon, v.v. Trong số đó, làm mát thay đổi pha chỉ có thể sử dụng hợp chất fluorocarbon không cháy. Tính tương thích giữa môi trường làm mát và vật liệu của các thành phần khác nhau là một trong những yếu tố chính ảnh hưởng đến hiệu suất của hệ thống làm mát chất lỏng thay đổi pha ngâm.

 

Hiện nay, có một số loại chất lỏng flo có sẵn để làm mát chuyển pha ngâm, trong đó nhà cung cấp chính là 3M. Công nghệ làm mát bằng chất lỏng ngâm của Trung Quốc vẫn còn trong giai đoạn sơ khai.

 

Phòng kín

Buồng được sử dụng để chứa chất làm mát thay đổi pha. Buồng phải được niêm phong tại tấm lạnh, đường ống, đầu nối và các bộ phận khác để đảm bảo an toàn không bị rò rỉ, do đó đảm bảo tính toàn vẹn của nguồn điện và truyền tín hiệu và sự an toàn của trung tâm dữ liệu. Do đó, cần có các thành phần niêm phong tùy chỉnh, chẳng hạn như gioăng cao su, đầu nối đầu ra chất lỏng, đầu nối nguồn, đầu nối tín hiệu, v.v.

 

Tủ làm mát bằng chất lỏng

Tủ làm mát bằng chất lỏng chủ yếu bao gồm một tấm làm mát bằng chất lỏng, ống phân phối, đường ống, đầu nối, đầu nối nhanh, bộ phân phối chất lỏng và máy nén tùy chọn.

 

Tấm làm mát chất lỏng hoạt động như một đơn vị truyền nhiệt, tương đương với bộ bay hơi trong hệ thống làm lạnh và là công nghệ chính được thiết kế cho hệ thống làm lạnh. Nó thường bao gồm một tấm che, các cánh tản nhiệt, tấm đế và phớt.

Bộ phân phối là thiết bị kết nối bộ phân phối làm mát với tấm lạnh máy chủ làm mát bằng chất lỏng. Thường được lắp vào tủ, nó phân phối đều dòng chất làm mát đến từng lớp tấm lạnh và thu thập chất làm mát sau khi hấp thụ nhiệt, đưa qua các ống kết nối đến bộ phân phối làm mát.

 

Đầu nối nhanh bao gồm thân chính và đầu cuối. Thân chính là đơn vị chính để thực hiện chức năng kết nối và bịt kín của đầu nối nhanh dạng lỏng, trong khi đầu cuối đóng vai trò là cổng lắp đặt để gắn và cố định đầu nối nhanh dạng lỏng.

 

Hệ thống điều khiển

Hệ thống điều khiển giám sát và điều chỉnh hoạt động của hệ thống làm mát, bao gồm cảm biến nhiệt độ và áp suất, đo lượng nhiệt tản ra và điều chỉnh tốc độ bơm hoặc lưu lượng chất làm mát.

 

Thiết bị lọc và làm sạch

Bộ lọc được sử dụng để loại bỏ các mảnh vụn và hạt từ chất làm mát dạng lỏng, đảm bảo hiệu suất và tuổi thọ của hệ thống. Các phương pháp như khử trùng bằng tia cực tím hoặc xử lý hóa học có thể làm sạch chất làm mát.

 

2. Giữa dòng

Dòng trung gian chủ yếu bao gồm các hệ thống làm mát bằng chất lỏng, trong đó các thành phần chính như bộ tản nhiệt, máy bơm, ống và chất làm mát được tích hợp vào một hệ thống duy nhất. Các công ty này yêu cầu trình độ chuyên môn kỹ thuật và năng lực sản xuất nhất định để đảm bảo chất lượng và hiệu suất của sản phẩm.

 

3. Hạ lưu

Người dùng hạ nguồn của năng lượng điện toán bao gồm các trung tâm dữ liệu, siêu máy tính, máy chủ AI, thiết bị điện tử, xe năng lượng mới, laser, bộ biến tần và các thiết bị công nghiệp khác. Công nghệ làm mát bằng chất lỏng thậm chí còn được sử dụng trong lĩnh vực hàng không vũ trụ. Do đặc tính làm mát hiệu suất cao, các trung tâm dữ liệu làm mát bằng chất lỏng và cơ sở hạ tầng của chúng chủ yếu được áp dụng trong các lĩnh vực điện toán hiệu suất cao. Hiện nay, các ngành công nghiệp sử dụng công nghệ làm mát bằng chất lỏng bao gồm internet, tài chính, viễn thông, năng lượng, sinh học và chăm sóc sức khỏe.

 

Trong số này, internet là khách hàng cốt lõi của các trung tâm dữ liệu làm mát bằng chất lỏng, với nhu cầu dữ liệu đáng kể, cơ sở người dùng rộng rãi và khối lượng kinh doanh lớn. Yêu cầu về công suất tính toán cho các trung tâm dữ liệu rất cao, với mật độ công suất tủ đơn vượt quá 10kW.

 

 

VI Quá trình công nghiệp hóa làm mát bằng chất lỏng đang ở giai đoạn nào?

 

Hiện tại, nhiều xác nhận về trung tâm dữ liệu làm mát bằng chất lỏng đã được hoàn thành phần lớn và ba năm tới sẽ chứng kiến ​​sự mở rộng của công nghệ làm mát bằng chất lỏng trên quy mô lớn. Về mặt kỹ thuật, làm mát bằng tấm lạnh vẫn là giải pháp làm mát bằng chất lỏng chính thống trên thị trường; về mặt phát triển công nghiệp, mô hình cung cấp toàn bộ ngăn xếp, từ cơ sở hạ tầng đến thiết bị AI, đã trở thành sự đồng thuận trong ngành; về mặt khách hàng, các lĩnh vực internet và viễn thông, hai khách hàng ứng dụng lớn nhất trong ngành trung tâm dữ liệu, đã thể hiện sự công nhận tích cực đối với công nghệ làm mát bằng chất lỏng.

 

Theo báo cáo bán niên năm 2023 do các công ty trong ngành liên quan công bố, các trung tâm dữ liệu làm mát bằng chất lỏng của họ đã tích lũy được hơn 260MW công suất, liên quan đến nhiều ngành như công nghệ, năng lượng, chính phủ, tài chính và internet.

 

 

VII Thị trường làm mát bằng chất lỏng AI lớn đến mức nào?

 

Theo dữ liệu từ Caitong Securities, quy mô thị trường trung tâm dữ liệu làm mát bằng chất lỏng của Trung Quốc sẽ tăng từ 6,999 tỷ nhân dân tệ vào năm 2022 lên hơn 35,877 tỷ nhân dân tệ vào năm 2025, với quy mô thị trường làm mát bằng chất lỏng cho trung tâm dữ liệu AI tăng từ 5,552 tỷ nhân dân tệ vào năm 2022 lên 27,964 tỷ nhân dân tệ vào năm 2025, thể hiện tốc độ tăng trưởng kép hàng năm là 76,2%. Dựa trên phân loại sản phẩm, các sản phẩm làm mát bằng chất lỏng ngâm, với hiệu suất làm mát cao hơn và khả năng giảm hiệu quả PUE (Hiệu quả sử dụng điện năng) của các trung tâm dữ liệu, dự kiến ​​sẽ chiếm được thị phần lớn hơn, tăng từ 18% vào năm 2019 (với các sản phẩm làm mát bằng chất lỏng dạng tấm lạnh chiếm 82%) lên 41% vào năm 2025.

 

Khi thị trường đòi hỏi hiệu suất làm mát và năng lượng cao hơn cho cơ sở hạ tầng trung tâm dữ liệu, ngành công nghiệp dự đoán rằng tỷ lệ thâm nhập của các sản phẩm làm mát bằng chất lỏng sẽ đạt 20% vào năm 2025, với thị phần liên tục mở rộng. Mùa xuân của các ứng dụng quy mô lớn cho máy chủ làm mát bằng chất lỏng AI đang đến gần một cách lặng lẽ!

 

 

VIII Các công ty làm mát bằng chất lỏng nổi tiếng là gì?

 

Các công ty lớn trên thị trường làm mát bằng chất lỏng tấm lạnh ở nước ngoài bao gồm IBM, CoolIT Systems, Asetek và Motivair, trong khi các công ty lớn trên thị trường làm mát bằng chất lỏng ngâm là GRC, LiquidStack và Midas.