Thiết kế hệ thống làm mát bằng chất lỏng hiệu quả cho trung tâm dữ liệu

Sep 02, 2024

Để lại lời nhắn

 

I Các thành phần của hệ thống làm mát trung tâm dữ liệu

 

Phần lớn năng lượng điện mà thiết bị CNTT tiêu thụ được chuyển thành nhiệt thải. Để đảm bảo thiết bị CNTT hoạt động trong phạm vi nhiệt độ thích hợp, các trung tâm dữ liệu được trang bị hệ thống làm mát và tản nhiệt, bao gồm máy làm lạnh, tháp làm mát và các thiết bị điều hòa không khí chính xác, giúp loại bỏ nhiệt thải ra khỏi trung tâm dữ liệu. Quá trình truyền nhiệt được minh họa trong Hình 1. Các điểm tiêu thụ năng lượng chính bao gồm máy làm lạnh, tháp làm mát, máy bơm và các thiết bị điều hòa không khí chính xác.

 

 Heat Transfer in Data Centers

▲ Hình 1: Truyền nhiệt trong trung tâm dữ liệu

 

Hiện nay, phương tiện truyền nhiệt chính trong các trung tâm dữ liệu là không khí hoặc nước. Nước, với nhiệt dung riêng áp suất không đổi là 1,004 kJ/(KgK) và nhiệt dung riêng là 4200 kJ/(KgK), có khả năng truyền nhiệt lớn hơn không khí khoảng 1,000 lần. Do đó, sử dụng nước làm môi trường làm mát là một phương pháp tiết kiệm năng lượng hiệu quả trong thiết kế hệ thống làm mát. Để cải thiện hiệu suất năng lượng của hệ thống làm mát, các biện pháp như bộ tản nhiệt hiệu suất cao và phân phối không khí chính xác được sử dụng để thu và truyền nhiệt.

 

Trong điều hòa không khí chính xác, làm mát đã phát triển từ cấp độ phòng đến phòng dữ liệu mô-đun và làm mát cấp độ giá đỡ, di chuyển gần hơn đến nguồn nhiệt và giảm mức tiêu thụ năng lượng trong quá trình vận chuyển chất làm mát. Việc tạo ra các nguồn làm mát đã tiến triển từ làm mát bằng không khí đến làm mát bằng nước và làm mát tự nhiên, nâng cao hiệu quả truyền nhiệt bên ngoài.

 

Cooling with rear door heat exchangers

 

Hệ thống làm mát truyền thống có hệ thống điều khiển độc lập và chiến lược vận hành cho hệ thống điều hòa không khí, máy làm lạnh và tháp giải nhiệt chính xác, tối ưu hóa hiệu quả tại chỗ. Tuy nhiên, hiệu quả làm mát tổng thể vẫn cần được cải thiện.

 

Có thể đạt được những cải tiến có hệ thống thông qua quản lý toàn diện và kiểm soát chính xác quá trình thu nhiệt, chuẩn bị nguồn làm mát và truyền nhiệt bên ngoài, do đó giảm mức tiêu thụ điện năng của hệ thống làm mát.

 

 

II Thiết kế hệ thống làm mát bằng chất lỏng từ đầu đến cuối

 

1. Thiết kế làm mát bằng chất lỏng ở cấp độ bo mạch

Với sự tăng trưởng theo cấp số nhân trong nhu cầu về năng lượng điện toán, mức tích hợp và mức tiêu thụ điện năng của CPU và GPU đã tăng đáng kể, với mức tiêu thụ điện năng của một chip đạt 300W. Các bộ tản nhiệt chip và giải pháp làm mát bằng không khí truyền thống đã gặp phải tình trạng tắc nghẽn làm mát. Vì chip là nguồn nhiệt, nên thách thức chính đối với hệ thống làm mát trung tâm dữ liệu là loại bỏ nhiệt hiệu quả từ bên trong chip.

 

Theo quan điểm tản nhiệt, nhiệt do chip tạo ra trước tiên phải được truyền đến bộ tản nhiệt cấp bo mạch. Các giải pháp tản nhiệt hiệu quả hơn sẽ tạo điều kiện thu nhiệt tốt hơn.

 

Đối với các chip đơn có mức tiêu thụ điện năng dưới 200W và thiết bị CNTT có mức tiêu thụ điện năng dưới 20kW trên mỗi giá đỡ, không khí vẫn có thể được sử dụng làm môi trường truyền nhiệt. Tản nhiệt ống dẫn nhiệt và tản nhiệt buồng hơi (VC), kết hợp với vật liệu TIM có độ dẫn nhiệt cao (như tấm graphite/graphene), làm giảm hiệu quả điện trở nhiệt giữa chip và đế tản nhiệt, cải thiện hiệu suất của tản nhiệt.

 

Đối với các chip đơn có mức tiêu thụ điện năng vượt quá 200W và thiết bị CNTT có mức tiêu thụ điện năng vượt quá 20kW trên mỗi giá đỡ, không khí không còn đủ để làm môi trường truyền nhiệt nữa và phải sử dụng chất làm mát dạng lỏng để làm mát. Công nghệ tấm làm mát bằng chất lỏng hiện là giải pháp hoàn thiện để làm mát chip ở cấp độ bo mạch. Tấm làm mát bằng chất lỏng bao gồm các đầu nối đầu vào và đầu ra, một nắp trên và một tấm đế, được kết nối bằng phương pháp hàn chân không để tạo thành buồng trao đổi nhiệt lỏng kín. Buồng bao gồm các buồng phân phối và các kênh dòng chảy có nhiều chiều rộng khác nhau, giúp kiểm soát dòng chảy chất lỏng và tăng độ nhiễu loạn, tăng cường khả năng làm mát cục bộ và loại bỏ các điểm nóng do chip công suất cao gây ra. Cấu trúc bên trong được thể hiện trong Hình 2.

 

Cross-Section of a Liquid-Cooled Cold Plate

▲ Hình 2: Mặt cắt ngang của tấm lạnh làm mát bằng chất lỏng

 

Các loại bo mạch khác nhau trong cùng một giá có mức công suất và điểm nóng khác nhau, nhưng áp suất cung cấp tại đầu nối đầu vào của đường cung cấp chất lỏng nhìn chung là giống nhau, đòi hỏi buồng phân phối của tấm lạnh phải kiểm soát việc điều tiết. Đối với các bo mạch có mức tiêu thụ điện năng của chip thấp hơn, việc điều tiết sẽ làm giảm lưu lượng chất làm mát. Trong thực tế, các tấm lạnh làm mát bằng chất lỏng bao phủ CPU, bộ nhớ và các thành phần công suất cao khác, nhưng các thành phần như điện trở và tụ điện không được bao phủ sẽ tạo ra nhiệt dư đòi hỏi phải làm mát bằng quạt. Điều này dẫn đến sự kết hợp giữa làm mát bằng chất lỏng và không khí trong hệ thống, tạo không gian để cải thiện hiệu quả làm mát.

 

Bằng cách sử dụng vật liệu TIM để phủ lên tất cả các thành phần trong quá trình thiết kế tấm lạnh, về mặt kỹ thuật có thể đạt được khả năng làm mát bằng chất lỏng 100%, nhưng điều này làm tăng chi phí và độ phức tạp của tấm lạnh. Trong khi theo đuổi khả năng làm mát hiệu quả, cũng phải cân nhắc đến chi phí đầu tư ban đầu. Nếu các loại bo mạch nút đồng nhất, có thể cân nhắc đến bo mạch được phủ hoàn toàn, với chi phí ban đầu được bù đắp bằng cách mở rộng quy mô sản xuất, đạt được sự cân bằng giữa tiết kiệm năng lượng và đầu tư.

 

cold plate

 

Nước khử ion thường được sử dụng làm chất làm mát trong quá trình làm mát bằng chất lỏng do có nhiệt dung riêng cao, cho phép hấp thụ nhiệt nhanh trong khi không bị ăn mòn, do đó không ảnh hưởng đến độ tin cậy của đường ống. Làm mát bằng chất lỏng tấm lạnh là gián tiếp, với chip không tiếp xúc trực tiếp với chất làm mát bằng chất lỏng, dẫn đến độ tin cậy cao và công nghệ trưởng thành.

 

Tuy nhiên, có điện trở nhiệt giữa chip và chất làm mát dạng lỏng, khiến một số nhà sản xuất thúc đẩy các giải pháp làm mát ngâm. Trong quá trình làm mát ngâm, thiết bị CNTT được ngâm trong chất lỏng tuần hoàn, với chip tiếp xúc trực tiếp với chất làm mát, làm giảm điện trở nhiệt trong khi tận dụng sự thay đổi pha để loại bỏ nhiều nhiệt hơn, biến nó thành điểm nóng mới trong quá trình làm mát bằng chất lỏng. Chất lỏng flo thường được sử dụng làm chất làm mát trong quá trình làm mát ngâm, nhưng chi phí cao của chúng là rào cản đối với việc sử dụng thương mại trên quy mô lớn.

 

2. Làm mát bằng chất lỏng ở cấp độ giá đỡ

Trong các trung tâm dữ liệu, thiết bị CNTT được sắp xếp theo giá đỡ, nơi chứa các thiết bị thông tin của trung tâm dữ liệu như máy chủ, thiết bị lưu trữ và bộ chuyển mạch mạng. Trong khi làm mát ở cấp độ bo mạch loại bỏ nhiệt từ các thiết bị CNTT riêng lẻ, làm mát ở cấp độ giá đỡ thu thập và truyền nhiệt ra bên ngoài. Các thành phần chính trong làm mát bằng chất lỏng ở cấp độ giá đỡ bao gồm ống phân phối đầu vào và đầu ra, đơn vị giám sát, cảm biến nhiệt độ, van điện từ và van kiểm tra, như thể hiện trong Hình 3.

 

Rack-Level Liquid Cooling Configuration

▲ Hình 3: Cấu hình làm mát bằng chất lỏng ở cấp độ giá đỡ

 

Bộ phân phối kết nối bên ngoài với bộ phân phối làm mát bằng chất lỏng ở cấp độ phòng và bên trong thông qua các đầu nối nhanh tới các đầu nối vào và ra của tấm làm mát bằng chất lỏng, tạo điều kiện thuận lợi cho việc truyền nhiệt của hệ thống ra bên ngoài giá đỡ.

Chức năng chính của van điện từ và van một chiều là kiểm soát dòng chảy của chất lỏng và hạn chế mức độ hỏng hóc chỉ ở một giá đỡ duy nhất khi xảy ra rò rỉ.

 

Vai trò chính của cảm biến nhiệt độ là liên tục theo dõi nhiệt độ nước đầu vào và đầu ra. Bằng cách sử dụng chênh lệch nhiệt độ giữa nước đầu vào và đầu ra, nó kiểm soát việc mở van điện từ, do đó kiểm soát dòng nước và đảm bảo nhiệt độ và dòng chảy được cân bằng.

Hệ thống làm mát bằng chất lỏng sử dụng nước khử ion làm chất lỏng làm việc, về mặt lý thuyết sẽ không gây ra hiện tượng đoản mạch.

 

Tuy nhiên, các bảng mạch hoặc linh kiện điện tử thường có các hạt bụi và khi nước khử ion tiếp xúc với bảng mạch, nó có thể gây ra hiện tượng đoản mạch. Đây là một trong những trở ngại và mối quan tâm chính trong việc triển khai làm mát bằng chất lỏng. Để giải quyết vấn đề rò rỉ tấm lạnh, các biện pháp như kiểm soát chất lượng, giám sát rò rỉ vi mô và ngăn ngừa rò rỉ lớn đột ngột được áp dụng.

 

Kiểm soát chất lượng được chia thành các giai đoạn ứng dụng sản xuất và lắp đặt. Trong giai đoạn sản xuất, độ tin cậy của quy trình được đảm bảo, 100% tấm lạnh trải qua thử nghiệm áp suất và siêu âm được sử dụng để lấy mẫu ngẫu nhiên và phát hiện lỗi. Các phụ kiện kết nối nhanh phải được xác nhận để lắp đặt hiệu quả và độ tin cậy lâu dài. Trong giai đoạn ứng dụng lắp đặt, đường ống thứ cấp phải được rửa sạch trước khi lắp đặt để tránh tạp chất gây tắc nghẽn trong các phụ kiện kết nối nhanh, kẹt lò xo hoặc hỏng vòng cao su, do đó ngăn ngừa rò rỉ trong quá trình vận hành. Các biện pháp trên nhằm mục đích ngăn ngừa rò rỉ càng nhiều càng tốt.

 

Rack-Level

 

Nếu một tấm lạnh phát triển một rò rỉ nhỏ, nó phải có thể phát hiện được và kích hoạt báo động để nhắc nhở nhân viên bảo trì sửa chữa kịp thời. Có hai phương pháp phát hiện: một là sử dụng cảm biến ngâm nước, được lắp trên khay nhỏ giọt. Chức năng chính của khay nhỏ giọt là tạo điều kiện phát hiện rò rỉ và ngăn chất lỏng rò rỉ ra ngoài giá đỡ, giảm sự lan rộng của lỗi.

 

Mặc dù khả năng phát hiện của cảm biến ngâm nước đã hoàn thiện và đáng tin cậy, nhưng nó đòi hỏi chất lỏng rò rỉ phải tích tụ trong khay hứng sau khi chảy qua bảng phần cứng và phụ kiện giá đỡ, khi đó tổng lượng chất lỏng rò rỉ có thể rất đáng kể và có thể đã làm hỏng bảng và các bộ phận trong quá trình chảy.

 

Phương pháp khác là giám sát theo thời gian thực. Một chất đánh dấu có điểm sôi thấp được trộn vào chất lỏng làm việc và trong trường hợp rò rỉ, một cảm biến khí được tích hợp trong bo mạch sẽ phát hiện ra. Rò rỉ đột ngột trên diện rộng rất hiếm nhưng có tác động rất lớn. Để ngăn ngừa những sự cố như vậy, van kiểm tra được lắp đặt ở đầu vào và đầu ra của ống phân phối trên giá đỡ. Các van kiểm tra này tự động đóng khi phát hiện thấy chênh lệch áp suất đáng kể.

 

3. Thiết kế làm mát bằng chất lỏng ở mức phòng

Làm mát ở mức phòng được thiết kế để truyền nhiệt được trích xuất từ ​​giá đỡ ra ngoài trời. Giải pháp làm mát bằng chất lỏng ở mức phòng bao gồm phòng dữ liệu mô-đun làm mát bằng chất lỏng, máy làm lạnh, máy bơm nước, tháp giải nhiệt, đường ống, v.v., như thể hiện trong Hình 4.

 

Room-Level Liquid Cooling Configuration

▲ Hình 4: Cấu hình làm mát bằng chất lỏng ở mức phòng

 

Thông thường, một phòng dữ liệu mô-đun làm mát bằng chất lỏng chứa hai đơn vị phân phối làm mát bằng chất lỏng dự phòng (CDU), 10-20 giá đỡ CNTT, 1-2 máy điều hòa không khí theo hàng và thiết bị cung cấp điện, như thể hiện trong Hình 4.

 

Bộ phân phối làm mát bằng chất lỏng (CDU) có nhiệm vụ phân phối chất lỏng làm việc giữa các giá đỡ làm mát bằng chất lỏng CNTT, cung cấp chức năng phân phối dòng chảy phía thứ cấp, kiểm soát áp suất, cách ly vật lý và chống ngưng tụ. Trong quá trình vận hành thực tế, CDU cung cấp một lưu lượng và nhiệt độ nhất định của nước làm mát cho các giá đỡ làm mát bằng chất lỏng CNTT, đi vào các tấm lạnh làm mát bằng chất lỏng thông qua ống phân phối, loại bỏ nhiệt do bộ xử lý và các thành phần chính tạo ra và đưa nước làm mát đã được làm nóng trở lại bộ trao đổi nhiệt trung gian của CDU. Sau đó, nhiệt được giải phóng vào đường ống nước hồi ngoài trời và phần nhiệt này được thải ra môi trường ngoài trời thông qua máy làm lạnh hoặc máy làm mát khô, hoàn tất quy trình quản lý nhiệt cho các máy chủ làm mát bằng chất lỏng.

 

CDU điều chỉnh nhiệt độ và lưu lượng chất làm mát đi vào các tấm làm mát bằng chất lỏng, do đó cung cấp khả năng làm mát cho các giá đỡ CNTT và phân phối năng lượng làm mát. Bộ trao đổi nhiệt bên trong cũng đóng vai trò cô lập mạch cung cấp chất lỏng giữa phòng dữ liệu mô-đun và môi trường ngoài trời. Do vai trò quan trọng của mình, CDU thường sử dụng cấu hình dự phòng 1+1. CDU kiểm soát lưu lượng chất làm mát bằng chất lỏng bằng cách phát hiện nhiệt độ nước đầu vào và đầu ra cũng như áp suất cung cấp và điều chỉnh tốc độ của bơm nước cung cấp.

 

Room-Level Liquid Cooling

 

Hiện nay, hầu hết các hệ thống điều khiển CDU không liên kết với các cảm biến nhiệt độ bên trong giá đỡ, dẫn đến việc điều khiển tương đối thô. Để giải quyết vấn đề này, một số ứng dụng đã thay thế CDU tập trung bằng CDU phân tán, được tích hợp vào giá đỡ. Theo cách này, việc điều chỉnh luồng CDU hoàn toàn dựa trên trạng thái hoạt động và biến động mức tiêu thụ điện năng của giá đỡ. CDU tập trung phù hợp với các tình huống có nhiều giá đỡ làm mát bằng chất lỏng có thể được hợp nhất thành một phòng dữ liệu mô-đun, trong khi CDU phân tán phù hợp hơn với các tình huống chỉ có 2-3 giá đỡ làm mát bằng chất lỏng, giúp triển khai dễ dàng hơn.

 

 

III Kết luận

 

Dưới sự hướng dẫn của các mục tiêu carbon kép, các trung tâm dữ liệu mang một sứ mệnh kép: một mặt, thông qua các hoạt động chuyên sâu và mở rộng, chúng cung cấp đủ năng lực tính toán cho nền kinh tế kỹ thuật số. Việc áp dụng rộng rãi các giá đỡ mật độ cao và chip công suất cao, được thúc đẩy bởi hiệu quả của năng lực tính toán của trung tâm dữ liệu, đã khiến hệ thống làm mát bằng không khí truyền thống gặp phải tình trạng tắc nghẽn. Mặt khác, bằng cách sử dụng bộ trao đổi nhiệt hiệu suất cao, làm mát bằng chất lỏng và làm mát tự nhiên từ bộ làm mát khô, các trung tâm dữ liệu có thể giảm mức tiêu thụ năng lượng của chính mình.

 

Sau khi áp dụng làm mát bằng chất lỏng, hiệu quả làm mát được cải thiện đáng kể, với mức tiêu thụ năng lượng của hệ thống làm mát giảm từ 37% xuống còn khoảng 10%, dẫn đến tiết kiệm năng lượng đáng kể và giảm carbon. Nếu 50% các trung tâm dữ liệu mới xây dựng trên toàn quốc áp dụng làm mát bằng chất lỏng, có thể tiết kiệm 45 tỷ kWh điện hàng năm và 3 triệu tấn COlượng khí thải có thể được giảm xuống.

 

 

Gửi yêu cầu