Nhu cầu tăng cao thúc đẩy cuộc cách mạng về sức mạnh điện toán, làm mát bằng chất lỏng sẽ thúc đẩy mạnh mẽ sự tăng trưởng của ngành!

 

Từ năm 2023, mô hình chatbot AI của OpenAI, ChatGPT, đã nhận được sự hoan nghênh rộng rãi. Nó sử dụng một lượng lớn dữ liệu đào tạo để mô phỏng hành vi ngôn ngữ của con người, tạo ra văn bản thông qua phân tích ngữ nghĩa, cho phép nó tương tác với người dùng theo cách tự nhiên và thực tế, thường không thể phân biệt được với tương tác của con người.

 

Trong nhiều lĩnh vực, chẳng hạn như sáng tác thơ ca và viết kịch bản, nó thậm chí còn vượt qua khả năng của con người. Tuy nhiên, sự phát triển của trí tuệ nhân tạo đòi hỏi sức mạnh tính toán cực kỳ mạnh mẽ, dẫn đến mức tiêu thụ điện năng của máy chủ tăng lên, mật độ công suất cao hơn trên mỗi đơn vị trong các trung tâm dữ liệu và mức tiêu thụ năng lượng tăng lên. Công nghệ làm mát bằng không khí truyền thống không còn có thể đáp ứng được nhu cầu làm mát, khiến làm mát bằng chất lỏng trở thành một nhu cầu thiết yếu chắc chắn sẽ thúc đẩy sự tăng trưởng của ngành!

 

▲ Mô hình chatbot AI của OpenAI, ChatGPT

 

 

Ⅰ Sự thành công bùng nổ của ChatGPT: Nó đòi hỏi sức mạnh tính toán như thế nào?

 

Dữ liệu, thuật toán và sức mạnh tính toán là ba yếu tố cốt lõi của trí tuệ nhân tạo, trong đó sức mạnh tính toán được gọi là "động cơ" hoặc "mô tơ" của AI. Cả dữ liệu và thuật toán đều dựa vào sức mạnh tính toán. Theo ước tính của OpenAI, kể từ năm 2012, sức mạnh tính toán cần thiết để đào tạo các mô hình AI hàng đầu thế giới đã tăng gấp đôi sau mỗi 3-4 tháng, với mức tăng hàng năm về sức mạnh tính toán cần thiết cho các mô hình đào tạo hàng đầu lên tới mười lần. Trong giai đoạn đào tạo, ChatGPT đã tiêu thụ tổng cộng khoảng 3640 PF-ngày (có nghĩa là chạy ở hiệu suất 1 PetaFLOP/giây trong 3640 ngày). Điều này nhấn mạnh rằng sức mạnh tính toán mạnh là chìa khóa để hỗ trợ ứng dụng và phổ biến hơn nữa nội dung do AI tạo ra (AIGC) trong tương lai.

 

Lấy ChatGPT làm ví dụ: nó được hỗ trợ bởi mô hình GPT-3.5, đã trải qua ba lần lặp lại (GPT-1, GPT-2, GPT-3), với số lượng tham số tăng từ 117 triệu lên 175 tỷ và lượng dữ liệu đào tạo trước tăng từ 5 GB lên 45 TB (tương đương với 160 lần toàn bộ phiên bản tiếng Anh của Wikipedia). Lượng dữ liệu và tính toán khổng lồ này đòi hỏi sức mạnh tính toán cao hơn để hỗ trợ hoạt động của nó. Theo dữ liệu từ Similarweb, vào tháng 1 năm 2023, ChatGPT có khoảng 13 triệu người dùng hoạt động hàng ngày, mỗi người đặt câu hỏi trung bình khoảng 1,000 từ.

 

Điều này tạo ra tổng cộng khoảng 13 tỷ từ (17,33 tỷ mã thông báo). Giả sử các tác vụ được phân bổ đều trong 24 giờ, số lượng GPU A100 cần thiết sẽ là 17,33 tỷ * 2 * 300 tỷ / (20% * 24 giờ * 3600 giây)=601.75 PetaFLOP/S. Giả sử lưu lượng truy cập đạt đỉnh, giả sử lưu lượng truy cập đạt đỉnh gấp năm lần mức trung bình hàng ngày, thì cần tổng cộng 602 máy chủ DGX A100 để đáp ứng nhu cầu lưu lượng truy cập hiện tại, khiến yêu cầu về sức mạnh tính toán trở nên cực kỳ khắt khe.

 

Điều này minh họa rằng để đào tạo các mô hình AI tốt hơn nữa và thực sự áp dụng các mô hình AI trong nhiều ngành công nghiệp khác nhau, cần có sức mạnh tính toán hiệu quả hơn và nhiều tài nguyên tính toán hơn. Sức mạnh tính toán đã trở thành một yếu tố quan trọng hạn chế quá trình công nghiệp hóa AI và chắc chắn sẽ kích hoạt một cuộc cách mạng sức mạnh tính toán mới! Với nhu cầu về sức mạnh tính toán AI tăng nhanh, sức mạnh của các CPU/GPU liên quan đang tăng tốc, đòi hỏi các giải pháp làm mát mạnh hơn và hiệu quả hơn để giữ cho thiết bị hoạt động trơn tru.

 

 

Ⅱ Ứng dụng rộng rãi của sức mạnh tính toán

 

Trong kỷ nguyên kinh tế số, sức mạnh điện toán không chỉ là yếu tố năng suất chính mà còn được thiết lập để trở thành yếu tố được áp dụng rộng rãi. Khi quá trình xây dựng cơ sở hạ tầng sức mạnh điện toán tiến triển, các mô hình và hình thức kinh doanh mới của các ứng dụng sức mạnh điện toán đang nhanh chóng xuất hiện, tích hợp sâu sức mạnh điện toán vào nhiều ngành công nghiệp hơn, chẳng hạn như sản xuất, vận tải, giáo dục, hàng không vũ trụ, tài chính và truyền thông. Đồng thời, việc lập lịch, quản lý và giao dịch sức mạnh điện toán đang trở thành trọng tâm của quá trình khám phá ngành. Sức mạnh điện toán đang phát triển từ một "nguồn lực" thành một "yếu tố", trở thành một phần thiết yếu trong sản xuất và cuộc sống của con người.

 

Sự phát triển của nhiều ngành công nghiệp đã gây ra sự bùng nổ về nhu cầu năng lượng điện toán. Để tối đa hóa hiệu suất bộ xử lý, cần có hiệu suất làm mát cao hơn và công nghệ làm mát bằng không khí truyền thống không còn có thể đáp ứng được nhu cầu năng lượng điện toán đang tăng cao. Máy chủ làm mát bằng chất lỏng, với những ưu điểm của chúng, sẽ giành được thị phần đáng kể và thúc đẩy mạnh mẽ sự phát triển của ngành!

 

 

Ⅲ Nhu cầu làm mát bằng chất lỏng tăng đáng kể

 

Vào năm 2022, bộ xử lý máy chủ thế hệ thứ tư của Intel đã chứng kiến ​​mức tiêu thụ điện năng của một CPU vượt quá 350 watt và mức tiêu thụ điện năng của một chip GPU của NVIDIA vượt quá 700 watt. Mật độ công suất tính toán của các cụm AI thường đạt 50kW trên mỗi tủ và công nghệ làm mát bằng không khí truyền thống không còn khả thi nữa! Cần có hiệu suất làm mát cao hơn để tối đa hóa hiệu suất của bộ xử lý.

 

Trong khi đó, từ góc độ chính sách, việc khởi xướng dự án "Dữ liệu phương Đông, Điện toán phương Tây" của Trung Quốc và các mục tiêu carbon kép đã khiến ngành công nghiệp chú ý hơn đến việc bảo tồn năng lượng, giảm phát thải và phát triển chất lượng cao. Các yêu cầu kỹ thuật chặt chẽ hơn đã được đặt ra đối với Hiệu quả sử dụng điện năng (PUE) của các trung tâm dữ liệu, với PUE trung bình của các trung tâm dữ liệu lớn và siêu lớn mới xây dựng trên toàn quốc sẽ giảm xuống dưới 1,3 và giảm tiếp xuống dưới 1,25 tại các nút trung tâm quốc gia.

 

Làm mát bằng chất lỏng đáp ứng nhu cầu về hiệu quả chi phí thị trường và hướng dẫn chính sách ở nhiều khía cạnh, bao gồm hiệu quả kinh tế và hiệu suất làm mát, khiến nó vừa có giá trị cao vừa có lợi về mặt kinh tế. Theo CCID Consulting, thị trường IDC làm mát bằng chất lỏng của Trung Quốc dự kiến ​​sẽ vượt quá 120 tỷ nhân dân tệ vào năm 2025, với tốc độ tăng trưởng hơn 30% và tỷ lệ thâm nhập hiện tại vào khoảng 20%. Nhu cầu làm mát bằng chất lỏng đang tăng đáng kể và triển vọng thị trường rất hứa hẹn.

 

 

Ⅳ Chuỗi ngành công nghiệp máy chủ làm mát bằng chất lỏng

 

1. Toàn cảnh ngành công nghiệp làm mát bằng chất lỏng

Ngành công nghiệp máy chủ làm mát bằng chất lỏng bao gồm nhiều thứ hơn là chỉ máy chủ làm mát bằng chất lỏng; toàn bộ chuỗi ngành này rất dài, với nhiều lĩnh vực phụ rộng lớn và nhiều bên tham gia, khiến đây trở thành ngành công nghiệp đòi hỏi nhiều vốn.Công nghệ làm mát bằng chất lỏng hiện đang trong giai đoạn phát triển nhanh chóng và nếu các bên liên quan có lợi thế về tài chính hoặc thu hút khách hàng, họ có thể xây dựng một số rào cản nhất định để gia nhập.

 

Các doanh nghiệp trong nhiều lĩnh vực phụ khác nhau đang dần thâm nhập vào các lĩnh vực liên quan dựa trên lợi thế cốt lõi của họ, xây dựng hệ sinh thái riêng của họ. Theo sự phân chia từ cơ sở hạ tầng đến ứng dụng, ngành công nghiệp trung tâm dữ liệu làm mát bằng chất lỏng có thể được chia thành ba lĩnh vực phụ chính: cơ sở hạ tầng làm mát bằng chất lỏng, ngành công nghiệp trung gian và ứng dụng công nghiệp.

 

Ngành Cơ sở hạ tầng làm mát bằng chất lỏng cung cấp các thiết bị và cơ sở vật chất thiết yếu để xây dựng các trung tâm dữ liệu làm mát bằng chất lỏng. Ngành này được chia thành các phân ngành như tủ làm mát bằng chất lỏng, chất làm mát, hệ thống làm mát, hệ thống điện, hệ thống mạng và hệ thống quản lý cơ sở hạ tầng trung tâm dữ liệu. Các phân ngành này chủ yếu cung cấp thiết bị, hệ thống phần mềm và chất làm lạnh để vận hành máy chủ. Ngoài ra, ngành cơ sở hạ tầng bao gồm các nhà thầu xây dựng, nhà điều hành mạng và nhà cung cấp điện. Các nhà thầu xây dựng chịu trách nhiệm xây dựng và lắp đặt các thiết bị và cơ sở vật chất nói trên, nhà điều hành mạng cung cấp quyền truy cập mạng cơ bản và nhà cung cấp điện cung cấp điện cần thiết để vận hành thiết bị. Các lĩnh vực này cung cấp môi trường ngoại vi tương đối cơ bản cho các trung tâm dữ liệu.

 

Ngành công nghiệp trung gian bao gồm các nhà sản xuất máy chủ, nhà cung cấp dịch vụ lưu trữ trung tâm dữ liệu và một số công ty mới tham gia. Các nhà sản xuất máy chủ nghiên cứu, thiết kế và sản xuất máy chủ phù hợp với môi trường làm mát bằng chất lỏng hoặc trực tiếp sản xuất máy chủ làm mát bằng chất lỏng dạng tấm lạnh. Các nhà cung cấp dịch vụ lưu trữ trung tâm dữ liệu xây dựng và vận hành trung tâm dữ liệu, tận dụng lợi thế của riêng họ để tích hợp các nguồn lực từ lĩnh vực cơ sở hạ tầng và cung cấp dịch vụ lưu trữ máy chủ cho người dùng ứng dụng. Khi các trung tâm dữ liệu phát triển nhanh chóng, các công ty mới đang tham gia vào lĩnh vực trung tâm dữ liệu làm mát bằng chất lỏng.

 

Người dùng ứng dụng trung tâm dữ liệu chủ yếu được chia thành ba phân ngành: điện toán đám mây và năng lực điện toán đám mây, internet và blockchain, và những người dùng khác. Họ là những người dùng chính của các trung tâm dữ liệu. Các nhà cung cấp điện toán đám mây và năng lực điện toán đám mây tạo ra doanh thu bằng cách cung cấp cho khách hàng khả năng phân bổ và lập lịch năng lực điện toán linh hoạt thông qua ảo hóa. Một số công ty internet và blockchain lớn thường xây dựng các trung tâm dữ liệu trực tiếp thông qua sự hợp tác với các nhà điều hành trung tâm dữ liệu, trong khi những người dùng khác thường trực tiếp lưu trữ hoặc thuê tài nguyên máy chủ hoặc năng lực điện toán từ các nhà điều hành trung tâm dữ liệu.

 

2. Tổng quan về ngành công nghiệp làm mát bằng chất lỏng

So với làm mát bằng không khí, công nghệ làm mát bằng chất lỏng mang lại lợi thế về độ ổn định cao và hiệu quả làm mát cao. Từ góc độ ứng dụng toàn diện, làm mát bằng chất lỏng dần bộc lộ lợi thế kinh tế khi mật độ công suất vượt quá 15kW trên mỗi tủ. TheoỨng dụng UPSNhật ký, nhiệt độ lõi CPU của máy chủ làm mát bằng chất lỏng có thể thấp hơn 20-30 độ so với nhiệt độ tối đa trong hệ thống làm mát bằng không khí, cải thiện đáng kể độ tin cậy.

 

Sách trắng của Intel,Thực hành đổi mới trung tâm dữ liệu xanh - Tài liệu tham khảo thiết kế hệ thống làm mát bằng chất lỏng dạng tấm lạnh, cho biết các trung tâm dữ liệu làm mát bằng không khí thường có thể quản lý làm mát cho các tủ có mức công suất lên đến 12kW. Đối với các tủ vượt quá 15kW, các trung tâm dữ liệu làm mát bằng không khí hiện tại đã đạt đến giới hạn khả năng làm mát đối lưu không khí của chúng. Công nghệ làm mát bằng chất lỏng, cung cấp khả năng làm mát mạnh hơn, có thể hỗ trợ mật độ công suất cao hơn.

 

So với các giải pháp làm mát bằng không khí, xu hướng làm mát bằng chất lỏng do AIGC và các sáng kiến ​​"Eastern Data, Western Computing" thúc đẩy chắc chắn sẽ dẫn đến sự gia tăng cả về khối lượng và giá của thị trường kiểm soát nhiệt độ trung tâm dữ liệu. Ngành công nghiệp máy chủ làm mát bằng chất lỏng đi theo ba con đường công nghệ: tấm lạnh, nhúng và làm mát phun.Làm mát bằng chất lỏng dạng tấm lạnh là phương pháp làm mát mà trong đó chất làm mát không tiếp xúc trực tiếp với các bộ phận sinh nhiệt của máy chủ.

 

▲ Làm mát bằng tấm lạnh

 

▲ Hệ thống làm mát bằng chất lỏng phun

 

▲ Làm mát bằng chất lỏng ngâm một pha

 

▲ Làm mát hai pha

 

Thay vào đó, các thành phần sinh nhiệt chính được gắn vào một tấm lạnh, với chất làm mát lưu thông bên trong hệ thống làm mát bằng chất lỏng bên trong của tấm lạnh để loại bỏ nhiệt. Để tăng cường khả năng trao đổi nhiệt, diện tích trao đổi nhiệt phải được tối đa hóa, đòi hỏi tấm lạnh phải được gắn chặt nhất có thể vào bề mặt của các thành phần sinh nhiệt của máy chủ. Các thành phần sinh nhiệt có hình dạng không đều rất khó làm mát bằng phương pháp này. Chỉ những con chip có hình dạng tương đối đều mới phù hợp để làm mát tấm lạnh.

 

Điều này đặt ra một vấn đề quan trọng đối với các giải pháp làm mát bằng chất lỏng tấm lạnh: khoảng 30% nhiệt của máy chủ, được tạo ra bởi các thành phần khác như bộ lưu trữ, bộ nhớ và nguồn điện, vẫn cần làm mát bằng không khí truyền thống. Điều này dẫn đến nhu cầu sử dụng đồng thời hai hệ thống làm mát trong các giải pháp làm mát bằng chất lỏng tấm lạnh, làm tăng cả chi phí và PUE thực tế của hệ thống. Giải pháp tấm lạnh hiện tại tương đối hoàn thiện, có nền tảng thương mại vững chắc và đã chứng kiến ​​nhiều ứng dụng thương mại.

 

▲ Giải pháp làm mát bằng chất lỏng dạng tấm lạnh

 

Làm mát bằng chất lỏng ngâm là phương pháp ngâm hoàn toàn thiết bị máy chủ trong chất làm mát, trong đó quá trình làm mát đạt được thông qua tiếp xúc trực tiếp giữa chất làm mát và các thành phần sinh nhiệt. Trong phương pháp này, các thành phần sinh nhiệt của máy chủ được ngâm hoàn toàn trong chất làm mát, cho phép tiếp xúc đủ với chất làm mát, liên tục mang đi nhiệt sinh ra, do đó làm mát máy chủ. Làm mát ngâm cung cấp hiệu quả làm mát cao hơn, với tiềm năng tăng mật độ công suất trên mỗi tủ lên hơn ba lần. Dự kiến ​​sẽ chiếm hơn 40% thị trường vào năm 2025, với các máy chủ làm mát bằng chất lỏng ngâm hoàn toàn có khả năng trở thành xu hướng công nghệ trong tương lai.

 

▲ Làm mát bằng chất lỏng ngâm

 

Hệ thống làm mát bằng chất lỏng phun là công nghệ làm mát bằng chất lỏng tiếp xúc trực tiếp được thiết kế để phun chính xác chất làm mát vào các thành phần sinh nhiệt của máy chủ. Chất làm mát được áp dụng trực tiếp vào các thiết bị sinh nhiệt hoặc vật liệu dẫn nhiệt rắn được kết nối với chúng, bằng trọng lực hoặc áp suất hệ thống. Quá trình này cho phép trao đổi nhiệt để làm mát máy chủ. Trong quá trình trao đổi nhiệt, mức chất làm mát bên trong máy chủ được giữ thấp hơn các thành phần sinh nhiệt hoặc vật liệu dẫn nhiệt rắn được kết nối với chúng. Hệ thống sử dụng các bộ trao đổi nhiệt bên ngoài để làm mát và tái chế chất làm mát.

 

 

3. Bối cảnh thị trường làm mát bằng chất lỏng

Là một công nghệ tiên tiến, làm mát bằng chất lỏng bao gồm nhiều ngành và lĩnh vực, với nhiều rào cản kỹ thuật cao.

Hiện nay, việc áp dụng công nghệ làm mát bằng chất lỏng trong các nhà sản xuất cơ sở hạ tầng trung tâm dữ liệu trong và ngoài nước vẫn còn tương đối thấp, với rất ít công ty làm chủ được công nghệ này.

 

Tuy nhiên, một số công ty trong và ngoài nước đã bắt đầu cung cấp các giải pháp làm mát bằng chất lỏng tùy chỉnh cho khách hàng của họ và một số công ty công nghệ đang dần xây dựng và triển khai các trung tâm dữ liệu làm mát bằng chất lỏng của riêng họ. Mặc dù vậy, tỷ lệ áp dụng công nghệ làm mát bằng chất lỏng trong số các nhà sản xuất cơ sở hạ tầng trung tâm dữ liệu vẫn còn thấp và thị trường vẫn chưa thấy sự xuất hiện của các nhà lãnh đạo thống trị, khiến bối cảnh cạnh tranh vẫn còn không chắc chắn.

 

Tại thị trường Trung Quốc, một số công ty đã chứng minh được những lợi thế đáng kể về mặt kỹ thuật và thị trường thông qua nhiều năm tích lũy kinh nghiệm và công nghệ. Dự kiến ​​trong tương lai, các công ty hàng đầu sẽ thống trị thị trường, hình thành nên bối cảnh cạnh tranh nơi các công ty lớn nắm giữ thị phần đáng kể.

 

4. Làm mát bằng chất lỏng ở cấp độ chip

Giảm khoảng cách giữa thiết bị làm mát bằng chất lỏng và các nguồn nhiệt lõi như chip là một xu hướng quan trọng. Trong tương lai, làm mát dự kiến ​​sẽ phát triển từ cấp độ phòng, cấp độ tủ và cấp độ máy chủ sang cấp độ chip, đạt được khả năng làm mát chip tốt hơn thông qua tiếp xúc trực tiếp giữa các thành phần làm mát và bề mặt chip. Bộ làm mát bằng chất lỏng tản nhiệt bằng cách di chuyển một lượng lớn nhiệt ra ngoài thông qua ma sát giữa dòng chất lỏng và bề mặt bên trong của bộ tản nhiệt. So với các hệ thống làm mát bằng không khí thông thường, làm mát bằng chất lỏng có thể cải thiện đáng kể hiệu quả làm mát. Hiện nay, công nghệ làm mát bằng chất lỏng chủ yếu được chia thành các loại gián tiếp và trực tiếp.

 

Theo thông tin mới nhấtTheo dõi thị trường máy chủ làm mát bằng chất lỏng nửa năm của Trung Quốc (nửa cuối năm 2022)Theo báo cáo do International Data Corporation (IDC) công bố, thị trường máy chủ làm mát bằng chất lỏng của Trung Quốc đã đạt 1,01 tỷ đô la vào năm 2022, tăng trưởng 189,9% so với cùng kỳ năm trước. IDC dự đoán rằng từ năm 2022 đến năm 2027, tốc độ tăng trưởng kép hàng năm của thị trường máy chủ làm mát bằng chất lỏng của Trung Quốc sẽ đạt 56,6%, với quy mô thị trường dự kiến ​​đạt 9,5 tỷ đô la vào năm 2027, cho thấy một tương lai tươi sáng cho ngành công nghiệp làm mát bằng chất lỏng!

 

 

▲ Dự báo thị trường máy chủ làm mát bằng chất lỏng tại Trung Quốc từ năm 2023 đến năm 2027