Máy chủ AI làm mát bằng khí Supermicro SYS-821GE-TNHR 8 GPU NVIDIA H100

Mô tả Máy chủ 8 GPU H100 Supermicro:

Supermicro SYS-821GE-TNHR là Máy chủ AI làm mát bằng khí tiên tiến được thiết kế để mang lại hiệu suất vượt trội cho các tác vụ đòi hỏi khắt khe, đặc biệt là trong lĩnh vực ứng dụng AI và học máy.

Nó kết hợp khả năng xử lý mạnh mẽ với các tùy chọn lưu trữ có thể mở rộng, cho phép tích hợp liền mạch vào cơ sở hạ tầng CNTT hiện có. SYS-821GE-TNHR cũng tự hào có hệ thống quản lý nhiệt nâng cao đảm bảo hoạt động đáng tin cậy ngay cả dưới tải tính toán cường độ cao. Các tính năng chính bao gồm hỗ trợ đa GPU, cấu hình bộ nhớ phong phú và các khe cắm mở rộng linh hoạt, tất cả đều nhằm mục đích tối ưu hóa hiệu quả trung tâm dữ liệu.

Các tính năng quan trọng của Supermicro SYS-821GE-TNHR bao gồm kiến trúc có thể mở rộng, cho phép tích hợp linh hoạt các tùy chọn GPU hoặc lưu trữ bổ sung. Máy chủ cũng cung cấp dung lượng bộ nhớ nâng cao và hỗ trợ nhiều khe cắm mở rộng PCIe, cho phép nâng cấp liền mạch theo thời gian. Hơn nữa, hệ thống nguồn mạnh mẽ của nó đảm bảo hoạt động không bị gián đoạn ngay cả dưới tải nặng.

Máy chủ 8 GPU H100 Supermicro Thông số kỹ thuật:

Chi tiết Máy chủ 8 GPU H100 Supermicro:

Tính năng lớn đầu tiên của máy chủ này là nó là một nền tảng 8U. Chúng ta thấy nhiều hệ thống 6U và một số hệ thống 7U trong ngành, nhưng nền tảng 8U thực sự có lý do chính đáng. Với khung gầm cao hơn, Supermicro có thể sử dụng quạt lớn và phân bổ I/O trên một dạng yếu tố lớn hơn.

Supermicro đã xây dựng nền tảng 8U này vì nó đủ mật độ cho hầu hết các giá đỡ cung cấp dưới 60kW điện ngay cả với chiều cao bổ sung. Bằng cách tăng kích thước, nó có khả năng bảo trì hàng đầu trong ngành cùng với mức tiêu thụ điện thấp hơn một vài phần trăm so với khung gầm 6U ngắn hơn.

Chúng ta có băng thông mạng khoảng 4,22Tbps từ máy chủ này, hoặc nhiều hơn những gì một bộ chuyển mạch 100GbE 32 cổng có thể xử lý. Đó là một trong những động lực thúc đẩy nhu cầu mạng hiện nay trong ngành.

Các CPU trong hệ thống này là Intel Xeon, đặc biệt là CPU Intel Xeon có thể mở rộng Thế hệ thứ 4 và thứ 5. Đối với các tên mã, nếu bạn muốn tìm kiếm trong kho lưu trữ STH, đó là Sapphire Rapids và Emerald Rapids. Trong khi nền tảng DGX tham chiếu của NVIDIA sử dụng CPU Intel Xeon, một số người thích AMD EPYC, và Supermicro cũng có máy chủ tương tự này với EPYC.
Các CPU ở đây hơi khác một chút vì chúng có bộ tản nhiệt có quạt. Chúng vẫn nhận được luồng không khí nếu quạt chủ động bị lỗi, nhưng các mô-đun quạt này khá dễ thay thế vì chúng được giữ cố định bằng một vít duy nhất.
Một lý do là, ngay cả với các CPU 12 kênh trên thị trường từ cả AMD và Intel, mọi người thích CPU bộ nhớ 8 kênh vì với các ổ cắm có độ rộng nhỏ hơn, bạn có thể có 2 DIMM mỗi kênh. Điều đó có nghĩa là 16 DIMM mỗi CPU hoặc tổng cộng 32 DIMM.