Trung tâm dữ liệu AI là gì?

Một tủ GPU thế hệ hiện nay tiêu thụ điện gấp khoảng 16 lần một tủ rack trung bình. Điều đó thay đổi toàn bộ hệ thống cấp điện và làm mát xung quanh nó.

Các trung tâm dữ liệu đã tiêu thụ khoảng 415 TWh điện năm 2024, tương đương khoảng 1,5% điện năng toàn cầu. Cơ quan Năng lượng Quốc tế (IEA) dự báo con số này sẽ tăng hơn gấp đôi, lên khoảng 945 TWh vào năm 2030, với AI là động lực chính.[3]

Vì vậy, câu hỏi đầu tiên với bất kỳ khu dữ liệu AI nào là nguồn điện: đấu nối lưới cao áp còn dư công suất, có khả năng tăng thêm theo thời gian, và nguồn cấp ổn định suốt ngày đêm. Đất đai, nhà xưởng và thiết bị đều có thể thu xếp; còn một đấu nối cao áp mới có thể mất nhiều năm.

Đó là lý do PIDC chọn địa điểm nằm cạnh lưới điện 220  kV.Xem địa điểm

Tủ GPU tỏa nhiệt quá lớn để chỉ làm mát bằng không khí. Các hệ thống thế hệ hiện nay như GB200 NVL72 được làm mát bằng chất lỏng: chất làm mát chảy qua các tấm tản nhiệt gắn trên chip và mang nhiệt ra ngoài.[2]

Bên ngoài, lượng nhiệt này được thải ra qua thiết bị giải nhiệt khô, tháp giải nhiệt hoặc kết hợp cả hai. Thiết kế vòng kín tuần hoàn cùng một lượng chất làm mát và dùng rất ít nước. Thiết kế bay hơi dùng nhiều nước hơn nhưng tốn ít điện hơn. Lựa chọn phù hợp phụ thuộc vào khí hậu và nguồn nước tại chỗ.

Hiệu suất được đo bằng chỉ số PUE (hiệu quả sử dụng điện năng): tổng điện năng của cơ sở chia cho điện năng của thiết bị tính toán. PUE bằng 1,0 nghĩa là không có tổn hao nào. Mức trung bình của ngành năm 2024 là 1,56.[1]

• Nguồn vốn lớn đầu tư vào nhà xưởng, hệ thống điện, làm mát và cáp quang.
• Một khách hàng tiêu thụ điện ổn định ngay tại địa phương cho nguồn điện sản xuất trong tỉnh.
• Việc làm kỹ thuật về điện, cơ điện, mạng và vận hành. Trung tâm dữ liệu sử dụng ít lao động hơn nhà máy có cùng mức vốn, nhưng là lao động có chuyên môn kỹ thuật.
• Hạ tầng điện và cáp quang mới để các doanh nghiệp số khác cùng tận dụng.

GPU

Bộ xử lý đồ họa: loại chip thực hiện phần lớn các phép tính AI.

Tủ rack

Tủ tiêu chuẩn chứa máy chủ. Mật độ công suất thường được tính theo từng tủ.

MW IT

Công suất điện dành cho thiết bị tính toán, chưa tính làm mát và tổn hao. Quy mô trung tâm dữ liệu thường được nêu theo chỉ số này.

PUE

Hiệu quả sử dụng điện năng: tổng điện năng của cơ sở chia cho điện năng thiết bị IT. Càng thấp càng tốt.

Làm mát bằng chất lỏng

Chất làm mát được dẫn tới các tấm tản nhiệt trên chip, giải nhiệt hiệu quả hơn nhiều so với không khí.

Colocation

Cho khách hàng thuê không gian, điện và làm mát để đặt máy chủ của chính họ.

Hyperscaler

Nhà cung cấp điện toán đám mây quy mô rất lớn, vận hành hệ thống trung tâm dữ liệu riêng trên toàn cầu.

Dự phòng (N+1, 2N)

Công suất dự phòng để một sự cố không làm gián đoạn dịch vụ. N+1 có thêm một thiết bị dự phòng; 2N nhân đôi toàn bộ hệ thống.

Độ trễ

Thời gian dữ liệu đi qua mạng, tính bằng mili giây.

Trạm cập bờ

Nơi tuyến cáp quang biển lên bờ và kết nối với mạng trên đất liền.