AWS ra mắt Amazon EC2 G7: Sức mạnh đột phá với GPU NVIDIA RTX PRO 4500 Blackwell

AWS vừa chính thức công bố sự ra mắt của dòng instance Amazon EC2 G7, mang đến khả năng tăng tốc GPU mạnh mẽ cho các tác vụ AI inference (suy luận AI), đồ họa chuyên nghiệp và phân tích dữ liệu quy mô lớn. Đây là cột mốc quan trọng khi AWS trở thành nhà cung cấp đám mây lớn đầu tiên hỗ trợ dòng GPU NVIDIA RTX PRO 4500 Blackwell Server Edition.

Hiệu suất vượt trội so với thế hệ G6

Được trang bị GPU Blackwell kết hợp cùng bộ vi xử lý Intel Xeon Scalable thế hệ thứ 6 tùy chỉnh, G7 instances mang lại những cải tiến đáng kể:

• AI Inference: Hiệu suất tăng tới 4.6 lần.
• Đồ họa: Hiệu suất tăng tới 2.1 lần.
• Phân tích dữ liệu: Cải thiện tốc độ đáng kể cho các tác vụ trên Amazon EMR chạy trên Amazon EKS.

Những nâng cấp kỹ thuật chủ chốt

1. Bộ nhớ GPU tốc độ cao: NVIDIA RTX PRO 4500 Blackwell cung cấp dung lượng bộ nhớ gấp 1.33 lần và băng thông bộ nhớ gấp 2.45 lần so với G6. Với 32 GB VRAM mỗi GPU, kết hợp cùng 5th Gen Tensor Cores và 4th Gen RT Cores, G7 được tối ưu hóa cho các mô hình AI phức tạp.

2. Mạng và Lưu trữ hiệu năng cao:

   • Networking: Băng thông mạng hỗ trợ EFA (Elastic Fabric Adapter) lên tới 700 Gbps (gấp 7 lần G6), đảm bảo độ trễ thấp cho các tác vụ đa node.
   • Storage: Hỗ trợ tới 7.6 TB lưu trữ NVMe SSD cục bộ, giúp giảm độ trễ khi truy xuất dữ liệu lớn cho các mô hình AI.

3. Công cụ mã hóa/giải mã video tiên tiến: Sử dụng NVENC thế hệ thứ 9 và NVDEC thế hệ thứ 6, hỗ trợ định dạng 4:2:2, cho phép xử lý số lượng luồng video đồng thời gấp 1.5 lần so với G6.

Thông số kỹ thuật chi tiết

Các instance G7 cung cấp cấu hình linh hoạt với tối đa 8 GPU NVIDIA RTX PRO 4500 (tổng 256 GB VRAM). Dưới đây là các thông số chính:

• vCPU: Lên tới 192 vCPUs.
• Bộ nhớ hệ thống: Lên tới 768 GiB.
• Băng thông mạng: Lên tới 700 Gbps.
• Lưu trữ: Lên tới 7.6 TB NVMe SSD.

Lưu ý: Các thông số chi tiết về cấu hình cụ thể cho từng size instance sẽ được cập nhật sớm trên trang chủ AWS.

Khả năng kết nối và triển khai

G7 hỗ trợ các công nghệ tiên tiến của NVIDIA để tối ưu hóa truyền tải dữ liệu:

• NVIDIA GPUDirect P2P: Tối ưu hóa giao tiếp giữa các GPU trong cùng một instance.
• NVIDIA GPUDirect RDMA với EFA: Cho phép giao tiếp trực tiếp giữa GPU và mạng, giảm tải cho CPU.
• Hỗ trợ Amazon FSx for Lustre: Tăng tốc độ đọc/ghi dữ liệu cho các tác vụ phân tích đa node.

Hướng dẫn bắt đầu

Để triển khai, bạn có thể sử dụng:

• AWS Deep Learning AMIs (DLAMI): Đã tích hợp sẵn các driver GPU cần thiết.
• NVIDIA Workstation AMIs: Dành cho các tác vụ đồ họa.
• Amazon EKS: Sử dụng driver NVIDIA phiên bản R595 với tự động hóa từ EKS.

Các hệ điều hành được hỗ trợ bao gồm Amazon Linux, Ubuntu, RHEL và Windows Server. Khả năng tương thích với các thư viện đồ họa tiêu chuẩn như DirectX, Vulkan và OpenGL giúp việc chuyển đổi ứng dụng trở nên dễ dàng.

Khu vực khả dụng và chi phí

Hiện tại, bạn có thể trải nghiệm EC2 G7 tại hai khu vực:

• US East (Ohio)
• US West (Oregon)

Các tùy chọn mua bao gồm: On-Demand, Savings Plans và Spot Instances. Đối với các size 12xlarge, 24xlarge và 48xlarge, AWS còn hỗ trợ Dedicated Instances.

Để biết chi tiết về giá cả, vui lòng truy cập Amazon EC2 Pricing. Bạn có thể bắt đầu khởi tạo instance ngay hôm nay từ bảng điều khiển EC2 Console.