Máy tính AI cá nhân mới của Nvidia chạy được mô hình 100 tỉ tham số

Nguồn ảnh: Thanh Niên

Nvidia mở rộng dòng DGX Spark bằng phiên bản 64 GB, có thể chạy mô hình AI 100 tỉ tham số nhưng giá khởi điểm lên tới 4.999 USD.

Theo Wccftech, Nvidia dự kiến đưa phiên bản 64 GB của DGX Spark, dòng máy tính AI cá nhân có kích thước nhỏ gọn để đặt trên bàn làm việc, ra thị trường trong tháng 10. DGX Spark 64 GB tiếp tục sử dụng GB10 Grace Blackwell Superchip, kết hợp CPU Grace và GPU Blackwell của Nvidia.

Hệ thống đạt hiệu năng tính toán AI lên tới 1 PFLOP ở định dạng FP4. Thiết bị có kích thước nhỏ gọn để đặt trên bàn làm việc thay vì cần không gian như các hệ thống máy chủ AI truyền thống.

Phiên bản mới được trang bị 64 GB bộ nhớ hợp nhất, bằng một nửa dung lượng 128 GB trên DGX Spark trước đó. Với cấu hình này, Nvidia cho biết máy có thể chạy các mô hình AI với quy mô lên tới 100 tỉ tham số.

Khả năng xử lý mô hình trực tiếp trên thiết bị cho phép nhà phát triển thực hiện các công việc như phát triển, thử nghiệm và tinh chỉnh AI tại chỗ thay vì phải chuyển toàn bộ tác vụ lên hệ thống máy chủ từ xa. Nvidia cũng cho phép kết nối hai máy DGX Spark để tạo thành hệ thống có tổng cộng 128 GB bộ nhớ.

Dung lượng bộ nhớ thấp hơn đồng nghĩa phiên bản 64 GB có giới hạn về quy mô mô hình so với DGX Spark 128 GB. Tuy nhiên, hai phiên bản vẫn sử dụng cùng nền tảng xử lý GB10 Grace Blackwell.

Mức giá 4.999 USD của DGX Spark 64 GB đáng chú ý khi so với giá ban đầu của dòng sản phẩm. DGX Spark 128 GB từng được công bố với giá khởi điểm 3.999 USD. Như vậy, phiên bản mới có dung lượng bộ nhớ bằng một nửa nhưng giá khởi điểm cao hơn 1.000 USD so với mức ban đầu của bản 128 GB.

Giá của DGX Spark bản 128 GB hiện cũng đã tăng. Một số phiên bản được niêm yết trên 6.000 USD, chênh lệch đáng kể so với mức giá 3.999 USD khi sản phẩm được giới thiệu.

DGX Spark sử dụng kiến trúc bộ nhớ hợp nhất, cho phép CPU và GPU truy cập chung một vùng nhớ. Cách thiết kế này hỗ trợ việc xử lý các mô hình AI có dung lượng lớn trên một thiết bị để bàn, thay vì tách riêng bộ nhớ hệ thống và bộ nhớ đồ họa như máy tính thông thường.

Sự xuất hiện của phiên bản 64 GB giúp Nvidia bổ sung một cấu hình cho DGX Spark. Tuy nhiên, mức giá 4.999 USD cũng cho thấy chi phí để sở hữu dòng máy tính AI cá nhân này đã thay đổi đáng kể so với thời điểm DGX Spark 128 GB được công bố.

Nvidia chuẩn bị mở rộng dòng máy tính AI cá nhân DGX Spark với phiên bản 64 GB dự kiến ra mắt trong tháng 10. Thiết bị giữ nguyên thiết kế nhỏ gọn đặt bàn và tích hợp siêu chip GB10 Grace Blackwell kết hợp giữa CPU Grace cùng GPU Blackwell. Cấu hình này mang lại hiệu năng tính toán AI đạt 1 PFLOP ở định dạng FP4, đáp ứng tốt nhu cầu nghiên cứu cục bộ. Trang bị 64 GB bộ nhớ hợp nhất cho phép CPU và GPU dùng chung tài nguyên nhằm xử lý mượt mà các mô hình lên tới 100 tỉ tham số. Năng lực này giúp giới lập trình chủ động phát triển, thử nghiệm và tinh chỉnh mô hình trực tiếp tại chỗ mà không cần phụ thuộc vào máy chủ đám mây. Ngoài ra, người dùng còn có thể ghép nối hai thiết bị để nâng tổng dung lượng bộ nhớ khả dụng lên 128 GB. Phiên bản mới được niêm yết với mức giá khởi điểm 4.999 USD, cao hơn 1.000 USD so với con số 3.999 USD từng công bố của bản 128 GB tiền nhiệm. Hiện tại, giá thị trường của biến thể 128 GB cũng đã tăng mạnh và vượt ngưỡng 6.000 USD tại một số kênh phân phối. Sự điều chỉnh này cho thấy rào cản chi phí tiếp cận dòng máy tính AI cá nhân của Nvidia đang gia tăng đáng kể.