BlockBeats tin tức, ngày 19 tháng 8, NVIDIA công bố blog kỹ thuật cho biết, cuML và cuVS của họ mới bổ sung khả năng UMAP đa GPU, có thể phân phối quá trình giảm chiều dữ liệu vector quy mô lớn lên nhiều GPU để thực hiện, giữ nguyên chất lượng nhúng đồng thời rút ngắn đáng kể thời gian chạy.

NVIDIA cho biết, khi thử nghiệm trên hệ thống DGX được trang bị 8 GPU H100 với tập dữ liệu MIRACL chứa 106 triệu vector, quy mô dữ liệu khoảng 870GB, cuML đa GPU UMAP có thể hoàn tất xử lý đầu cuối trong 8 phút, so với tốc độ CPU dự kiến tăng tối đa 74 lần; trước đây phương án CPU dù sử dụng bộ nhớ 2TB cũng không thể hoàn tất xử lý toàn bộ.

Phương án này bằng cách chia dữ liệu thành nhiều cụm, xây dựng song song đồ thị k láng giềng gần nhất (kNN) cục bộ trên các GPU khác nhau, sau đó hợp nhất thành đồ thị toàn cục, từ đó phá vỡ giới hạn bộ nhớ GPU đơn. NVIDIA cho biết, công nghệ này có thể nén các tác vụ UMAP quy mô hàng trăm GB trước đây cần vài giờ hoặc thậm chí vài ngày xử lý xuống còn vài phút.