Siêu máy tính AI của Nvidia: Thực hiện 1.000 tỷ phép tính AI mỗi giây, kích cỡ chỉ bằng chiếc Macbook nhỏ, sinh viên cũng có thể sở hữu

Tổng giám đốc điều hành Jensen Huang được chào đón như một ngôi sao nhạc rock trong tuần này tại CES, Las Vegas, sau tất cả sự bùng nổ mà trí tuệ nhân tạo đã tạo nên. Trong bài phát biểu quan trọng kéo dài gần 2 giờ, Huang lấp đầy một khán phòng với 12.000 chỗ ngồi, gợi thế giới nhớ đến cách cố Steve Jobs giới thiệu sản phẩm tại các sự kiện của Apple.

Và cũng giống như Steve Jobs, Huang kết thúc bài diễn thuyết bằng một thủ thuật giống hệt nhà Táo: tiết lộ sản phẩm bất ngờ.

“Đây là một siêu máy tính AI”, Huang nói, mặc một chiếc áo khoác da cá sấu. “Tất cả phần mềm của Nvidia đều chạy trên máy này”.

Chiếc máy tính này có tên Project Digits, chạy trên các đơn vị xử lý đồ họa Grace Blackwell, hay GPU, hiện đang cung cấp năng lượng cho các cụm máy chủ AI tiên tiến nhất. GPU được ghép nối với bộ xử lý trung tâm Grace dựa trên ARM, hay CPU. Nvidia đã hợp tác với công ty bán dẫn MediaTek của Trung Quốc để tạo ra hệ thống trên chip có tên là GB10.

Không giống như GPU chơi game truyền thống của Nvidia, Project Digits không nhắm mục tiêu đến người tiêu dùng mà thay vào đó, hướng đến các nhà nghiên cứu máy học, các công ty nhỏ hơn và trường đại học muốn phát triển AI tiên tiến nhưng không có hàng tỷ USD để xây dựng trung tâm dữ liệu.

Huang cho biết: “Có một lỗ hổng lớn đối với các nhà khoa học dữ liệu và nhà nghiên cứu ML đang tích cực làm việc, đang tích cực xây dựng một cái gì đó. Có lẽ bạn không cần một thứ gì đó quá khổng lồ. Bạn chỉ cần phát triển các phiên bản đầu tiên của mô hình và liên tục lặp lại. Bạn có thể thực hiện trên đám mây, nhưng chi phí sẽ cao hơn nhiều”.

Nvidia cho biết siêu máy tính sẽ được bán với giá khoảng 3.000 USD khi tung ra thị trường vào tháng 5 này. Project Digits chỉ là tên tạm thời và có thể thay đổi vào thời điểm bán ra. “Nếu bạn có tên hay cho nó, hãy liên hệ với chúng tôi”, ông cười.

Project Digits là một loại sản phẩm hoàn toàn khác so với GPU vốn đã thúc đẩy sự bùng nổ lịch sử của Nvidia trong hai năm qua. OpenAI, công ty đã ra mắt ChatGPT vào cuối năm 2022 và các nhà sáng tạo mô hình AI khác như Anthropic, đã hợp tác với nhiều nhà cung cấp đám mây lớn để mua GPU Nvidia vì khả năng cung cấp năng lượng cho các mô hình và khối lượng công việc tính toán chuyên sâu nhất. Doanh số bán trung tâm dữ liệu chiếm 88% tổng doanh thu 35 tỷ USD của Nvidia trong quý gần đây nhất.

“Thật đáng sợ khi thấy Nvidia tung ra một sản phẩm tốt như vậy với mức giá quá thấp”, nhà phân tích Ben Reitzes của Melius Research đã viết trong một ghi chú tuần này. Ông cho biết Nvidia có thể đã “đánh cắp chương trình” nhờ Dự án Digits cũng như các thông báo khác, bao gồm card đồ họa cho trò chơi, chip robot mới và thỏa thuận với Toyota.

Dự án Digits đại diện cho sự gia tăng lớn về năng lực các nhà nghiên cứu và trường đại học, theo David Bader, giám đốc Viện Khoa học Dữ liệu tại Viện Công nghệ New Jersey. Bader, người đã từng làm việc trong các dự án nghiên cứu với Nvidia trước đây, cho biết máy tính dường như có thể xử lý đủ dữ liệu và thông tin để đào tạo những mô hình lớn nhất và tiên tiến nhất. Anthropic, Google, Amazon và những công ty khác sẽ trả 100 triệu USD để chế tạo một siêu máy tính phục vụ mục đích đào tạo.

Nói về siêu máy tính 3.000 USD, Bader cho biết: “Bất kỳ sinh viên nào sở hữu một trong những hệ thống này với giá gần bằng một chiếc máy tính xách tay cao cấp sẽ có thể thực hiện cùng một nghiên cứu và chế tạo cùng một mô hình”.

Được biết, Project Digits trang bị chip GB10 Grace Blackwell Superchip với hiệu suất AI đạt một petaflop, có thể thực hiện 1.000 tỷ phép tính AI mỗi giây với độ chính xác mức FP4, giúp thực hiện các phép tính nhanh hơn. Mỗi hệ thống Project Digits được trang bị bộ nhớ thống nhất 128 GB, cao hơn nhiều so với mức RAM 16-32 GB trên các mẫu máy tính xách tay, song toàn bộ chỉ gói gọn trong kích thước tương đương chiếc Mac đặt trên bàn làm việc.

Với kích thước nhỏ gọn, người dùng có thể phát triển và thử nghiệm các mô hình AI cục bộ, sau đó triển khai trên dịch vụ đám mây hoặc trung tâm dữ liệu bằng kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.

“AI sẽ trở thành xu hướng trong mọi ứng dụng, cho mọi ngành công nghiệp. Với Project Digits, Grace Blackwell Superchip sẽ đến với hàng triệu nhà phát triển”, CEO Nvidia Jensen Huang cho biết. “Việc đặt một siêu máy tính AI trên bàn làm việc giúp trao quyền cho mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên tham gia và định hình kỷ nguyên AI”.

Theo: CNBC, The Verge