Nvidia hôm thứ Năm ra mắt các mô hình AI có trọng số mở mới, được thiết kế để vận hành các tác nhân AI liên tục và xử lý dữ liệu ngay trên thiết bị.
Mô hình Nemotron 3.5 Super VL có 120 tỷ tham số, hướng đến các tác nhân AI phục vụ doanh nghiệp. Dù có ít tham số hơn Nemotron 3 Ultra, Nvidia cho biết mô hình mới đạt độ chính xác tương đương trong các tác vụ làm theo chỉ dẫn và sử dụng công cụ.
Ở phân khúc nhẹ hơn, công ty cũng giới thiệu hai mô hình Bolt, được thiết kế để chạy trực tiếp trên các máy tính cá nhân tích hợp AI mới sử dụng chip Nvidia RTX Spark và các máy trạm chạy DGX Spark. Những thiết bị này hướng đến người tiêu dùng, lập trình viên và nhân viên kỹ thuật trong doanh nghiệp, hiện bắt đầu được các đối tác như Microsoft và Dell đưa ra thị trường.
“Bất kỳ tổ chức nào muốn vận hành tác nhân AI trên hạ tầng Nvidia giờ đây đều có một mô hình mở được tối ưu hóa phù hợp với nhu cầu của mình, mà không phải đánh đổi giữa năng lực và khả năng triển khai,” Kari Briski, Phó chủ tịch phụ trách Mô hình mở và Phần mềm của Nvidia, viết trong bài đăng giới thiệu các mô hình mới.
Nvidia tuyên bố Super VL hoàn thành tác vụ nhanh hơn các mô hình cạnh tranh của Anthropic và OpenAI — gồm Opus 5, GPT 6.1 Sol, Luna và Astra — sau khi được huấn luyện bổ sung cho những nhiệm vụ chuyên biệt dành cho tác nhân AI. Các nhiệm vụ này bao gồm phân tích tài liệu, kế toán tài chính, thử nghiệm khoa học, xử lý hồ sơ bảo hiểm y tế và khả năng chống chịu trước các cuộc tấn công an ninh mạng.
Những tuyên bố về hiệu suất thường xuất hiện khi các công ty công nghệ lớn ra mắt mô hình mới. Tuy nhiên, Nvidia cũng nêu tên một loạt doanh nghiệp lớn mà hãng cho biết đang sử dụng Super VL, gồm Skydance, EY, Ramp, CrowdStrike, Perplexity và Salesforce.
Đây không phải lần đầu Nvidia phát hành mô hình có trọng số mở để cạnh tranh với các phòng thí nghiệm AI phát triển mô hình độc quyền tiên tiến nhất, vốn vừa là khách hàng vừa là đối tác đầu tư của hãng. Nhà sản xuất chip này đã xây dựng cả dòng mô hình Nemotron, phục vụ nhiều nhiệm vụ từ AI đa phương thức, suy luận, lập trình, toán học đến tự động hóa doanh nghiệp.
Tuy nhiên, các phòng thí nghiệm AI phát triển mô hình độc quyền đang mở rộng sang nhiều nhà sản xuất chip và hệ thống AI khác ngoài Nvidia, như chip Trainium của Amazon Web Services và Cerebras, đồng thời tự phát triển chip riêng.
Vì vậy, Nvidia đang tập trung khai thác xu hướng doanh nghiệp muốn tự vận hành các mô hình mở trong trung tâm dữ liệu của mình. “Không giống các mô hình tiên tiến độc quyền, doanh nghiệp có thể huấn luyện bổ sung Super VL bằng dữ liệu riêng, triển khai trên hạ tầng của mình và sở hữu những gì họ xây dựng,” Briski viết.
Với các mô hình nhỏ hơn chạy trực tiếp trên máy tính cá nhân, Nvidia cũng muốn thúc đẩy thị trường trợ lý AI dành cho người tiêu dùng. Các công ty khởi nghiệp và tập đoàn công nghệ lớn liên tục giới thiệu trợ lý mới, nhưng người dùng lo ngại về quyền riêng tư có thể không muốn trao cho những tác nhân này quyền tiếp cận sâu vào đời sống cá nhân, từ thông tin gia đình, sức khỏe đến tài chính.
Nvidia kỳ vọng tạo ra thị trường mới cho máy tính cá nhân sử dụng chip của hãng, trong đó mô hình và tác nhân AI chạy ngay trên thiết bị. Theo Briski, người dùng có thể “giao phó các công việc thường ngày mà không cần gửi dữ liệu xử lý lên đám mây”.
Trong hai mô hình Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB có 74 tỷ tham số, được thiết kế cho các tác vụ của tác nhân AI chạy trực tiếp trên thiết bị. Mô hình hướng đến sự cân bằng giữa tốc độ và khả năng suy luận, phục vụ các nhiệm vụ nhiều bước, gọi công cụ và duyệt web.
Mô hình nhỏ nhất, Bolt E4B, được thiết kế cho các tác nhân hội thoại.
Theo Nvidia, Super VL và Bolt 74B-A9B đã có thể sử dụng, trong khi Bolt E4B dự kiến ra mắt vào cuối tháng này.
Giám đốc điều hành Jensen Huang của Nvidia. Ảnh: Bloomberg
