Chip AI Jalapeño của OpenAI đạt hiệu suất cao, gây sức ép lên Nvidia -

OpenAI vừa giới thiệu chip AI đầu tiên của công ty, Jalapeño, và cho biết chip này đạt hiệu suất tính toán trên mỗi watt cao hơn GPU Blackwell của Nvidia trong gần như tất cả các kịch bản thử nghiệm, mở ra khả năng giảm chi phí vận hành các hệ thống AI ở quy mô lớn.
Được thiết kế chủ yếu cho suy luận AI – quá trình mô hình tạo phản hồi và thực hiện tác vụ cho người dùng – Jalapeño được OpenAI phát triển cùng Broadcom. Công ty dự kiến đưa chip vào hạ tầng điện toán của mình vào cuối năm nay và đã bắt đầu phát triển thế hệ thứ hai và thứ ba.
OpenAI cho biết các kết quả đánh giá ban đầu cho thấy Jalapeño có thể giúp cung cấp phản hồi nhanh hơn, tăng độ phản hồi của các tác nhân AI và duy trì khả năng phục vụ ổn định hơn khi nhu cầu sử dụng tăng.
Công ty nghiên cứu SemiAnalysis cho biết đã tới phòng thí nghiệm của OpenAI để kiểm tra Jalapeño. Chip này vượt Blackwell về hiệu suất trên mỗi watt trong gần như toàn bộ các kịch bản được thử nghiệm.
Tuy nhiên, SemiAnalysis lưu ý phép so sánh chưa hoàn toàn tương đồng vì Jalapeño sử dụng HBM4, loại bộ nhớ thế hệ mới. Theo công ty, nền tảng Vera Rubin của Nvidia, cũng sử dụng HBM4, mới là đối thủ phù hợp hơn để đánh giá trực tiếp.
“Jalapeño thực sự đang cạnh tranh với những chip như Rubin, vốn cũng sử dụng HBM4,” các nhà phân tích của SemiAnalysis nhận định.
Alexander Harrowell, chuyên gia phân tích cấp cao tại Omdia, đánh giá Jalapeño là một thành tựu đáng chú ý, đặc biệt về hiệu quả năng lượng. Trong các hệ thống AI triển khai quy mô lớn, mức tiêu thụ điện thấp hơn có thể giúp giảm chi phí điện, làm mát và hạ tầng phân phối điện.
Fion Chiu, nhà phân tích tại TrendForce, cho rằng chip tùy biến của OpenAI có thể giúp công ty giảm dần sự phụ thuộc vào GPU Nvidia đối với các tác vụ suy luận.
Tuy nhiên, GPU Nvidia nhiều khả năng vẫn giữ vai trò quan trọng trong các tác vụ đòi hỏi năng lực tính toán lớn như huấn luyện mô hình quy mô lớn và phát triển AI tiên tiến, nhờ khả năng lập trình linh hoạt, hiệu năng cao và hệ sinh thái phần mềm CUDA.
Mối đe dọa đối với biên lợi nhuận Nvidia
Sự xuất hiện của Jalapeño đang làm gia tăng sức ép lên vị thế thống trị của Nvidia trên thị trường chip AI.
Adrien Sanchez, chuyên gia phân tích công nghệ tại Yole Group, cho rằng Jalapeño cho thấy chip do các công ty công nghệ tự thiết kế đã có khả năng đạt hoặc vượt GPU Blackwell về hiệu suất suy luận.
Theo ông, Nvidia vẫn kiểm soát phần lớn năng lực điện toán AI và hưởng lợi từ lợi thế lớn của CUDA. Tuy nhiên, Jalapeño là “mối đe dọa đối với biên lợi nhuận của Nvidia trong mảng suy luận”, lĩnh vực đang tăng trưởng nhanh.
Nvidia đã hưởng lợi lớn từ làn sóng đầu tư xây dựng trung tâm dữ liệu AI, khi các công ty công nghệ mua lượng lớn GPU cho cả huấn luyện và suy luận. Nhưng các nhà cung cấp dịch vụ đám mây quy mô lớn và các công ty AI đang ngày càng phát triển các loại chip tích hợp dành cho các ứng dụng chuyên biệt (ASIC) nhằm tối ưu chi phí và giảm phụ thuộc vào GPU bên ngoài.
Omdia dự báo các ASIC tùy biến như Jalapeño có thể vượt GPU về số lượng xuất xưởng vào năm 2028. Do GPU có giá bán cao hơn đáng kể, doanh thu từ ASIC sẽ cần thêm thời gian để bắt kịp.
Harrowell cho rằng xu hướng này là “mối đe dọa cạnh tranh lớn nhất đối với Nvidia”, bởi khoảng một nửa chi tiêu vốn cho hạ tầng AI đến từ các nhà cung cấp đám mây quy mô lớn, trong đó nhiều doanh nghiệp đã có hoặc có khả năng phát triển chip riêng.
Google, Meta và Amazon cũng tự phát triển chip
OpenAI không phải doanh nghiệp duy nhất tìm cách tự chủ về chip AI.
Google đã phát triển TPU (Tensor Processing Unit) cho cả huấn luyện và suy luận. Meta cho biết đã đạt thỏa thuận triển khai 1 GW chip AI tùy biến sử dụng công nghệ của Broadcom trong một thỏa thuận có quy mô nhiều GW.
Anthropic cũng cam kết chi hơn 100 tỷ USD cho công nghệ của AWS trong 10 năm tới, bao gồm các thế hệ chip AI tùy biến Trainium hiện tại và tương lai của Amazon.
Bên cạnh các tập đoàn lớn, những startup như Cerebras, SambaNova, D-Matrix, Etched và Fractile cũng đang phát triển chip dành cho AI.
Xu hướng này có thể tác động đáng kể tới Nvidia, vốn từ lâu là một trong những nhà cung cấp GPU chủ chốt cho OpenAI. OpenAI sử dụng lượng lớn chip Nvidia để huấn luyện và vận hành các mô hình AI.
Sanchez cho rằng OpenAI từng là “một trong những khách hàng đơn lẻ lớn nhất” của Nvidia, vì vậy Jalapeño đang làm gia tăng sức ép đối với một trong những mối quan hệ khách hàng quan trọng nhất của hãng chip Mỹ.