TypeSafe AI vừa ra mắt Jev, một mô hình AI dựa trên kiến trúc Transformer nhưng không tạo văn bản như các mô hình ngôn ngữ lớn (LLM). Thay vào đó, Jev trả về các xác suất, cho phép các nhà phát triển sử dụng trực tiếp kết quả để tự động hóa phần mềm với chi phí thấp và tốc độ cao.
Jev được phát triển bởi Almeida, cựu chuyên gia nghiên cứu OpenAI từng tham gia xây dựng ChatGPT và góp phần phát triển kỹ thuật học tăng cường từ phản hồi của con người (RLHF), phương pháp huấn luyện đóng vai trò quan trọng trong sự phát triển của các mô hình AI hiện nay.
Almeida cho rằng việc tập trung quá nhiều vào ngôn ngữ của con người đã hạn chế khả năng ứng dụng AI vào tự động hóa.
“Chúng ta đã làm rất tốt với ngôn ngữ con người trong bốn năm qua, nhưng điều đó không hữu ích cho tự động hóa vì máy tính sử dụng một ngôn ngữ khác,” ông nói với TechCrunch.
Almeida rời OpenAI cách đây hai năm để thành lập TypeSafe AI nhằm phát triển hướng tiếp cận khác. Jev không sinh ra văn bản mà đưa ra các xác suất, được TypeSafe gọi là “các quyết định được hiệu chỉnh”.
Cách thiết kế này giúp Jev nhanh và rẻ hơn, đồng thời hạn chế một vấn đề phổ biến của LLM là tạo ra thông tin không có thật. Vì người dùng xác định trước các dạng đầu ra, Jev không tự do tạo nội dung như chatbot.
Tập trung vào phần mềm
Jev đang thu hút sự quan tâm từ các nhà phát triển phần mềm. TypeSafe cho biết nhu cầu sử dụng tăng mạnh đến mức API của công ty từng tạm thời không thể tiếp nhận thêm người dùng.
Một trong những ứng dụng được chú ý là tự động hóa phần mềm. Pranit Sharma, kỹ sư phần mềm tại Vercel, cho biết công ty từng sử dụng ChatGPT Luna 5.6 của OpenAI để phân loại và kiểm tra độ an toàn của các lệnh. Khi thay thế Luna bằng Jev, Vercel nhận kết quả nhanh hơn từ 5 đến 18 lần và đạt độ chính xác cao hơn, theo Sharma.
Nikhil Mudholkar, giám đốc công nghệ của Bryo AI, cũng thử Jev và Gemini trong việc phân loại email doanh nghiệp. Gemini có độ chính xác nhỉnh hơn trong thử nghiệm, nhưng chi phí cao gấp 10-20 lần, ông cho biết.
Mudholkar đánh giá cao khả năng Jev trả về xác suất cho từng kết quả. Điều này cho phép phần mềm xác định mức độ tin cậy trước khi quyết định có thực hiện một hành động hay không.
Ví dụ, một hệ thống có thể bỏ qua kết quả chỉ có xác suất 50%, trong khi chấp nhận kết quả có xác suất 95%. Cách hoạt động này phù hợp với những quy trình cần ra quyết định tự động dựa trên ngưỡng xác suất.
Jev cũng có thể được sử dụng cùng LLM thay vì thay thế hoàn toàn chúng. Almeida cho rằng mô hình có thể giám sát hoạt động của các tác nhân AI, theo dõi nhật ký hoạt động và phát hiện những hành vi có nguy cơ vượt qua cơ chế bảo vệ.
Việc dùng một LLM hoặc tác nhân AI để giám sát một tác nhân AI khác có thể làm tăng đáng kể chi phí. Jev, với tốc độ và chi phí thấp hơn, có thể đảm nhận lớp kiểm tra này.
Armin Ronacher, giám đốc công nghệ của Earendil, cho rằng một ứng dụng khác của Jev là phân luồng mô hình. Hệ thống có thể xác định một tác vụ có cần đến mô hình AI chuyên biệt hay không, thay vì sử dụng LLM đắt tiền cho mọi yêu cầu.
Giảm chi phí sử dụng AI
Tên Jev được đặt theo William Stanley Jevons, nhà kinh tế học Anh thế kỷ 19. Nghịch lý Jevons mô tả việc chi phí sử dụng một nguồn lực giảm xuống có thể khiến nhu cầu đối với nguồn lực đó tăng lên.
Almeida kỳ vọng điều tương tự xảy ra với AI: khi chi phí sử dụng năng lực xử lý thông minh giảm mạnh, AI có thể được tích hợp vào nhiều phần mềm và hệ thống hơn.
“Chúng tôi cho rằng sẽ xuất hiện phần mềm thông minh ở khắp nơi theo cách tự phát và phân tán, giống Internet thời kỳ đầu hơn là những siêu ứng dụng mà mọi người đang cố xây dựng hiện nay,” ông nói.
TypeSafe không tiết lộ chi tiết kiến trúc của Jev. Một số nhà quan sát bên ngoài cho rằng mô hình có thể được xây dựng trên nền một LLM có trọng số mở.
Công ty gọi Jev là “mô hình Hệ thống Một”, tập trung vào trực giác thay vì suy luận và được tối ưu cho từng nhiệm vụ cụ thể. Almeida cho biết Jev được huấn luyện hoàn toàn bằng dữ liệu tổng hợp bằng một kỹ thuật mà ông gọi là “học tăng cường từ các quyết định được hiệu chỉnh”.
TypeSafe dự kiến phát triển thêm các phiên bản Jev cho những dạng dữ liệu khác nhau.
Từ trái sang phải: các nhà đồng sáng lập TypeSafe gồm Erik Gafni, Sasha Sheng và giám đốc điều hành Diogo Almeida. Ảnh: TypeSafe
