Khi các nhà phát triển có một công việc cụ thể mà AI có thể giải quyết, thì không phải lúc nào cũng đơn giản như chỉ cần trỏ một LLM vào dữ liệu. Có những yếu tố khác như chi phí, tốc độ và độ chính xác và việc cân bằng tất cả những yếu tố đó đã vô cùng thách thức, đặc biệt là khi có rất nhiều mô hình mới xuất hiện liên tục.

Đó là lý do Unify ra đời, một startup người Anh từ một cựu sinh viên trường Đại học Imperial, người đã nghĩ ra một công cụ định tuyến cho phép các nhà phát triển nhập các thông số và tìm ra LLM tốt nhất cho nhu cầu đặc biệt của họ. Vào thứ Tư, công ty đã thông báo một khoản đầu tư 8 triệu đô la.

'Mục tiêu chính của Unify là tìm ra mô hình nào từ nhà cung cấp nào là tốt nhất cho nhiệm vụ của bạn bằng cách sử dụng các chỉ số đánh giá khách quan và bảng điều khiển cho phép bạn so sánh chúng' - CEO và người sáng lập công ty Daniel Lenton chia sẻ với TechCrunch.

'Công cụ định tuyến hiệu quả thực sự là một phần mở rộng tự nhiên của quy trình này, đặc biệt khi các công ty bắt đầu triển khai ở quy mô lớn, và tốc độ cũng như chi phí trở nên quan trọng hơn. Vì vậy, điều chúng tôi thực sự đang cố gắng làm là mang đến cho mọi người nhiều kiểm soát hơn về chất lượng, chi phí và tốc độ của ứng dụng LLM của họ' - Lenton nói.

Không ngạc nhiên, Unify sử dụng trí tuệ nhân tạo để chạy ứng dụng định tuyến cốt lõi. 'Chính công cụ định tuyến của chúng tôi là một mạng nơ-ron học được học. Vì vậy, nó học được mô hình nào tốt nhất cho việc nào' - ông nói. Công ty thực hiện điều này bằng cách chạy các chỉ số đánh giá toàn diện trên mỗi mô hình mới trên tất cả các nhiệm vụ này bằng cách sử dụng GPT Pro làm giám định. Từ đó, hệ thống học được mức độ tốt của mô hình này trong việc thực hiện các nhiệm vụ cụ thể trên các bộ dữ liệu huấn luyện của chúng.

'Do đó, rất nhanh chóng, bất kỳ nhà cung cấp mô hình mới nào cũng được hỗ trợ bởi router khoảng một hoặc hai ngày sau' - ông nói.

Lenton cho biết router, và cách họ đã xây dựng một mô hình duy nhất để huấn luyện nó, là cách để bảo vệ những gì startup của anh đang làm khỏi sự xâm phạm của các đối thủ lớn hơn, cũng như việc họ là đối tác trung lập, trong khi các công ty đánh cược có thể không phải như vậy.

Ông nói rằng thông thường khách hàng chỉ đang thử nghiệm với các mô hình khác nhau và không có công cụ để theo dõi xem mô hình nào tốt nhất.

'Có những người đang gặp vấn đề cưỡng chế và sẵn lòng thử một giải pháp hiện có. Vì vậy tôi nghĩ đó là cách chúng tôi đã thành công trong việc mở đầu' - ông nói.

Trong khi có các đối thủ như Martian Router, OpenRouter và Portkey, Lenton cho biết công ty của mình là duy nhất tối ưu hóa đồng thời cho chất lượng, chi phí và tốc độ.

Hiện tại, công ty còn nhỏ với bảy nhân viên, và anh ta đang giữ cho nó mỏng manh một cách chủ tâm trong khi làm việc để có một sản phẩm được tiền hóa đầy đủ trên thị trường. Kế hoạch là thêm ba nhân viên vào năm nay.

Anh ta báo cáo khoảng 3000 người đăng ký cho đến nay với một vài trăm người dùng thường xuyên. Họ kỳ vọng kiếm tiền khi họ thu phí từ các công ty xây dựng các chỉ số kiểm tra theo yêu cầu của riêng họ. Mỗi công ty có thể bắt đầu sử dụng công cụ với một tín dụng 50 đô la.

Khoản đầu tư 8 triệu đô la đến từ một loạt các nhà đầu tư bao gồm SignalFire, M12, J12, Essence VC, A. Capital. Lunar VC, Y Combinator và một số nhà đầu tư cá nhân nổi tiếng khác.