TypeSafe AI memperkenalkan Jev, model AI pertama syarikat itu yang dibangunkan khusus untuk membuat keputusan berstruktur dalam perisian, bukannya menghasilkan teks atau berbual seperti chatbot biasa.
Jev merupakan sebahagian daripada kategori yang TypeSafe panggil “System One Models”, iaitu model yang direka untuk bertindak pantas dalam tugasan seperti memilih tindakan seterusnya, menentukan tahap risiko, mengklasifikasikan input atau memutuskan sama ada sesuatu proses perlu diteruskan, dihentikan atau diserahkan kepada manusia.
Berbeza dengan model bahasa raya atau LLM yang menghasilkan jawapan token demi token, Jev memproses input dan memberikan keputusan berstruktur bersama kebarangkalian serta tahap keyakinan.
TypeSafe berkata pendekatan ini menjadikan Jev lebih sesuai untuk digunakan dalam aplikasi perisian yang memerlukan keputusan pantas dan konsisten, berbanding jawapan berbentuk teks bebas.
Antara contoh penggunaan yang diberikan termasuk penghalaan permintaan pelanggan, penilaian risiko, pengurusan aliran kerja dan sistem automasi yang memerlukan pilihan antara beberapa tindakan yang telah ditetapkan.
Syarikat itu turut mendakwa Jev sehingga 193.6 kali lebih pantas dan 444.6 kali lebih murah berbanding LLM bagi tugasan tertentu yang diuji dalam workflow mereka sendiri.
Harga pengenalan Jev ditetapkan pada AS$0.042 bagi setiap sejuta token input, manakala token output tidak dikenakan caj. Bagaimanapun, angka prestasi tersebut datang daripada ujian TypeSafe sendiri dan belum disahkan melalui ujian pihak ketiga.
TypeSafe turut mendakwa Jev tidak mengalami masalah halusinasi dalam pengertian biasa kerana model itu tidak menghasilkan teks bebas. Namun, ini tidak bermaksud setiap keputusan Jev sentiasa betul.
Sebaliknya, model tersebut masih boleh membuat keputusan yang salah, tetapi setiap hasil disertakan nilai kebarangkalian dan keyakinan yang boleh digunakan oleh sistem lain untuk menentukan tindakan seterusnya.
TypeSafe diasaskan oleh Diogo Almeida, bekas penyelidik OpenAI yang pernah terlibat dalam penyelidikan berkaitan model bahasa yang kemudiannya membawa kepada pembangunan ChatGPT.
Menurut syarikat itu, Jev dibangunkan selepas kira-kira dua tahun penyelidikan dan kini ditawarkan dalam akses awal.
Secara keseluruhan, syarikat ini dilihat mahu memfokuskan AI sebagai komponen dalaman yang membantu perisian membuat keputusan dengan pantas, murah dan lebih mudah dikawal.
https://x.com/CompleteSkeptic/status/2099925682726002904?s=20