AI Companion AI

Informasi mendalam CTO Zoom: Cara pendekatan gabungan kami terhadap AI memaksimalkan kinerja, kualitas, dan keterjangkauan

5 menit untuk membaca

Diperbarui pada March 25, 2024

Diterbitkan pada November 28, 2023

Informasi mendalam CTO Zoom: Cara pendekatan gabungan kami terhadap AI memaksimalkan kinerja, kualitas, dan keterjangkauan

Baca pembaruan terkini tentang Zoom AI Companion dan keberhasilan pendekatan gabungan kami.

Memulai perjalanan AI transformatif dari konseptualisasi hingga realisasi menyerupai jalan berliku, yang ditandai dengan gangguan, adaptasi, dan inovasi yang berkelanjutan. Setelah melakukan perjalanan ini selama 30 tahun terakhir, saya memiliki tempat terdepan untuk — dan berperan aktif dalam — evolusi AI, mulai dari pengenalan suara dan pemahaman bahasa alami hingga visi komputer. Laju inovasi dalam enam bulan terakhir sejak saya bergabung dengan Zoom sangat mencengangkan.

Di Zoom, kami menggunakan AI untuk meningkatkan kolaborasi dan produktivitas manusia. Zoom AI Companion adalah landasan inovasi kami, yang dirancang untuk membantu meningkatkan produktivitas, memfasilitasi kolaborasi yang mulus, dan memperoleh wawasan yang lebih dalam untuk meningkatkan cara Anda bekerja di seluruh platform Zoom. Oleh karena itu, kami memutuskan untuk menyediakan AI Companion tanpa biaya tambahan dengan layanan berbayar yang ditetapkan ke akun pengguna Zoom Anda.* Berikut adalah pandangan lebih dekat tentang AI kami dan bagaimana AI memberikan kinerja berkualitas tinggi dengan biaya lebih rendah.

Pendekatan terpadu Zoom terhadap AI

Zoom telah menawarkan layanan AI seperti pengenalan suara, visi komputer, terjemahan mesin, dan model bahasa besar (LLM) untuk meningkatkan komunikasi selama bertahun-tahun. LLM yang kami gunakan termasuk LLM Zoom, serta model pihak ketiga OpenAI GPT 3.5 dan GPT 4, serta Anthropic Claude 2. Pendekatan gabungan kami dapat menggabungkan LLM yang lebih baru, seperti OpenAI GPT 4 Turbo, dari mitra kami, LLM sumber terbuka dan tertutup, untuk terus meningkatkan pengalaman menyeluruh bagi pelanggan Zoom.

Kami mematuhi strategi hemat biaya yang pertama kali menggunakan LLM berbiaya rendah yang paling cocok untuk tugas tersebut. Kemudian, Z-Scorer kami mengevaluasi kualitas penyelesaian tugas awal, dan jika diperlukan, kami menggunakan LLM yang lebih maju untuk menambah penyelesaian tugas berdasarkan apa yang dicapai dari LLM awal, mirip dengan cara tim kohesif yang bekerja bersama yang mampu menciptakan produk berkualitas lebih tinggi dengan lebih efisien daripada satu individu.

Membandingkan kinerja dengan LLM lain

Dengan pendekatan gabungan kami terhadap AI, menurut pengujian internal kami sendiri, tim kami telah meningkatkan kualitas relatif AI Companion dibandingkan pendekatan model tunggal, seperti OpenAI GPT-3.5 Turbo (perbedaan relatifnya adalah tingkat kualitas 99% vs 93%, sesuai metodologi evaluasi kualitas eksklusif kami) atau beberapa LLM canggih lainnya. 

Kami mengukur kinerja sebagai gabungan dari biaya yang lebih rendah, waktu respons yang lebih cepat, dan output berkualitas lebih tinggi. Dibandingkan dengan model GPT-4-32k OpenAI sebagai proksi Microsoft Copilot, kemampuan pertanyaan rapat Zoom AI Companion menawarkan pengurangan biaya dan waktu respons yang lebih cepat dengan tetap mempertahankan kualitas AI yang sebanding seperti yang ditunjukkan pada Gambar 1.

Gambar 1. Zoom menggabungkan AI dalam persentase relatif OpenAI GPT-4-32k pada metrik utama biaya dan kualitas untuk tugas pertanyaan rapat Zoom AI Companion. Microsoft Copilot menggunakan OpenAI GPT-4 dalam pengaturan dengan Microsoft Graph dan komponen lainnya. Kami tidak menggunakan data pelanggan untuk melatih model AI kami, tetapi menggunakan data rapat internal Zoom untuk pembandingan dalam bagan ini dengan OpenAI GPT-4 sebagai proksi Microsoft Copilot. 

Keandalan model kami ditunjukkan lebih lanjut dalam kinerja multibahasa AI Companion, yang kini mendukung 32 bahasa (dalam pratinjau) selain bahasa Inggris. Menyadari bahwa sebagian besar LLM terutama dilatih sebelumnya dengan data yang didominasi bahasa Inggris, kami menambahkan model terjemahan untuk memperluas kemampuan multibahasa kami. Dengan menerjemahkan transkrip non-bahasa Inggris ke dalam bahasa Inggris menggunakan model terjemahan Zoom untuk ringkasan rapat multibahasa Zoom AI Companion, kami tidak hanya mempertimbangkan data yang diterjemahkan, tetapi juga data asli secara bersamaan. Seperti yang ditunjukkan pada Gambar 2, model kami tidak hanya menghasilkan peningkatan kualitas AI secara signifikan dibandingkan GPT-3.5, tetapi juga mendekati kualitas AI GPT-4-32k (relatif 97%) dengan biaya 6% lebih rendah.

Gambar 2. Zoom menggabungkan AI dalam persentase relatif OpenAI GPT-4-32k untuk tugas ringkasan multibahasa Zoom AI Companion dalam 32 bahasa selain bahasa Inggris, termasuk Mandarin, Prancis, Jerman, Italia, Jepang, Portugis, dan Spanyol. Microsoft Copilot menggunakan OpenAI GPT-4 bersama dengan Microsoft Graph dan komponen lainnya. Data rapat internal Zoom dikumpulkan untuk pembandingan dalam bagan ini dengan OpenAI GPT-4 sebagai proksi Microsoft Copilot. 

Contoh-contoh ini menggarisbawahi efektivitas pendekatan gabungan Zoom terhadap AI, yang secara lancar menggabungkan keandalan sistem pembelajaran mesin yang berbeda untuk memberikan hasil berkinerja tinggi. 

Pendekatan yang unggul untuk AI

Kami percaya manfaat AI harus tersedia secara luas untuk sebanyak mungkin orang. Pendekatan gabungan kami terhadap AI berperan besar dalam mewujudkan visi ini. Oleh karena itu, sementara perusahaan lain mungkin mengenakan biaya premium per pengguna, kami dapat menyertakan AI Companion tanpa biaya tambahan untuk pelanggan dengan paket Zoom berbayar yang memenuhi syarat.* 

Kami mendorong Anda untuk mencoba AI Companion sendiri — kunjungi panduan memulai untuk mempelajari selengkapnya tentang mengaktifkan dan menggunakan fitur-fitur ini. Jika Anda tidak memiliki paket Zoom yang memenuhi syarat, tingkatkan sekarang juga untuk dapat menikmati fitur AI Companion. 

*Catatan: AI Companion mungkin hanya tersedia untuk wilayah dan bidang industri tertentu.

 

Pelanggan kami mencintai kami

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom - Satu Platform untuk Berkomunikasi