De CTO van Zoom doet grondig onderzoek: hoe maximaliseert onze gefedereerde AI-benadering prestaties, kwaliteit en betaalbaarheid?

Lees onze laatste update over Zoom AI Companion en het succes van onze gefedereerde benadering.

Het transformatieve AI-parcours van conceptualisering tot verwezenlijking gaat met vallen en opstaan en wordt gekenmerkt door continue verstoring, aanpassing en innovatie. Ik volg dit parcours al 30 jaar en zag met eigen ogen de evolutie van AI, van spraakherkenning en begrip van natuurlijke taal tot computer vision. Ik heb er zelfs een actieve rol in gespeeld. Ik ben zes maanden geleden bij Zoom aan de slag gegaan en het is werkelijk ongelofelijk hoe het innovatietempo op die tijd is toegenomen.

Bij Zoom gebruiken we AI om de menselijke samenwerking en productiviteit te verbeteren. Zoom AI Companion is een hoeksteen van onze innovatie en is ontworpen om de productiviteit te vergroten, naadloze samenwerking te bevorderen en diepere inzichten te krijgen om de manier waarop je werkt op het Zoom-platform te verbeteren. Dankzij de gefedereerde AI-benadering van Zoom is AI Companion zonder extra kosten inbegrepen bij de betaalde services die zijn toegewezen aan je Zoom-gebruikersaccount.* We gaan dieper in op onze AI en hoe AI zorgt voor hoogwaardige prestaties tegen een lagere kostprijs.

Zoom biedt al jaren AI-services aan zoals spraakherkenning, computer vision, machinevertaling en large language models (LLM's) om de communicatie te verbeteren. De LLM's die we gebruiken, zijn de LLM van Zoom en modellen van derden zoals GPT 3.5 en GPT 4 van OpenAI en Anthropic Claude 2. In onze gefedereerde benadering kunnen nieuwere LLM's van onze partners worden geïntegreerd, zoals GPT 4 Turbo van OpenAI, en zowel open- als closed-source LLM's, om de eindervaring voor Zoom-klanten voortdurend te verbeteren.

We houden ons aan een rendabele strategie waarbij we eerst een goedkopere LLM inzetten die het meest geschikt is voor de taak. Onze Z-Scorer beoordeelt vervolgens de kwaliteit van de initiële taakvoltooiing. Zo nodig gebruiken we een geavanceerdere LLM om de taakvoltooiing te vergroten ten opzichte van die van de eerste LLM. Je kunt dit vergelijken met de manier waarop een hecht team efficiënter een hoogwaardig product kan maken dan iemand alleen.

Met onze gefedereerde benadering van AI heeft ons team de relatieve kwaliteit van AI Companion verbeterd ten opzichte van benaderingen met één model, zoals OpenAI GPT-3.5 Turbo (het relatieve verschil qua kwaliteitsbeoordeling is 99% vs. 93%, volgens onze eigen kwaliteitsbeoordelingsmethodologie) of meerdere andere geavanceerde LLM's. Dit is gebleken uit onze eigen interne testen. 

We meten prestaties als een combinatie van een lagere kostprijs, een snellere responstijd en hoogwaardigere outputs. In vergelijking met het model GPT-4-32k van OpenAI als de proxy van Microsoft Copilot, biedt de functie voor vergadervragen van Zoom AI Companion een lagere kostprijs en een snellere responstijd terwijl er een vergelijkbare AI-kwaliteit wordt behouden. Dit wordt getoond in Afbeelding 1.

De kracht van onze modellen blijkt bovendien uit de meertalige functionaliteit van AI Companion, die al 32 talen naast het Engels ondersteunt (in preview). We beseften dat de meeste LLM's vooraf hoofdzakelijk zijn getraind met Engelse gegevens. Daarom hebben we vertaalmodellen toegevoegd, om onze meertalige mogelijkheden uit te breiden. Door niet-Engelse transcripten naar het Engels te vertalen met vertaalmodellen van Zoom voor meertalige vergadersamenvattingen in Zoom AI Companion, houden we tegelijkertijd rekening met vertaalde gegevens en gegevens in de brontaal. Zoals te zien is in Afbeelding 2 werd met ons model de AI-kwaliteit aanzienlijk verbeterd ten opzichte van GPT-3.5 en benaderden we de AI-kwaliteit van GPT-4-32k (97% relatief) met minder dan 6% van de kostprijs.

Deze voorbeelden benadrukken de doeltreffendheid van de gefedereerde benadering van AI van Zoom, waarbij de sterke punten van verschillende machine learning-systemen worden gebundeld om topresultaten te leveren. 

We vinden dat de voordelen van AI voor zoveel mogelijk mensen beschikbaar zouden moeten zijn. Met onze gefedereerde benadering van AI hopen we die visie te verwezenlijken. Andere bedrijven factureren vaak een premie per gebruiker, maar bij ons is AI Companion zonder extra kosten inbegrepen voor klanten met een in aanmerking komend betaald Zoom-abonnement.* 

We raden je aan om AI Companion zelf uit te proberen. Bekijk onze  introductiehandleiding voor meer informatie over het activeren en gebruiken van deze functies. Heb je geen betaald Zoom-abonnement dat in aanmerking komt,  upgrade dan vandaag nog om toegang te krijgen tot de voordelen van AI Companion. 

*Opmerking: AI Companion is mogelijk niet in alle regio's of sectoren beschikbaar.