Djupdykning av Zooms IT-chef: Så maximerar vår federerade AI-strategi prestanda, kvalitet och prisvärdhet

Läs vår senaste uppdatering om Zoom AI Companion och framgångarna med vår federerade strategi.

Att påbörja den omvandlande resan med AI från konceptualisering till förverkligande går att likna med en slingrande väg som kännetecknas av kontinuerlig störning, anpassning och innovation. Jag har varit med på den här resan under de senaste 30 åren och har suttit på första parkett och spelat en aktiv roll i utvecklingen av AI, från röstigenkänning och förståelse av naturligt språk till datorseende. Under de senaste sex månaderna sedan jag började på Zoom har innovationstakten varit häpnadsväckande.

På Zoom använder vi AI för att förbättra människors samarbete och produktivitet. Zoom AI Companion är en hörnsten i vår innovation, och är utformad för att öka produktiviteten, underlätta smidigt samarbete och ge djupare insikter för att förbättra ditt sätt att arbeta på Zoom-plattformen. Zooms federerade AI-strategi gör det möjligt för oss att tillhandahålla AI Companion utan extra kostnad med de betalda tjänsterna som ingår i ditt användarkonto hos Zoom.* Här kan du titta närmare på vår AI och på vilket sätt den erbjuder högkvalitativa resultat till en lägre kostnad.

Zoom har i flera år erbjudit AI-tjänster som röstigenkänning, datorseende, maskinöversättning och stora språkmodeller (LLM:er) för att förbättra kommunikationen. I de LLM:er som vi använder ingår Zooms LLM samt tredjepartsmodellerna OpenAI GPT 3.5, GPT 4 och Anthropic Claude 2. Vår federerade strategi kan omfatta nyare LLM:er, som OpenAI:s GPT 4 Turbo, från våra partner, både LLM:er med öppen och sluten källkod, för att fortsätta att förbättra hela upplevelsen för Zoom-kunder.

Vi följer en kostnadseffektiv strategi där vi först använder en LLM med lägre kostnad som är bäst lämpad för uppgiften. Vår Z-Scorer utvärderar sedan kvaliteten på det ursprungliga slutförandet av uppgiften, och vid behov använder vi en mer avancerad LLM för att förbättra hur uppgiften slutförs baserat på vad som uppnåddes med ursprunglig LLM. Detta går att likna vid hur ett sammanhållet team som arbetar tillsammans kan skapa en produkt av högre kvalitet mer effektivt än en enskild individ.

Med vår federerade AI-strategi har vårt team, enligt våra egna interna tester, förbättrat den relativa kvaliteten på AI Companion jämfört med strategier med en enda modell, som OpenAI GPT-3.5 Turbo (den relativa skillnaden är ett kvalitetsbetyg på 99 % jämfört med 93 %, enligt vår egen metod för kvalitetsutvärdering) eller flera andra toppmoderna stora språkmodeller. 

Vi mäter resultat som en kombination av lägre kostnad, snabbare svarstid och utdata av hög kvalitet. I jämförelse med OpenAI:s modell GPT-4-32k som proxy för Microsoft Copilot ger Zoom AI Companions funktion för mötesfrågor lägre kostnader och snabbare svarstid samtidigt som AI-kvaliteten är jämförbar, vilket visas i figur 1.

Fördelarna med våra modeller visas ytterligare i AI Companions flerspråkiga resultat, som nu stöder 32 språk (i förhandsversionen) utöver engelska. Med tanke på att de flesta stora språkmodeller främst är tränade i förväg med data som domineras av engelska lade vi till översättningsmodeller för att utöka våra flerspråkiga funktioner. Genom att översätta icke-engelska avskrifter till engelska med hjälp av Zooms översättningsmodeller för Zoom AI Companions flerspråkiga mötessammanfattning beaktar vi inte bara översatta data utan även originaldata samtidigt. Som visas i figur 2 ledde vår modell inte bara till en avsevärt förbättrad AI-kvalitet jämfört med GPT-3.5 utan även till en AI-kvalitet som närmade sig GPT-4-32k (97 % relativ) med mindre än 6 % av kostnaden.

Dessa exempel understryker effektiviteten i Zooms federerade AI-strategi, som smidigt kombinerar fördelarna hos olika maskininlärningssystem för att leverera högpresterande resultat. 

Vi anser att fördelarna med AI bör vara tillgängliga för så många som möjligt. Vår federerade AI-strategi spelar en viktig roll när det gäller att förverkliga denna vision. Det är därför AI Companion ingår utan extra kostnad för kunder med berättigande betalda Zoom-planer, medan andra företag kan ta ut en kostnad för varje användare.* 

Vi uppmuntrar dig att prova AI Companion själv – gå till vår komma igång-guide för att läsa mer om hur du aktiverar och använder dessa funktioner. Om du inte har en berättigande betald Zoom-plan kan du uppgradera i dag för att få tillgång till fördelarna med AI Companion. 

* Obs! AI Companion är kanske inte tillgängligt i alla regioner eller för alla branschgrenar.