AI Companion IA

Approfondimento sul CTO di Zoom: in che modo il nostro approccio federato all'IA massimizza le prestazioni, la qualità e la convenienza

5 tempo di lettura

Data di aggiornamento March 25, 2024

Pubblicato in data November 28, 2023

Approfondimento sul CTO di Zoom: in che modo il nostro approccio federato all'IA massimizza le prestazioni, la qualità e la convenienza

Leggi il nostro ultimo aggiornamento su Zoom AI Companion e sul successo del nostro approccio federato.

Intraprendere il viaggio trasformativo dell'IA dalla concettualizzazione alla realizzazione assomiglia a una strada tortuosa, segnata da continue interruzioni, adattamenti e innovazioni. Avendo intrapreso questo viaggio negli ultimi 30 anni, ho avuto un posto in prima fila e ho svolto un ruolo attivo nell'evoluzione dell'IA, dal riconoscimento vocale e dalla comprensione del linguaggio naturale alla visione artificiale. Il ritmo dell'innovazione negli ultimi sei mesi, da quando sono entrato a far parte di Zoom, è stato particolarmente sorprendente.

In Zoom, utilizziamo l'IA per migliorare la collaborazione e la produttività umana. Zoom AI Companion è una pietra miliare della nostra innovazione, progettato per contribuire ad aumentare la produttività, facilitare la collaborazione senza soluzione di continuità e ricavare informazioni più approfondite per migliorare il modo in cui lavori sulla piattaforma Zoom. L'approccio federato di Zoom all'IA ci consente di fornire AI Companion senza costi aggiuntivi con i servizi a pagamento assegnati al tuo account utente Zoom.* Ecco uno sguardo più da vicino alla nostra IA e a come fornisce prestazioni di alta qualità a un costo inferiore.

L'approccio federato di Zoom all'IA

Zoom offre da anni servizi di IA come il riconoscimento vocale, la visione artificiale, la traduzione automatica e i modelli linguistici di grandi dimensioni (LLM) per migliorare la comunicazione. Gli LLM che utilizziamo includono l'LLM di Zoom, nonché i modelli di terze parti OpenAI GPT 3.5 e GPT 4 e Anthropic Claude 2. Il nostro approccio federato può incorporare LLM più recenti, come GPT 4 Turbo di OpenAI, dei nostri partner, LLM open source e closed-source, per continuare a migliorare le esperienze end-to-end per i clienti Zoom.

Aderiamo a una strategia economicamente vantaggiosa che impiega innanzitutto un LLM a basso costo più adatto al compito. Il nostro Z-Scorer valuta quindi la qualità del completamento dell'attività iniziale e, se necessario, utilizziamo un LLM più avanzato per aumentare il completamento dell'attività in base a ciò che è stato ottenuto dall'LLM iniziale, in modo simile al modo in cui un team coeso che collabora è in grado di creare un prodotto di qualità superiore in modo più efficiente di qualsiasi individuo.

Confronto delle prestazioni con altri LLM

Grazie al nostro approccio federato all'IA, secondo i nostri test interni, il nostro team ha migliorato la qualità relativa di AI Companion rispetto agli approcci a modello singolo, come OpenAI GPT-3.5 Turbo (la differenza relativa è del 99% rispetto al 93% di valutazione della qualità, secondo la nostra metodologia proprietaria di valutazione della qualità) o molti altri LLM all'avanguardia. 

Misuriamo le prestazioni come combinazione di costi inferiori, tempi di risposta più rapidi e risultato di qualità superiore. Rispetto al modello GPT-4-32k di OpenAI come proxy di Microsoft Copilot, la funzionalità delle domande sulle riunioni di Zoom AI Companion offre costi ridotti e tempi di risposta più rapidi, pur mantenendo una qualità dell'IA comparabile, come mostrato nella Figura 1.

Figura 1. Zoom ha federato l'IA in percentuale relativa di OpenAI GPT-4-32k su metriche chiave di costo e qualità per l'attività di query della riunione di Zoom AI Companion. Microsoft Copilot ha usato OpenAI GPT-4 nell'orchestrazione con Microsoft Graph e altri componenti. Non usiamo i dati dei clienti per addestrare i nostri modelli di IA, ma abbiamo usato i dati delle riunioni interne di Zoom per il benchmarking in questo grafico con OpenAI GPT-4 come proxy Microsoft Copilot. 

La potenza dei nostri modelli è ulteriormente dimostrata dalle prestazioni multilingue di AI Companion, che ora supporta 32 lingue (in anteprima) oltre all'inglese. Riconoscendo che la maggior parte degli LLM sono principalmente pre-addestrati con dati dominati dall'inglese, abbiamo aggiunto modelli di traduzione per espandere le nostre capacità multilingue. Traducendo le trascrizioni in altre lingue in inglese utilizzando i modelli di traduzione di Zoom per il riepilogo multilingue delle riunioni di Zoom AI Companion, consideriamo contemporaneamente non solo i dati tradotti, ma anche i dati originali. Come mostrato nella Figura 2, il nostro modello ha portato non solo a un miglioramento significativo della qualità dell'IA rispetto a GPT-3.5, ma anche ad avvicinarsi alla qualità dell'IA GPT-4-32k (97% relativo) con meno del 6% del costo.

Figura 2. L'IA federata di Zoom in percentuale relativa di OpenAI GPT-4-32k per l'attività di riepilogo multilingue di Zoom AI Companion in 32 lingue diverse dall'inglese, tra cui cinese, francese, tedesco, italiano, giapponese, portoghese e spagnolo. Microsoft Copilot ha usato OpenAI GPT-4 insieme a Microsoft Graph e altri componenti. I dati delle riunioni interne di Zoom sono stati raccolti per il benchmarking in questo grafico con OpenAI GPT-4 come proxy Microsoft Copilot. 

Questi esempi sottolineano l'efficacia dell'approccio federato di Zoom all'IA, che combina perfettamente i punti di forza di diversi sistemi di apprendimento automatico per fornire risultati ad alte prestazioni. 

Un approccio vincente per l'IA

Riteniamo che i vantaggi dell'IA debbano essere ampiamente disponibili per il maggior numero possibile di persone. Il nostro approccio federato all'IA svolge un ruolo importante nel dare vita a questa visione. Ecco perché, mentre altre aziende possono addebitare un sovrapprezzo per utente, noi siamo in grado di includere AI Companion senza costi aggiuntivi per i clienti con piani Zoom a pagamento idonei.* 

Ti invitiamo a provare AI Companion in prima persona: consulta la nostra guida introduttiva per saperne di più sull'abilitazione e sull'utilizzo di queste funzionalità. (Se non disponi di un piano Zoom a pagamento idoneo, esegui l'upgrade oggi stesso per accedere ai vantaggi di AI Companion.)

*Attenzione: AI Companion potrebbe non essere disponibile per tutte le regioni o per tutti i settori.

 

I nostri clienti ci amano

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom – Una piattaforma per comunicare