El CTO de Zoom en detalle: cómo nuestro enfoque federado de la IA maximiza el rendimiento, la calidad y la rentabilidad

Lea nuestra última actualización sobre Zoom AI Companion y el éxito de nuestro enfoque federado.

Embarcarse en el viaje transformador de la IA desde la conceptualización hasta la realización se asemeja a un camino sinuoso, marcado por la disrupción continua, la adaptación y la innovación. Al haber pasado 30 años en este recorrido, he participado directamente (con un rol activo) en la evolución de la IA, desde el reconocimiento del habla y la comprensión del lenguaje natural hasta la visión artificial. El ritmo de la innovación en los últimos seis meses desde que me incorporé a Zoom ha sido particularmente asombroso.

En Zoom utilizamos la IA para mejorar la colaboración humana y la productividad. Zoom AI Companion es una piedra angular de nuestra innovación, diseñada para ayudar a aumentar la productividad, facilitar la colaboración optimizada y obtener información más profunda para mejorar la forma de trabajar en toda la plataforma Zoom. El enfoque federado de Zoom con respecto a la IA nos permite ofrecer AI Companion sin coste adicional con los servicios de pago asignados a su cuenta de usuario de Zoom.* A continuación, le ofrecemos una visión más detallada de nuestra IA y de cómo proporciona un rendimiento de alta calidad a un menor coste.

Zoom lleva años ofreciendo servicios de IA como reconocimiento de voz, visión artificial, traducción automática y grandes modelos lingüísticos (LLM) para mejorar la comunicación. Los LLM que utilizamos incluyen el LLM de Zoom, así como los modelos de terceros OpenAI GPT 3.5 y GPT 4, y Anthropic Claude 2. Nuestro enfoque federado puede incorporar LLM más recientes (como GPT 4 Turbo de OpenAI) de nuestros socios, tanto LLM de código abierto como de código cerrado, para seguir mejorando las experiencias de extremo a extremo de los clientes de Zoom.

Seguimos una estrategia rentable que emplea, en primer lugar, el LLM de menor coste más adecuado para la tarea. A continuación, nuestro Z-Scorer evalúa la calidad de finalización de la tarea inicial y, si es necesario, utilizamos un LLM más avanzado para aumentar la finalización de la tarea basándonos en lo conseguido con el LLM inicial, de forma similar a cómo un equipo cohesionado que trabaja conjuntamente es capaz de crear un producto de mayor calidad de forma más eficiente que cualquier individuo.

Con nuestro enfoque federado de la IA, según nuestras propias pruebas internas, nuestro equipo ha mejorado la calidad relativa de AI Companion con respecto a los enfoques de modelo único, como OpenAI GPT-3.5 Turbo (la diferencia relativa es del 99 % frente al 93 % de calificación de calidad, según nuestra propia metodología de evaluación de la calidad) o varios otros LLM de última generación. 

Medimos el rendimiento como una combinación de menor coste, tiempo de respuesta más rápido y resultados de mayor calidad. En comparación con el modelo GPT-4-32k de OpenAI como proxy de Microsoft Copilot, la capacidad de preguntas para reuniones de Zoom AI Companion ofrece un coste reducido y un tiempo de respuesta más rápido, al tiempo que mantiene una calidad de IA comparable, como se muestra en la Figura 1.

La potencia de nuestros modelos queda demostrada en el rendimiento multilingüe de AI Companion, que ahora es compatible con 32 idiomas (en vista previa) además del inglés. Conscientes de que la mayoría de los LLM están preentrenados principalmente con datos en inglés, hemos añadido modelos de traducción para ampliar nuestras capacidades multilingües. Al traducir al inglés transcripciones en otros idiomas con los modelos de traducción de Zoom para el resumen multilingüe de reuniones de Zoom AI Companion, no solo tenemos en cuenta los datos traducidos, sino también los datos originales en forma simultánea. Como se muestra en la Figura 2, nuestro modelo no solo mejoró significativamente la calidad de la IA con respecto a GPT-3.5, sino que también se acercó a la calidad de la IA de GPT-4-32k (97 % relativo) con menos del 6 % del coste.

Estos ejemplos subrayan la eficacia del enfoque federado de la IA de Zoom, que combina a la perfección los puntos fuertes de diferentes sistemas de aprendizaje automático para ofrecer resultados de alto rendimiento. 

Creemos que los beneficios de la IA deben estar al alcance de la mayor cantidad de personas posible. Nuestro enfoque federado de la IA contribuye en gran medida a hacer realidad esta visión. Por eso, mientras que otras empresas pueden cobrar una prima por usuario, nosotros estamos en condiciones de incluir AI Companion sin coste adicional para los clientes de los planes de pago de Zoom*. 

Le animamos a que pruebe AI Companion usted mismo: visite nuestra guía de inicio para obtener más información sobre cómo habilitar y utilizar estas características. Si no tiene un plan de pago de Zoom elegible, actualícelo hoy mismo para acceder a los beneficios de AI Companion. 

* Nota: Es posible que AI Companion no esté disponible para todas las regiones o sectores de la industria.