Xây dựng bằng Gemini trên Google Cloud

Nếu mới sử dụng Gemini, bạn có thể sử dụng tính năng bắt đầu nhanh là cách nhanh nhất để bắt đầu.

Tuy nhiên, khi các giải pháp AI tạo sinh đang trong quá trình phát triển, có thể bạn cần một nền tảng để xây dựng và triển khai toàn diện các ứng dụng và giải pháp AI tạo sinh. Google Cloud cung cấp một hệ sinh thái toàn diện gồm nhiều công cụ giúp nhà phát triển khai thác sức mạnh của AI tạo sinh, từ giai đoạn ban đầu của quá trình phát triển ứng dụng đến việc triển khai ứng dụng, lưu trữ ứng dụng và quản lý dữ liệu trên quy mô lớn.

Nền tảng Vertex AI của Google Cloud cung cấp một bộ công cụ MLOps giúp đơn giản hoá việc sử dụng, triển khai, cũng như giám sát các mô hình AI để đảm bảo tính hiệu quả và độ tin cậy. Ngoài ra, việc tích hợp với cơ sở dữ liệu, công cụ DevOps (Phát triển và vận hành), ghi nhật ký, giám sát và IAM mang đến một cách tiếp cận toàn diện để quản lý toàn bộ vòng đời của AI tạo sinh.

Bảng sau đây tóm tắt những điểm khác biệt chính giữa AI của Google và Vertex AI nhằm giúp bạn quyết định xem tuỳ chọn nào phù hợp với trường hợp sử dụng của bạn:

Tính năng API Gemini AI của Google API Gemini của Vertex AI
Mô hình Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (không dùng nữa) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Tầm nhìn Gemini 1.0 Pro, Gemini 1.0 Ultra, Tầm nhìn siêu tốc Gemini 1.0
Đăng ký Tài khoản Google Tài khoản Google Cloud (có thoả thuận về các điều khoản và việc thanh toán)
Xác thực Khóa API Tài khoản dịch vụ Google Cloud
Sân chơi giao diện người dùng Google AI Studio Vertex AI Studio
API và SDK SDK máy chủ và ứng dụng khách dành cho web/thiết bị di động
  • Máy chủ: Python, Node.js, Go, Dart
  • Ứng dụng dành cho thiết bị di động/web: Android (Kotlin/Java), Swift, Web, Flutter
SDK máy chủ và ứng dụng khách dành cho web/thiết bị di động
  • Máy chủ: Python, Node.js, Go, Java
  • Ứng dụng khách trên web/thiết bị di động (thông qua Vertex AI cho Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Sử dụng miễn phí API và SDK Có, nếu có Khoản tín dụng 300 USD trên Google Cloud dành cho người dùng mới
Hạn mức (yêu cầu mỗi phút) Khác nhau tuỳ theo mẫu thiết bị và gói giá (xem thông tin chi tiết) Khác nhau tuỳ theo mẫu thiết bị và khu vực (xem thông tin chi tiết)
Hỗ trợ doanh nghiệp Không Khoá mã hoá của khách hàng
Đám mây riêng ảo
Nơi lưu trữ dữ liệu
Truy cập thông tin về tính minh bạch
Cơ sở hạ tầng có thể mở rộng để lưu trữ ứng dụng
Cơ sở dữ liệu và bộ nhớ dữ liệu
MLOps Không MLOps đầy đủ trên Vertex AI (ví dụ: đánh giá mô hình, Giám sát mô hình, Sổ đăng ký mô hình)

Để tìm hiểu xem những sản phẩm, khung và công cụ nào phù hợp nhất cho việc xây dựng ứng dụng AI tạo sinh của bạn trên Google Cloud, hãy xem Xây dựng ứng dụng AI tạo sinh trên Google Cloud.

Chuyển từ Gemini trên AI của Google sang Vertex AI

Nếu ứng dụng của bạn sử dụng API Gemini AI của Google, thì bạn cần phải chuyển sang Các API Vertex AI Gemini của Google Cloud.

Khi bạn di chuyển:

Python: Di chuyển từ Google AI Gemini API sang Vertex AI Gemini API

Các phần sau đây trình bày các đoạn mã nhằm giúp bạn di chuyển mã Python để sử dụng Vertex AI Gemini API.

Thiết lập Vertex AI Python cho SDK

Trên Vertex AI, bạn không cần có khoá API. Thay vào đó, Gemini trên Vertex AI được quản lý bằng quyền truy cập IAM, Quyền này kiểm soát quyền cho phép một người dùng, nhóm hoặc tài khoản dịch vụ gọi Gemini API thông qua Vertex AI SDK.

Mặc dù có nhiều cách để xác thực, thì phương pháp dễ nhất để xác thực trong môi trường phát triển là cài đặt Google Cloud CLI sau đó sử dụng thông tin đăng nhập của người dùng để đăng nhập vào CLI.

Để thực hiện lệnh gọi suy luận đến Vertex AI, bạn cũng phải đảm bảo rằng người dùng hoặc tài khoản dịch vụ của mình có Vertex AI Vai trò của người dùng.

Ví dụ về mã để cài đặt ứng dụng

AI của Google Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY=""
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Ví dụ về mã để tạo văn bản qua câu lệnh dạng văn bản

AI của Google Vertex AI
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

Ví dụ về mã để tạo văn bản từ văn bản và hình ảnh

AI của Google Vertex AI
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.5-flash')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Ví dụ về mã để tạo cuộc trò chuyện nhiều lượt

AI của Google Vertex AI
model = GenerativeModel('gemini-1.5-flash')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Xoá khoá API không dùng đến

Nếu bạn không cần dùng khoá Gemini API của Google AI nữa, hãy làm theo phương thức bảo mật tốt nhất thực hành và xoá hoạt động đó.

Cách xoá khoá API:

  1. Mở Thông tin đăng nhập vào API Google Cloud .

  2. Tìm khoá API mà bạn muốn xoá rồi nhấp vào biểu tượng Thao tác.

  3. Chọn Xoá khoá API.

  4. Trong cửa sổ Xoá thông tin đăng nhập, hãy chọn Xoá.

    Việc xoá khoá API sẽ mất vài phút để có hiệu lực. Sau khi truyền xong, mọi lưu lượng truy cập sử dụng khoá API đã xoá sẽ bị từ chối.

Các bước tiếp theo