Membangun aplikasi yang didukung LLM menggunakan LangChain

Halaman ini memperkenalkan cara membangun aplikasi yang didukung LLM menggunakan LangChain. Ringkasan di halaman ini menautkan ke panduan prosedur di GitHub.

Apa itu LangChain?

LangChain adalah framework orkestrasi LLM yang membantu developer membangun aplikasi AI generatif atau alur kerja retrieval-augmented technology (RAG). Layanan ini menyediakan struktur, alat, dan komponen untuk menyederhanakan alur kerja LLM yang kompleks.

Untuk mengetahui informasi selengkapnya tentang LangChain, lihat halaman Google LangChain. Untuk mengetahui informasi selengkapnya tentang framework LangChain, lihat dokumentasi produk LangChain.

Komponen LangChain untuk Cloud SQL untuk MySQL

Cloud SQL untuk MySQL menawarkan antarmuka LangChain berikut:

Pelajari cara menggunakan LangChain dengan Panduan Memulai LangChain untuk Cloud SQL untuk MySQL.

Penyimpanan vektor untuk Cloud SQL untuk MySQL

Penyimpanan vektor mengambil dan menyimpan dokumen serta metadata dari database vektor. Penyimpanan vektor memungkinkan aplikasi melakukan penelusuran semantik yang menafsirkan arti kueri pengguna. Jenis penelusuran ini disebut penelusuran vektor, dan dapat menemukan topik yang cocok dengan kueri secara konseptual. Pada waktu kueri, penyimpanan vektor mengambil vektor embedding yang paling mirip dengan embedding dari permintaan penelusuran. Di LangChain, penyimpanan vektor menangani penyimpanan data tersemat dan melakukan penelusuran vektor untuk Anda.

Untuk bekerja dengan penyimpanan vektor di Cloud SQL untuk MySQL, gunakan class MySQLVectorStore.

Untuk informasi selengkapnya, lihat dokumentasi produk Penyimpanan Vektor LangChain.

Panduan prosedur penyimpanan vektor

Panduan Cloud SQL untuk MySQL untuk penyimpanan vektor menunjukkan cara melakukan hal berikut:

  • Menginstal paket integrasi dan LangChain
  • Buat objek MySQLEngine dan konfigurasikan kumpulan koneksi ke database Cloud SQL untuk MySQL Anda
  • Menginisialisasi tabel
  • Membuat objek embedding menggunakan VertexAIEmbeddings
  • Melakukan inisialisasi MySQLVectorStore default
  • Menambahkan teks
  • Menghapus teks
  • Menelusuri dokumen
  • Mencari dokumen berdasarkan vektor
  • Tambahkan indeks untuk mempercepat kueri penelusuran vektor
  • Menghapus indeks
  • Membuat penyimpanan vektor kustom
  • Menelusuri dokumen dengan filter metadata

Loader dokumen untuk Cloud SQL untuk MySQL

Loader dokumen menyimpan, memuat, dan menghapus objek Document LangChain. Misalnya, Anda dapat memuat data untuk diproses menjadi embedding dan menyimpannya di penyimpanan vektor atau menggunakannya sebagai alat untuk memberikan konteks tertentu pada rantai.

Untuk memuat dokumen dari loader dokumen di Cloud SQL untuk MySQL, gunakan class MySQLLoader. Metode MySQLLoader menampilkan satu atau beberapa dokumen dari tabel. Gunakan class MySQLDocumentSaver untuk menyimpan dan menghapus dokumen.

Untuk mengetahui informasi selengkapnya, lihat topik loader Dokumen LangChain.

Panduan prosedur loader dokumen

Panduan Cloud SQL untuk MySQL untuk loader dokumen menunjukkan cara melakukan hal berikut:

  • Menginstal paket integrasi dan LangChain
  • Memuat dokumen dari tabel
  • Menambahkan filter ke loader
  • Menyesuaikan koneksi dan autentikasi
  • Menyesuaikan pembuatan Dokumen dengan menentukan metadata dan konten pelanggan
  • Cara menggunakan dan menyesuaikan MySQLDocumentSaver untuk menyimpan dan menghapus dokumen

Histori pesan chat untuk Cloud SQL untuk MySQL

Penerapan pertanyaan dan jawaban memerlukan histori hal-hal yang diucapkan dalam percakapan guna memberikan konteks kepada aplikasi untuk menjawab pertanyaan lebih lanjut dari pengguna. Class ChatMessageHistory LangChain memungkinkan aplikasi menyimpan pesan ke database dan mengambilnya saat diperlukan untuk merumuskan jawaban lebih lanjut. Pesan dapat berupa pertanyaan, jawaban, pernyataan, salam, atau teks lainnya yang diberikan oleh pengguna atau aplikasi selama percakapan. ChatMessageHistory menyimpan setiap pesan dan menggabungkan pesan untuk setiap percakapan.

Cloud SQL untuk MySQL memperluas class ini dengan MySQLChatMessageHistory.

Panduan prosedur histori pesan chat

Panduan Cloud SQL untuk MySQL untuk histori pesan chat menunjukkan cara melakukan hal berikut:

  • Menginstal LangChain dan melakukan autentikasi ke Google Cloud
  • Buat objek MySQLEngine dan konfigurasikan kumpulan koneksi ke database Cloud SQL untuk MySQL Anda
  • Menginisialisasi tabel
  • Lakukan inisialisasi class MySQLChatMessageHistory untuk menambahkan dan menghapus pesan
  • Buat rantai untuk histori pesan menggunakan LangChain Expression Language (LCEL) dan model chat Vertex AI Google