Gemini API ile ince ayarlar

Birkaç denemelik istem gibi istem tasarım stratejileri her zaman yardımcı olur. İnce ayar, modelinizin kalitesini iyileştirebilen belirli görevlerde daha iyi performans göstermesini sağlayabilir veya modelin belirli çıktılara uymasını sağlayabilirsiniz. bir dizi örneğiniz olması ve bu şartlardan yararlanmanın bir örnekle açıklayacağım.

Bu sayfada, Gemini API'nin arkasındaki metin modeline ince ayar yapma konusunda yol gösterici bilgiler verilmektedir. kısa mesaj hizmetini kullanabilirsiniz.

İnce ayarların işleyiş şekli

İnce ayarın amacı, modelin performansını daha da artırmaktır. en iyi yöntemin ne olduğunu öğreneceğiz. İnce ayar, modele eğitim sağlayarak işe yarar. veri kümesi ise görevle ilgili pek çok örnek içerir. Niş görevler için model üzerinde küçük bir ayarlamayla model performansında önemli artışlar izin verebilirsiniz.

Eğitim verileriniz, istem girişlerine ve ek açıklamaların yer aldığı ve beklenen yanıt çıkışları hakkında daha fazla bilgi edineceksiniz. Doğrudan örnek verileri kullanarak da modellerde ince ayar yapabilirsiniz. ekleyebilirsiniz. Amaç, modele istenen davranışı taklit etmeyi öğretmektir gösteren birçok örnek vererek daha iyi hale getirebilirsiniz.

Bir ince ayar işi çalıştırdığınızda model, işin tamamlanmasına yardımcı olan ek parametreler öğrenir istenen görevi gerçekleştirmek veya isteneni öğrenmek için gerekli bilgileri kodlamak gösterir. Bu parametreler, daha sonra çıkarım zamanında kullanılabilir. Çıktı ayarlama işi, yeni ve mevcut trafiğin etkili bir şekilde bir birleşimi olan öğrenilen parametreler ve orijinal model.

Veri kümenizi hazırlama

İnce ayar yapmaya başlamadan önce modeli ayarlarken kullanacağınız bir veri kümesine ihtiyacınız vardır. Örneğin, bağlantı varsa, veri kümesindeki örneklerin kalitesi yüksek, temsil eder ve gerçek giriş ve çıktıları temsil eder.

Biçim

Veri kümenize dahil edilen örnekler, beklediğiniz üretimle eşleşmelidir yardımcı olur. Veri kümenizde belirli biçimlendirmeler, anahtar kelimeler, talimatlar, üretim verileri de yine aynı şekilde biçimlendirilmiş olmalı ve aynı talimatları içermelidir.

Örneğin, veri kümenizdeki örnekler bir "question:" ve bir "context:", üretim trafiği de bir Veri kümesinde göründüğü sırayla "question:" ve bir "context:" örnekler. Bağlamı hariç tutarsanız model, kalıbı veri kümesindeki bir örnekte yer alsa da geçerlidir.

Veri kümenizdeki her örneğin önüne bir istem veya önsöz eklemek de işe yarayabilir. hassaslaştırılmış modelin performansını iyileştirmenizi sağlar. Bir istem veya önsözde veri kümenize dahil edilmişse, önceden ayarlanmış modelidir.

Eğitim verileri boyutu

20 örnek kadar az sayıda örnek kullanarak bir modelde ince ayar yapabilirsiniz. Ek veri ve genellikle yanıtların kalitesini artırır. 100 veya üzeri ve 500 örnek bulunuyor. Aşağıdaki tabloda Metin modelinde çeşitli yaygın görevlere yönelik ince ayarlar yapmak için önerilen veri kümesi boyutları şunlardır:

Görev Veri kümesindeki örnek sayısı
Sınıflandırma 100+
Özetleme 100-500+
Doküman arama 100+

Ayarlama veri kümenizi yükleme

Veriler, API kullanılarak satır içi olarak veya Google'a yüklenen dosyalar aracılığıyla iletilir AI Studio'ya gidin.

İçe aktar düğmesini tıklayın ve verileri içe aktarmak için iletişim kutusundaki talimatları uygulayın veya ince ayar olarak içe aktarılacak örnekler içeren yapılandırılmış bir istem seçin veri kümesiyle eşleştirilir.

İstemci kitaplığı

İstemci kitaplığını kullanmak için createTunedModel içinde veri dosyasını sağlayın çağrısına bir tıklama URL'si eklemeniz gerekir. Dosya boyutu sınırı 4 MB'tır. Bkz. ince ayar hızlı başlangıç kılavuzu Python kullanın.

cURL

REST API'yi cURL kullanarak çağırmak için JSON biçiminde eğitim örnekleri sağlayın. training_data bağımsız değişkeni. Bkz. ayarlama hızlı başlangıç kılavuzu: cURL adresini ziyaret edin.

Gelişmiş ince ayar ayarları

Ayarlama işi oluştururken aşağıdaki gelişmiş ayarları belirtebilirsiniz:

  • Dönemler: Tüm eğitim setini kapsayan tam bir eğitim geçişidir. Böylece, örnek bir kez işlendi.
  • Grup boyutu: Bir eğitim iterlemesinde kullanılan örnek kümesi. İlgili içeriği oluşturmak için kullanılan grup boyutu bir gruptaki örnek sayısını belirler.
  • Öğrenme hızı: Algoritmaya öğrenme hızının model parametrelerini her yinelemede ayarlamak için güçlü bir şekilde ayarlanması gerekir. Örneğin, 0,3 olan bir öğrenme hızı, ağırlıkları ve yanlılıkları üç kat daha fazla ayarlar daha güçlü olduğunu söylüyor. Yüksek ve düşük öğrenme oranları, kendine özgü dengeleri vardır ve kullanım alanınıza göre ayarlanmalıdır.
  • Öğrenme oranı çarpanı: Ücret çarpanı, modelin orijinal öğrenme hızı. 1 değeri, modeli. 1'den büyük değerler öğrenme hızını ve 1 arasındaki değerleri artırır. öğrenme hızını düşürür.

Aşağıdaki tabloda bir temel modeli:

Hiperparametre Varsayılan değer Önerilen ayarlamalar
Epoch 5

Kayıp, 5 dönemden önce platoya başlarsa daha küçük bir değer kullanın.

Kayıp yakınlaşıyorsa ve durağanlaşmıyorsa daha yüksek bir değer kullanın.

Grup boyutu 4
Öğrenme oranı 0,001 Daha küçük veri kümeleri için daha küçük bir değer kullanın.

Kayıp eğrisi, modelin tahmininin ideal değerden ne kadar saptığını gösterir. tahminlerle ilgili daha fazla bilgi edinebilirsiniz. İdeal olarak bir süre eğrinin en düşük noktasında yükselir. Örneğin, aşağıdaki grafik, 4-6. dönem civarındaki kayıp eğrisini gösterir. Bu, Epoch parametresini 4 olarak ayarlayıp aynı performansı elde edebilirsiniz.

Modelin kayıp eğrisini gösteren çizgi grafik. Her iki reklam arasındaki çizginin
ardından hemen hemen 0'a düşer ve seviye atlar.
üç dönemden sonra gelir.

Ayarlama işinin durumunu kontrol etme

Ayarlama işinizin durumunu Google AI Studio'daki şu bölümünden kontrol edebilirsiniz: Kitaplığım sekmesinden veyametadata Gemini API'si.

Hataları giderme

Bu bölümde, çalışırken karşılaşabileceğiniz hataların nasıl giderileceğine hassaslaştırılmış modelinizi oluşturun.

Kimlik doğrulama

API ve istemci kitaplığını kullanarak ince ayar yapmak için kullanıcı kimlik doğrulaması gerekir. API anahtarı tek başına yeterli değildir. 'PermissionDenied: 403 Request had insufficient authentication scopes' hatası görürseniz kullanıcı ayarlarını yapmanız gerekir kimlik doğrulama.

Python için OAuth kimlik bilgilerini yapılandırmak üzere OAuth kurulumuna bakın eğiticisi.

İptal edilen modeller

İnce ayar işini, iş tamamlanmadan önce istediğiniz zaman iptal edebilirsiniz. Ancak, özellikle devre dışı bırakılmış bir modelin çıkarım performansı ayarlama işi eğitimin başlarında iptal edilir. Üyeliğinizi eğitimi daha erken bir dönemde durdurmak isterseniz, daha düşük bir değere ayarlayabilirsiniz.

Sırada ne var?