Strategie projektowania promptów

Na tej stronie omawiamy ogólne strategie projektowania promptów, które możesz zastosować projektowaniu promptów. Nie ma dobrego ani złego sposobu projektowania promptów, ale istnieje powszechny strategie, których możesz użyć, aby wpłynąć na odpowiedzi modelu. Rygorystyczne testy i oceny pozostają nienaruszone kluczowe dla optymalizacji wydajności modelu.

Duże modele językowe (LLM) są trenowane na ogromnych ilościach danych tekstowych, aby poznawać wzorce zależności między jednostkami języka. Po otrzymaniu tekstu (promptu) modele językowe mogą przewidują, co przyniesie przyszłość, dzięki zaawansowanym narzędziom autouzupełniania. Dlatego gdy projektowanie promptów, rozważanie różnych czynników, które mogą wpływać na to, co prognozuje model co dalej.

Udzielanie jasnych i konkretnych instrukcji

Przekazywanie modelowi instrukcji, co ma zrobić, jest skutecznym i efektywnym sposobem dostosowania modelu zachowanie użytkownika. Upewnij się, że podawane przez Ciebie instrukcje są jasne i konkretne. Instrukcje mogą być takie jak mogą być proste, jak lista instrukcji krok po kroku, lub tak złożone, jak opisywanie wrażeń użytkownika sposób myślenia.

Zdefiniuj zadanie do wykonania

Szczegółowo opisz zadanie, które ma wykonać model. Zadanie może być proste, szczegółowe instrukcje lub instrukcje bardzo złożone, jak nakreślanie doświadczeń i sposobu myślenia użytkownika. ten prompt informuje model, aby podsumować blok tekstu:

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Określ ograniczenia

Określ ograniczenia dotyczące odczytywania promptu lub generowania odpowiedzi. Możesz określić, co robić, a czego nie robić. W poprzednim przykładzie podsumowanie jest krótsze niż oryginał tekst, ale podsumowanie powinno być krótsze. W tym przypadku możesz określić ograniczenie w możesz określić, jak długo ma być podsumowanie:

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Zdefiniuj format odpowiedzi

Możesz też podać instrukcje określające format odpowiedzi. Możesz na przykład zapytać: odpowiedź będzie sformatowana w postaci tabeli, listy punktowanej, krótkiej prezentacji, słów kluczowych, zdań lub akapitu. Ten prompt informuje model, że ma w nim przedstawić najważniejsze informacje tekst:

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Podsumowanie

  • Podaj modelom instrukcje, co mają robić.
  • Instrukcje powinny być jasne i konkretne.
  • Określ ograniczenia i wymagania dotyczące formatowania danych wyjściowych.

Uwzględnij przykłady „krótkich ujęć”

W prompcie możesz podać przykłady, które pokazują, jak wygląda poprawna konfiguracja. model próbuje zidentyfikować wzorce i relacje z przykładów i zastosować je, gdy w celu wygenerowania odpowiedzi. Prompty zawierające kilka przykładów są nazywane promptami few-shot. a prompty bez przykładów są nazywane promptami typu zero-shot. Krótkie prompty są często używane do regulowania formatowania, sformułowań, określania zakresu lub ogólnego określania wzorców w odpowiedziach modelu. Używaj konkretnych i zróżnicowanych przykładów, aby model mógł zawęzić zakres i wygenerować dokładniejsze wyników.

Zalecamy, aby w promptach zawsze uwzględniać kilka ujęć. Potwierdzenia bez „few-shot” przykłady mogą być mniej skuteczne, ponieważ pokazują modelowi, jak stosować instrukcje. W możesz usunąć instrukcje z promptu, jeśli przykłady wskazują, które masz do zaoferowania.

Prompty typu „zero-shot” i „few-shot”

Ten prompt typu „zero-shot” poprosi model o wybranie najlepszego wyjaśnienia.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Jeśli Twój przypadek użycia wymaga, aby model generował zwięzłe odpowiedzi, możesz uwzględnić przykłady w parametrze preferując zwięzłe odpowiedzi.

Ten prompt zawiera 2 przykłady, które pokazują preferowanie krótszych wyjaśnień. W w odpowiedzi na przykład zobaczysz, że przykłady skłoniły model do wyboru krótszego wyjaśnienia (Wyjaśnienie2), a nie z dłuższym wyjaśnieniem (Wyjaśnienie1), jak miało to miejsce wcześniej.

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Znajdź optymalną liczbę przykładów

Możesz eksperymentować z liczbą przykładów wyświetlanych w prompcie w przypadku najbardziej pożądanych wyników. Modele takie jak PaLM i Gemini często wychwytują wzorce, korzystając z kilku przykładów, może być konieczne eksperymentowanie z liczbą przykładów prowadzącą do osiągnięcia pożądanych wyników. Do prostszych modeli np. BERT, możesz potrzebować więcej przykładów. Jeśli jednocześnie podasz zbyt wiele przykładów, model może zacząć przedłużyć odpowiedź na przykłady.

Używaj przykładów, aby pokazać wzory zamiast antywzorców

Wykorzystanie przykładów do pokazania modelu, według którego podążasz, jest skuteczniejsze niż i pokazywać modelowi antywzoru, którego należy unikać.

Wzorzec negatywny:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Wzór dodatni:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Używaj spójnego formatowania w przykładach

Dopilnuj, aby struktura i formatowanie kilku ujęć są takie same, aby uniknąć odpowiedzi z niepożądanymi formatami. Jednym z głównych celów dodawania krótkich filmów w promptach jest aby pokazać modelowi format odpowiedzi. Dlatego kluczowe jest zapewnienie spójnego formatu wszystkie przykłady, zwracając szczególną uwagę na tagi XML, spacje, znaki nowego wiersza i przykłady i rozwiązania.

Podsumowanie

  • Uwzględnienie w prompcie przykładowych odpowiedzi związanych z promptem pomaga modelowi nauczyć się, jak odpowiadać.
  • Podaj przykłady wzorców do naśladowania zamiast przykładów wzorców, aby czego unikać.
  • Eksperymentuj z liczbą promptów do uwzględnienia. Zależnie od modelu jest za mało przykładów, nieskuteczne w zmienianiu zachowania modelu. Zbyt wiele przykładów powoduje nadmierne dopasowanie modelu.
  • Używaj spójnego formatowania w przykładach

Dodaj informacje kontekstowe

W instrukcjach dotyczących promptów możesz podać informacje, których model potrzebuje do rozwiązania zamiast zakładać, że model ma wszystkie wymagane informacje. Ten kontekst pomaga modelowi zrozumieć ograniczenia i szczegóły dotyczące tego, co ma być robisz.

W tym przykładzie model prosi o wskazówki dotyczące rozwiązywania problemów z routerem:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

Odpowiedź wygląda jak ogólne informacje dotyczące rozwiązywania problemów, które nie dotyczą routera lub stan diod LED.

Aby dostosować odpowiedź dla konkretnego routera, możesz dodać do promptu poradnika rozwiązywania problemów jako kontekstu, do którego należy się odwoływać, udzielając odpowiedzi.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Podsumowanie

  • Uwzględnij w prompcie informacje (kontekst), których model ma używać do generowania .
  • Przekaż modelowi instrukcje korzystania z informacji kontekstowych.

Dodaj prefiksy

Prefiks to słowo lub wyrażenie dodawane do treści promptu, które może służyć do różnych celów: w zależności od tego, gdzie umieścisz prefiks:

  • Prefiks danych wejściowych: dodawanie prefiksu do sygnałów wejściowych o znaczeniu semantycznym danych wejściowych do modelu. Na przykład prefiksy „English:” i „francuski:” oznacz dwa różnych językach.
  • Prefiks wyjściowy: nawet jeśli dane wyjściowe są generowane przez model, możesz dodać prefiks danych wyjściowych w prompcie. Prefiks danych wyjściowych przekazuje modelowi informacje o tym, co jest i oczekiwania na odpowiedź. Na przykład prefiks danych wyjściowych „JSON:” informuje model, że dane wyjściowe powinny być w formacie JSON.
  • Przykładowy prefiks: w promptach 'krótkim strzałem dodanie prefiksów do przykładów zapewnia etykiety, których model może używać podczas generowania danych wyjściowych, co ułatwia analizowanie danych wyjściowych treści.

W tym przykładzie „Tekst:” to prefiks danych wejściowych, a odpowiedź brzmi: to wynik .

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Pozwól modelowi na częściowe wprowadzanie danych

Generatywne modele językowe działają jak zaawansowane narzędzie autouzupełniania. Jeśli podasz część model może dostarczyć resztę lub to, co uważa za kontynuację treści jako odpowiedzi. Jeśli to zrobisz, jeśli podasz jakiekolwiek przykłady lub kontekst, model może przyjąć brać pod uwagę te przykłady lub kontekst.

Poniższy przykład zawiera prompt z instrukcjami i danymi wejściowymi encji:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Chociaż model zrobił to zgodnie z instrukcjami, zapisanie instrukcji w języku naturalnym może stanowić wyzwanie i łączy się z interpretacją modelu. Na przykład menu restauracji może zawierać wiele elementów. Aby zmniejszyć rozmiar odpowiedzi JSON, warto pominąć elementy, które nie zostały złożone. W takim przypadku możesz podać przykład i prefiks odpowiedzi, aby model uzupełnij:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Zwróć uwagę, że słowo „cheeseburger” Wykluczono z danych wyjściowych, ponieważ nie było ono częścią zamówienia.

Proszenie modelu o sformatowanie odpowiedzi

Strategia zakończenia może też pomóc w sformatowaniu odpowiedzi. W tym przykładzie model do stworzenia konspektu wypracowania:

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

Prompt nie określał formatu konspektu, a model wybrał format za Ciebie. Aby uzyskać aby model zwrócił kontur w określonym formacie, możesz dodać tekst reprezentujący początek i pozwól modelowi dokończyć go na podstawie zainicjowanego przez Ciebie wzorca.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Podsumowanie

  • Jeśli podasz modelowi częściowe dane wejściowe, model uzupełni dane wejściowe na podstawie wszystkich dostępnych danych przykłady lub kontekst w prompcie.
  • Ukończenie danych wejściowych przez model może być czasem łatwiejsze niż opisanie zadania w sposób naturalny język.
  • Dodanie częściowej odpowiedzi do promptu może pomóc modelowi postępować zgodnie z określonym wzorcem lub .

Podziel prompty na proste komponenty

W przypadkach użycia wymagających złożonych promptów możesz pomóc modelowi zarządzać złożonością przez: podzielić elementy na prostsze komponenty.

Podziel instrukcje

Zamiast wielu instrukcji w jednym prompcie, utwórz po 1 prompcie dla każdej z nich. Dostępne opcje na podstawie danych wejściowych użytkownika wybiera, który z nich ma być przetwarzany.

Prompty sieciowe

W przypadku złożonych zadań, które składają się z wielu kolejnych kroków, nadaj każdemu krokowi prompt i oznaczaj łańcuchem razem w sekwencji. W tym łańcuchu promptów jeden z promptów pojawia się stanie się danymi wejściowymi następnego promptu. Wynikiem ostatniego promptu w sekwencji jest efekt końcowy.

Zbiorcze odpowiedzi

Agregacja polega na wykonywaniu różnych równoległych zadań na różnych częściach danych i agregować wyniki, aby otrzymać ostateczne wyniki. Możesz na przykład polecić modelowi: jedną operację na pierwszej części danych, a drugą na pozostałych i agregować wyniki.

Podsumowanie

  • Rozłóż złożone instrukcje na prompty dla każdej z nich i zdecyduj, który z nich stosowane na podstawie danych wejściowych użytkownika.
  • Podziel kilka kolejnych kroków na osobne prompty i ułóż je w taki sposób, aby wynik w poprzednim prompcie stanie się danymi wejściowymi kolejnego promptu.
  • Podziel zadania równoległe i agreguj odpowiedzi, aby otrzymać ostateczne wyniki.

Eksperymentuj z różnymi wartościami parametrów

Każde wywołanie wysłane do modelu zawiera wartości parametrów, które kontrolują sposób generowania odpowiedź. Model może generować różne wyniki zależnie od wartości parametrów. Eksperymentuj z różne wartości parametrów, aby uzyskać najlepsze wartości do danego zadania. Parametry dostępne dla mogą się różnić w zależności od modelu. Najczęściej używane parametry to:

  • Maksymalna liczba tokenów wyjściowych
  • Temperatura
  • Top-K
  • Top-P

Maksymalna liczba tokenów wyjściowych

Maksymalna liczba tokenów, które można wygenerować w odpowiedzi. Token jest: powinien składać się z około 4 znaków. 100 tokenów odpowiada około 20 słowom.

Jeśli chcesz uzyskiwać krótsze odpowiedzi, podaj niższą wartość, a jeśli dłuższe – wyższą. odpowiedzi.

Temperatura

Temperatura jest używana do próbkowania podczas generowania odpowiedzi, która zachodzi po zastosowaniu reguł topP i topK. Sterowanie temperaturą stopień losowości wyboru tokenów. Niższe temperatury są dobre dla które wymagają bardziej deterministycznej i mniej otwartej czy kreatywnej odpowiedzi a wyższe temperatury powodują zróżnicowanie i kreatywność wyników. Temperatura 0 jest deterministyczna, co oznacza, że zawsze wybierana jest odpowiedź o najwyższym prawdopodobieństwie.

W większości przypadków dobrze jest zacząć od temperatury 0.2. Jeśli model zwróci zbyt ogólną lub krótką odpowiedź, odpowiedź zastępczą, spróbuj zwiększyć temperaturę.

Top-K

Parametr Top-K zmienia sposób, w jaki model wybiera tokeny w celu wygenerowania odpowiedzi. Górne K 1 oznacza, że następny wybrany token jest najbardziej prawdopodobny tokeny w słowniku modelu (nazywane też dekodowaniem zachłannym), podczas gdy górne K o wartości 3 oznacza, że następny token jest wybierany spośród 3 najbardziej prawdopodobnych tokenów.

Na każdym etapie wyboru tokena z najwyższych pozycji prawdopodobieństwa są próbkowane. Tokeny są następnie filtrowane na podstawie górnego P z końcowy token wybrany za pomocą próbkowania z użyciem temperatury.

Jeśli chcesz uzyskiwać mniej losowe odpowiedzi, podaj niższą wartość, a jeśli mniej, to wyższą. losowe odpowiedzi. Wartość domyślna parametru górnego K to 40.

Top-P

Parametr Top-P również zmienia sposób, w jaki model wybiera tokeny w celu wygenerowania odpowiedzi. Wybrano tokeny od najbardziej (patrz górne K) do najmniej prawdopodobnych aż do sumy ich prawdopodobieństw równa się wartości górnego P. Jeśli na przykład tokeny A, B i C mają prawdopodobieństwo 0,3, 0,2 i 0,1, a wartością górnego P jest 0.5, model wybierz A lub B jako następny token przy użyciu temperatury i wyklucz C jako kandydaci.

Jeśli chcesz uzyskiwać mniej losowe odpowiedzi, podaj niższą wartość, a jeśli mniej, to wyższą. losowe odpowiedzi. Wartość domyślna parametru górnego P to 0.95.

strategie iteracji promptów;

Projektowanie promptów to proces iteracyjny, który często wymaga kilku iteracji, zanim otrzymasz pożądaną odpowiedź. W tej sekcji znajdziesz wskazówki na temat czynności, które możesz wypróbować na podstawie własnych promptów.

Używanie różnych sformułowań

Użycie różnych słów lub sformułowań w promptach często powoduje różne odpowiedzi w stosunku do modelu. chociaż wszystkie oznaczają to samo. Jeśli nie przynosi to oczekiwanych wyników spróbuj go inaczej sformułować.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Przełącz na zadanie analogiczne

Jeśli nie możesz sprawić, aby model postępował zgodnie z Twoimi instrukcjami dotyczącymi zadania, podaj mu instrukcje dla analogiczne zadanie, które przynosi ten sam wynik.

Ten prompt informuje model, aby kategoryzował książkę przy użyciu zdefiniowanych wstępnie kategorii.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

Odpowiedź jest poprawna, ale model nie mieści się w granicach opcji. Dodatkowo chcesz modelować odpowiedź, korzystając z jednej z opcji, a nie cały czas. W tym przypadku możesz przekształcić instrukcje w pytanie jednokrotnego wyboru i poprosić model, aby wybrał .

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Zmiana kolejności treści promptu

Kolejność treści w promptach może mieć wpływ na odpowiedź. Spróbuj zmienić kolejność treści i sprawdź, jak wpłynie to na odpowiedź.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Odpowiedzi zastępcze

Odpowiedź zastępcza to odpowiedź zwrócona przez model, gdy albo prompt, albo odpowiedź uruchamia filtr bezpieczeństwa. Przykładowa odpowiedź zastępcza: „Nie mogę w tym pomóc, ponieważ Jestem tylko modelem językowym”.

Jeśli model zareaguje w odpowiedzi zastępczej, spróbuj zwiększyć temperaturę.

Czego warto unikać

  • Unikaj używania modeli do generowania informacji opartych na faktach.
  • Korzystaj z rozwagów podczas rozwiązywania zadań matematycznych i logicznych.

Dalsze kroki