Strategie projektowania promptów

Na tej stronie poznasz ogólne strategie projektowania promptów, których możesz użyć podczas tworzenia promptów. Nie ma jednego dobrego lub niewłaściwego sposobu zaprojektowania promptu, ale istnieją typowe strategie wpływania na odpowiedzi modelu. Rygorystyczne testy i oceny są kluczowe dla optymalizacji wydajności modelu.

Duże modele językowe (LLM) są trenowane na olbrzymich ilościach danych tekstowych, aby uczyć się wzorców i relacji między jednostkami językowymi. Po otrzymaniu pewnego tekstu (podpowiedź) modele językowe mogą przewidzieć, co pojawi się w następnej kolejności, tak jak zaawansowane narzędzie do autouzupełniania. Dlatego podczas projektowania promptów weź pod uwagę różne czynniki, które mogą wpływać na przyszłe prognozy.

Podaj jasne i konkretne instrukcje

Przekazywanie modelowi instrukcji dotyczących tego, co ma robić, jest skutecznym i wydajnym sposobem dostosowywania działania modelu. Upewnij się, że podane instrukcje są jasne i konkretne. Mogą one być tak proste, jak lista szczegółowych instrukcji, lub tak złożone, jak określenie doświadczenia i nastawienia użytkownika.

Zdefiniuj zadanie do wykonania

Opisz szczegółowo zadanie, które ma wykonać model. Może to być zarówno prosta lista instrukcji, jak i złożone, np. określenie wrażeń i nastawienia użytkownika. Następujący prompt informuje model, że ma podsumować blok tekstu:

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Określ ograniczenia

Określ ograniczenia dotyczące odczytywania promptu lub generowania odpowiedzi. Możesz powiedzieć modelowi, co ma robić, a czego nie. W poprzednim przykładzie podsumowanie jest krótsze niż tekst oryginalny, ale może ono być krótsze. W takim przypadku możesz określić w prompcie ograniczenie długości podsumowania:

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Zdefiniuj format odpowiedzi

Możesz też podać instrukcje określające format odpowiedzi. Możesz np. poprosić o sformatowanie odpowiedzi w formie tabeli, listy punktowanej, prezentacji sprzedażowej, słów kluczowych, zdania lub akapitu. Ten prompt nakazuje modelowi umieszczenie w tekście listy punktowanych najważniejszych informacji:

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Podsumowanie

  • Przekaż modelom instrukcje, co mają zrobić.
  • Podawaj jasne i konkretne instrukcje.
  • Określ ograniczenia lub wymagania dotyczące formatowania danych wyjściowych.

Uwzględnij przykłady sesji w kilku ujęciach

Prompt możesz zawrzeć przykłady, które pokazują modelowi, jak wygląda prawidłowe zadanie. Model próbuje rozpoznać wzorce i relacje z przykładów oraz stosuje je podczas generowania odpowiedzi. Prompty zawierające kilka przykładów są nazywane promptami few-shot, a te, które nie zawierają żadnych przykładów, są nazywane promptami typu „zero-shot”. Prompty typu „few-shot” są często używane do regulacji formatowania, frazowania, określania zakresu lub ogólnego wzorca odpowiedzi modelu. Wykorzystuj szczegółowe i zróżnicowane przykłady, aby zawęzić zakres danych modelu i generować dokładniejsze wyniki.

Zalecamy, aby zawsze podawać w promptach kilka przykładów. Prompty bez takich przykładów będą prawdopodobnie mniej skuteczne, ponieważ pokazują modelowi, jak stosować instrukcje. Możesz usunąć instrukcje z promptu, jeśli przykłady są wystarczająco jasne, by pokazać wykonane zadanie.

Prompty typu „zero-shot” i „few-shot”

Następujący prompt: zero-shot zawiera prośbę o wybranie najlepszego wyjaśnienia.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Jeśli w Twoim przypadku użycia model musi generować zwięzłe odpowiedzi, możesz podać w prompcie przykłady, które preferują te zwięzłe odpowiedzi.

Poniżej znajdziesz 2 przykłady, które pokazują preferencje w przypadku krótszych wyjaśnień. W odpowiedzi widać, że modele skłoniły model do wybrania krótszego wyjaśnienia (Wyjaśnienie 2) zamiast dłuższego wyjaśnienia (Wyjaśnienie 1), jak miało to miejsce wcześniej.

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Znajdź optymalną liczbę przykładów

Możesz eksperymentować z liczbą przykładów, które można podać w prompcie, aby uzyskać najbardziej pożądane wyniki. Modele takie jak PaLM i Gemini często potrafią rozpoznawać wzorce na podstawie kilku przykładów, ale może być konieczne poeksperymentowanie z liczbą przykładów prowadzących do oczekiwanych wyników. W przypadku prostszych modeli, takich jak BERT, możesz potrzebować więcej przykładów. Jeśli jednocześnie dodasz zbyt wiele przykładów, model może zacząć przekształcać odpowiedzi w odpowiedzi na przykłady.

Podaj przykłady, aby pokazać wzorce zamiast antywzorców

Wykorzystując przykłady, które pokazują model, jest skuteczniejsze niż przedstawianie antywzorca, którego należy unikać.

Wzorzec ujemny:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Wzorzec dodatni:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Używaj spójnego formatowania w przykładach

Sprawdź, czy struktura i formatowanie przykładów kilku zdjęć jest taka sama, aby uniknąć odpowiedzi z niepożądanymi formatami. Jednym z głównych celów dodawania przykładów typu „few-shot” w promptach jest pokazanie modelu w formacie odpowiedzi. Dlatego ważne jest zachowanie spójnego formatu we wszystkich przykładach. Zwróć szczególną uwagę na tagi XML, spacje, znaki nowego wiersza i znaki rozdzielające.

Podsumowanie

  • Uwzględnienie w promptach przykładów prompt-odpowiedź pomaga modelowi nauczyć się odpowiadać.
  • Podaj przykłady wzorców do wykorzystania zamiast tych, których należy unikać.
  • Eksperymentuj z liczbą promptów do uwzględnienia. Zbyt mało przykładów w zależności od modelu nie jest skuteczne w zmianie działania modelu. Zbyt wiele przykładów powoduje, że model jest nadmiernie dopasowany.
  • Używaj spójnego formatowania w przykładach

Dodaj informacje kontekstowe

Możesz uwzględnić w instrukcjach promptu i informacji, których model potrzebuje, aby rozwiązać problem, zamiast zakładać, że model zawiera wszystkie wymagane informacje. Te informacje kontekstowe pomagają modelowi zrozumieć ograniczenia i szczegóły dotyczące tego, czego oczekujesz od niego.

W tym przykładzie model podaje wskazówki dotyczące rozwiązywania problemów z routerem:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

Odpowiedź wygląda jak ogólne informacje o rozwiązywaniu problemów, które nie dotyczą routera ani stanu diod LED.

Aby dostosować odpowiedź dla konkretnego routera, możesz dodać do promptu w przewodniku rozwiązywania problemów routera jako kontekst, do którego będzie się on odwoływał podczas udzielania odpowiedzi.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Podsumowanie

  • W prompcie podaj informacje (kontekst), których model ma używać podczas generowania odpowiedzi.
  • Przekaż modelowi instrukcje dotyczące korzystania z informacji kontekstowych.

Dodaj prefiksy

Prefiks to słowo lub wyrażenie, które dodajesz do treści promptu i może służyć do różnych celów w zależności od tego, gdzie go umieścisz:

  • Prefiks wejściowy: dodawanie prefiksu do zrozumiałych semantycznie części danych wejściowych modelu w danych wejściowych. Na przykład przedrostki „angielski:” i „francuski:” oznaczają 2 różne języki.
  • Prefiks danych wyjściowych: mimo że dane wyjściowe są generowane przez model, możesz dodać prefiks danych wyjściowych w prompcie. Prefiks danych wyjściowych przekazuje modelowi informacje o oczekiwanej odpowiedzi. Na przykład prefiks wyjściowy „JSON:” informuje model, że dane wyjściowe powinny mieć format JSON.
  • Przykładowy prefiks: w promptach typu „few-shot” dodanie prefiksów do przykładów dostarcza etykiet, których model może używać podczas generowania danych wyjściowych, co ułatwia analizowanie treści wyjściowych.

W tym przykładzie „Tekst:” jest prefiksem danych wejściowych, a „Odpowiedź to:” to prefiks danych wyjściowych.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Pozwól, by model uzupełnił dane wejściowe.

Generatywne modele językowe działają jak zaawansowane narzędzie do autouzupełniania. Gdy przekazujesz częściowe treści, model może udostępnić w odpowiedzi pozostałą część treści lub to, co uważa za ich kontynuację. Jeśli przy uwzględnieniu przykładów lub kontekstu model uwzględni te przykłady lub kontekst.

Poniższy przykład zawiera prompt z instrukcją i danymi wejściowymi encji:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Chociaż model postąpił zgodnie z instrukcjami, napisanie instrukcji w języku naturalnym może być czasem trudne i wiele pozostawia interpretacji modelu. Na przykład menu restauracji może zawierać wiele pozycji. Aby zmniejszyć rozmiar odpowiedzi JSON, prawdopodobnie należy pominąć elementy, które nie są uporządkowane. W takim przypadku możesz podać przykład i prefiks odpowiedzi, by model mógł je uzupełnić:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Zwróć uwagę, że słowo „cheeseburger” zostało wykluczone z danych wyjściowych, ponieważ nie było ono częścią zamówienia.

Zachęć model do sformatowania odpowiedzi

Strategia uzupełniania może też pomóc sformatować odpowiedź. Ten przykład wymaga od modelu utworzenia konspektu eseju:

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

W prompcie nie określono formatu konspektu, a model wybrał go za Ciebie. Aby model zwracał konspekt w określonym formacie, możesz dodać tekst, który reprezentuje początek konspektu, i pozwolić modelowi dokończyć go na podstawie zainicjowanego przez Ciebie wzorca.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Podsumowanie

  • Jeśli podasz częściowe dane wejściowe modelowi, model uzupełni te dane na podstawie wszystkich dostępnych przykładów lub kontekstu promptu.
  • Uzupełnienie danych wejściowych modelu może być czasem łatwiejsze niż opisanie zadania w języku naturalnym.
  • Dodanie częściowej odpowiedzi do promptu może pomóc modelowi trzymać się odpowiedniego wzorca lub formatu.

Podziel prompty na proste komponenty

W przypadkach użycia, które wymagają złożonych promptów, możesz pomóc modelowi radzić sobie z tą złożonością, dzieląc sprawę na prostsze komponenty.

Instrukcje dotyczące podziału

Zamiast podawać wiele instrukcji w jednym promptie, utwórz po jednym na każdą instrukcję. Możesz wybrać, który prompt ma być przetwarzany, na podstawie danych wejściowych użytkownika.

Prośby sieciowe

W przypadku złożonych zadań z kilkoma kolejnymi krokami utwórz prompt i połącz żądania w sekwencję. W tym sekwencyjnym łańcuchu promptów dane wyjściowe jednego promptu w sekwencji stają się danymi wejściowymi kolejnego promptu. Wyniki ostatniego promptu w sekwencji to ostateczne dane wyjściowe.

Odpowiedzi zbiorcze

Agregacja polega na wykonywaniu różnych równoległych zadań na różnych częściach danych i agregowaniu wyników, aby otrzymać ostateczne wyniki. Możesz np. sprawić, że model wykona jedną operację na pierwszej części danych, wykona kolejną na pozostałych danych i zagreguje wyniki.

Podsumowanie

  • Podziel złożone instrukcje na prompt dla każdej z nich i na podstawie danych wejściowych użytkownika zdecyduj, który prompt zastosować.
  • Podziel kilka kolejnych kroków na osobne prompty i połącz je w taki sposób, aby dane wyjściowe poprzedniego promptu stały się danymi wejściowymi kolejnego promptu.
  • Podziel równoległe zadania i agreguj odpowiedzi, aby otrzymać ostateczne wyniki.

Eksperymentuj z różnymi wartościami parametrów

Każde wywołanie wysyłane do modelu zawiera wartości parametrów, które określają sposób generowania odpowiedzi przez model. Model może generować różne wyniki dla różnych wartości parametrów. Eksperymentuj z różnymi wartościami parametrów, aby uzyskać najlepsze wartości dla danego zadania. Parametry dostępne w przypadku różnych modeli mogą się różnić. Oto najczęstsze parametry:

  • Maksymalna liczba tokenów wyjściowych
  • Temperatura
  • Top-K
  • Top-P

Maksymalna liczba tokenów wyjściowych

Maksymalna liczba tokenów, które można wygenerować w odpowiedzi. Token ma około 4 znaków. 100 tokenów odpowiada około 60–80 słówom.

Określ niższą wartość dla krótszych odpowiedzi, a wyższą dla dłuższych odpowiedzi.

Temperatura

Temperatura jest używana do próbkowania podczas generowania odpowiedzi, które ma miejsce po zastosowaniu właściwości topP i topK. Temperatura decyduje o stopniu losowości wyboru tokenów. Niższe temperatury są przydatne w przypadku promptów, które wymagają bardziej deterministycznej i mniej otwartej reakcji twórczej, a wyższe mogą prowadzić do bardziej różnorodnych lub kreatywnych wyników. Temperatura równa 0 jest deterministyczna, co oznacza, że zawsze wybierana jest odpowiedź o najwyższym prawdopodobieństwie.

W większości przypadków dobrze jest zacząć od temperatury 0.2. Jeśli model zwraca odpowiedź, która jest zbyt ogólna, zbyt krótka lub zwraca odpowiedź zastępczą, spróbuj zwiększyć temperaturę.

Top-K

Parametr Top-K zmienia sposób, w jaki model wybiera tokeny w celu wygenerowania odpowiedzi. Górne K o wartości 1 oznacza, że następny wybrany token jest najbardziej prawdopodobnym spośród wszystkich tokenów w słowniku modelu (jest to też nazywane dekodowaniem zachłannym), a górne K o wartości 3 oznacza, że następny token jest wybierany spośród 3 najbardziej prawdopodobnych na podstawie temperatury.

W każdym kroku wyboru tokenów próbkowane są tokeny o najwyższym prawdopodobieństwie. Następnie tokeny są dodatkowo filtrowane według górnego P. Ostatni token jest wybierany za pomocą próbkowania temperatury.

Określ mniejszą wartość, by zmniejszyć liczbę losowych odpowiedzi, i wyższą wartość, by odpowiedzi były bardziej losowe. Domyślnym ustawieniem górnego K jest 40.

Top-P

Parametr Top-P również zmienia sposób, w jaki model wybiera tokeny w celu wygenerowania odpowiedzi. Tokeny są wybierane od największej wartości (patrz górne K) do najmniej prawdopodobnego do momentu, aż suma ich prawdopodobieństw będzie równa wartości górnego P. Jeśli na przykład tokeny A, B i C mają prawdopodobieństwo 0,3, 0,2 i 0,1, a wartością górnego P jest 0.5, model wybierze A lub B jako kolejny token, używając temperatury i wyklucza C jako kandydata.

Określ mniejszą wartość, by zmniejszyć liczbę losowych odpowiedzi, i wyższą wartość, by odpowiedzi były bardziej losowe. Domyślnym górnym rogu jest 0.95.

Strategie iteracji promptów

Projektowanie promptów to proces iteracyjny, który często wymaga kilku iteracji, zanim otrzymasz spójną odpowiedź. W tej sekcji znajdziesz wskazówki dotyczące rzeczy, które możesz wypróbować podczas powtarzania promptów.

Użyj innego sformułowania

Użycie w promptach różnych słów lub sformułowań często powoduje różne odpowiedzi od modelu, mimo że wszystkie oznaczają to samo. Jeśli prompt nie przynosi oczekiwanych wyników, sformułuj go inaczej.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Przełączanie się na analogiczne zadanie

Jeśli nie jesteś w stanie sprawić, aby model wykonywał podane przez Ciebie instrukcje związane z danym zadaniem, spróbuj podać mu instrukcje dla podobnego zadania, które daje taki sam wynik.

Ten prompt informuje model, że ma kategoryzować książkę na podstawie zdefiniowanych wstępnie kategorii.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

Odpowiedź jest prawidłowa, ale model nie mieścił się w granicach opcji. Chcesz też modelować tak, aby odpowiadał tylko za pomocą jednej z opcji, a nie całego zdania. W takim przypadku możesz przeformułować instrukcje w formie pytania jednokrotnego wyboru i poprosić model o wybranie opcji.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Zmienianie kolejności treści promptu

Kolejność treści promptu może czasami wpływać na odpowiedź. Spróbuj zmienić kolejność treści i zobacz, jak wpłynie to na odpowiedź.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Odpowiedzi zastępcze

Odpowiedź zastępcza to odpowiedź zwracana przez model, gdy prompt lub odpowiedź aktywują filtr bezpieczeństwa. Przykładem odpowiedzi zastępczej jest „Nie mogę w tym pomóc, ponieważ jestem tylko modelem językowym”.

Jeśli model zareaguje odpowiedzią zastępczą, spróbuj zwiększyć temperaturę.

Czego unikać

  • Unikaj używania modeli do generowania informacji opartych na faktach.
  • Używaj ostrożnie do rozwiązywania zadań matematycznych i logicznych.

Dalsze kroki