GPT-4, najnowsza iteracja językowego modelu AI od OpenAI, świetnie sprawdza się w różnych zastosowaniach dzięki swojej zdolności do rozumienia nawet prostych poleceń. Jednakże, koszty związane z jego użytkowaniem w produkcji, zwłaszcza przy obsłudze tysięcy zapytań, mogą być znaczące. Wiele firm rozważa więc użycie tańszych alternatyw, takich jak GPT-3.5, który jest znacznie tańszy – kosztuje około 98% mniej niż GPT-4 za tę samą ilość tokenów.
- Jak ulepszyć działanie GPT-3.5 za pomocą inżynierii poleceń?
- Co sprawia, że polecenie ChatGPT jest dobre?
Jak ulepszyć działanie GPT-3.5 za pomocą inżynierii poleceń?
Poniżej przedstawiamy dziesięć sprawdzonych metod inżynierii poleceń, które pomogą wykorzystać model GPT-3.5 na równi z GPT-4.
1. Oddzielaj instrukcje od kontekstu
Zaleca się wyraźne rozdzielenie instrukcji, przykładów, pytań i danych wejściowych. Możesz użyć znaków specjalnych jak ### lub „”” do oddzielenia tych elementów. Na przykład:
shellCopy code### Instrukcje ###
Podsumuj główne idee podanego tekstu.
### Tekst ###
{tu wprowadź tekst}
2. Bądź bezpośredni i konkretny
Twoje polecenia powinny być jasne i precyzyjne. Zamiast mówić, czego model nie powinien robić, wskaż, co należy zrobić. Używaj zwrotów takich jak „Twoim zadaniem jest”.
3. Przypisz rolę
Jeśli tworzysz narzędzie pisarskie zasilane przez AI, zacznij polecenie od zdania „Jesteś pisarzem treści…”. Możesz też testować, jak różne formy tej instrukcji wpływają na wyniki.
4. Stylizuj odpowiedź
Jeśli chcesz, aby odpowiedź modelu odpowiadała określonemu stylowi językowemu, dostarcz przykład tekstu w tym stylu. Podanie przykładu zamiast opisu stylu poprawia jakość odpowiedzi.
5. Dodaj informacje o użytkowniku końcowym
Jeśli twoim celem jest pomoc np. zajętym założycielom firm, wspomnij o tym w poleceniu. Informacja ta pomoże modelowi dostosować odpowiedzi do potrzeb użytkownika.
6. Podaj strukturę formatu
Modele lepiej odpowiadają, gdy wiesz, jaki format odpowiedzi oczekujesz. Możesz określić format przed lub po kontekście, aby sprawdzić, która opcja daje lepsze wyniki.
7. Użyj przykładów
Jeśli metoda zero-shot nie działa, spróbuj techniki few-shot lub chain-of-thought. Dodawanie kilku przykładów do polecenia może znacznie poprawić jakość odpowiedzi.
8. Zmiejsz stronniczość
Aby zmniejszyć stronniczość odpowiedzi, dodaj do polecenia frazę: „Upewnij się, że twoja odpowiedź jest obiektywna i nie opiera się na stereotypach”.
9. Użyj emocjonalnych poleceń
Badania wykazały, że emocjonalne polecenia mogą poprawić jakość odpowiedzi modeli językowych. Możesz dodać coś w stylu: „To bardzo ważne dla mojej kariery”.
10. Łączenie poleceń
Jeśli nie uzyskujesz wiarygodnych wyników z złożonego polecenia, możesz je podzielić na kilka prostszych. Wyniki z jednego polecenia można wykorzystać jako dane wejściowe do kolejnego.
Co sprawia, że polecenie ChatGPT jest dobre?
Po napisaniu polecenia zastanów się, czy instrukcje są jasne, czy podałeś wystarczająco szczegółów i czy określiłeś oczekiwany styl językowy. Dla bardziej złożonych zadań upewnij się, że dostarczyłeś wystarczająco przykładów i uzasadnienie, jak dojść do odpowiedzi.
Pisanie dobrego polecenia to proces ciągłej iteracji, a te metody są tylko punktem wyjścia. Zachęcamy do eksperymentowania, aby znaleźć najlepsze rozwiązania dla swoich specyficznych zastosowań.
Jeśli inżynieria poleceń nie przynosi oczekiwanych rezultatów, warto rozważyć bardziej zaawansowane metody, takie jak fine-tuning, generowanie z pomocą źródeł zewnętrznych (RAG) czy użycie dodatkowych narzędzi.
