Co to są halucynacje ChatGPT?
Podobno nie ma głupich pytań, są tylko głupie odpowiedzi… Cóż, w przypadku komunikacji z AI mogą być i głupie pytania, i głupie odpowiedzi. Dzisiaj skupimy się na odpowiedziach i pokażę Ci kilka sposobów, jak uchronić się przed złymi odpowiedziami!
Zdarzyło Ci się, że czat trochę (albo nawet bardziej) nazmyślał w odpowiedzi? Mi nie raz. ChatGPT potrafi wymyślać miejsca, osoby, cytaty, a nawet fakty historyczne. Dlatego bezkrytyczne poleganie na ChatGPT (i AI ogólnie) może powodować dość kłopotliwe sytuacje.
Dlatego przy każdej możliwej okazji powtarzam! Sprawdzaj, co zrobiło dla Ciebie AI!
Co powoduje halucynacje?
Ponieważ ChatGPT to tylko model językowy, który, jakkolwiek świetny, bywa czasem niedoskonały, zdarza mu się czasem mijać z prawdą. Przyczyn jest kilka.
Po pierwsze, jakość danych, na jakich został wytrenowany. Czasem dane te są błędne. Czat nie ma jeszcze aż takiej zdolności “łączenia kropek”. Więc jeśli na początku został “nakarmiony” błędnymi danymi, będzie wysnuwał błędne wnioski.
Druga sprawa, że czat nie zawsze zrozumie kontekst, jak należy. Zdarzyło mi się, że gdy spytałam, jak zostać analitykiem AI, dostałam link do kursu Ministerstwa Finansów na egzamin dla analityków finansowych. W końcu to analiza i to analiza, prawda?
Po trzecie – specyfika modelu. Chat daje nam statystycznie najbardziej prawdopodobną odpowiedź na nasze pytanie. A to oznacza, że może się zdarzyć odpowiedź statystycznie prawdopodobna, jednak zupełnie nieprawdziwa. Czyli, w dość dużym uproszczeniu, czasem model stara się odpowiedzieć nam za wszelką cenę. A to czasem sprawia, że zamiast napisać “Nie wiem”, wymyśla odpowiedź.
Poczekałam grzecznie i w końcu pytam:
Co robić gdy ChatGPT kłamczuszkuje?
- Określ poziom pewności
Możesz poprosić, żeby ChatGPT określił poziom pewności („Confidence level”) dla odpowiedzi.
PROMPT: Określ poziom pewności, czyli „Confidence level” dla odpowiedzi.
2. Sprawdzaj linki
Kiedy prosisz o linki, zawsze zaznacz, że mają być poprawne i prawdziwe.
PROMPT: Jeśli odpowiedź zawiera URL, upewnij się, że jest on poprawny.
3. Żądaj źródeł
Gdy pytasz o fakty, poproś o źródło.
PROMPT: Podaj linki do źródeł, na podstawie których przygotowałeś odpowiedź, upewnij się, że linki są poprawne.
4. Pewność odpowiedzi
PROMPT: Jeśli nie jesteś pewien odpowiedzi, albo Twoja odpowiedź to spekulacje, poinformuj mnie.
5. Uzupełnij ustawienia na stałe:
Jeśli to Twoje stałe wymagania, możesz je wpisać w „How would you like ChatGPT to respond?”. Jak to zrobić? O tym informowałam w mojej rolce! 📹😉
Jestem Magda, ta z narudo.pl – entuzjastka technologii, project manager i analityk
IT. Wspieram przedsiębiorców i twórców internetowych w skutecznym wykorzystywaniu narzędzi online i sztucznej inteligencji oraz organizacji i planowaniu. Wierzę w optymalizację pracy i efektywne zarządzanie, jestem gotowa podzielić się swoim doświadczeniem i wiedzą abyśmy mogli pracować mądrzej, nie ciężej.