[ChatGPT] 답변에 거짓정보(할루시네이션) 방지를 위한 꿀팁 프롬프트

 

안녕하세요. 그라페로입니다. 

 

요즘 ChatGPT 많이 쓰고 계시죠? 

 

요즘 ChatGPT 를 쓰면서 모르는 것을 물어도 보고,  제게 친절하게 답변도 주는

좋은 친구가 생긴것과 같은 기분을 느끼고 있습니다. 

 

그럼에도 불구하고,

4o 버전 이전에는 거짓정보를 지어내서 말하는

소위 '할루시네이션'이 종종 발생했었는데요

 

최근 버전에서는 

할루시네이션이 아주 많이 없어지는 등 개선이 되었습니다.

 

그래도 

100%는 없기때문에 

프롬프트를 활용해서 '할루시네이션'을 최대한 줄일 수 있는

방법을 공유해드리겠습니다.

---

 

 

# 주요 방법

---

 

다음의 4가지 방법을 기억하시면 도움이 될 것이라 생각합니다.

 

 

1. 정보를 최대한 풍부하게 제공한다. 

2. 지시문을 통해 제시한 정보를 기반으로 답변하도록 유도한다.

3. 도출과정을 대해 세부적으로 제시한다. 

4. 출력형식에서 다시한번 강조한다.

 

 

자, 이제부터 조금 더 세부적으로 설명드리게습니다.

---

 

1. 정보를 최대한 풍부하게 제공한다. 

 

ChatGPT 파일첨부 기능 또는 복사 붙이기(Ctrl+c & +v) 기능을 적극적으로 

활용하여 정보를 일단 최대하게 풍부하게 제공한 상태에서 물어보면 

최대한 그 정보를 적극적으로 활용하여 답하기 때문에 

할루시네이션 방지에 큰 도움이 됩니다. 

 

2. 지시문을 통해 제시한 정보를 기반으로 답변 유도한다.

 

프롬프트에 "000에 대한 정보를 기반으로해서 10줄정도의 글을 써줘"라고 하는 등

주어진 정보를 바탕으로 정확한 답변을 이끌어 내도록 한다면 

할루시네이션이 일어나기 어렵다고 볼 수 있습니다. 

3. 도출과정을 세부적으로 제시합니다.

 

제약조건으로 다음과 같은 문구를 포함합니다. 

 

#도출과정
1. 질문에 대한 내용이 주어진 정보에 있는지 확인한다.
2. 정보안에 내용이 있으면 참고해서 답한다.
3. 정보안에 내용이 없으면 '모른다'고 답하거나 출력하지 않는다.

 

4. 출력 형식에서 다시 한 번 강조합니다.

 

출력형식을 다음과 같이 제시합니다.

#출력형식
[주어진 정보에 한해서만 출력하고, 없을 경우 출력하지 않는다]

 

---

 

이렇게 4단계를 거치면,

할루시네이션이 상당히 없어지지 않을까 싶습니다. 

위의 방식을 응용하여 여러분이 프롬프트 작성시에 적극 활용하시면 

도움이 되지 않을까 생각합니다.

 

 

위의 4가지 버전을 종합하여,

 

프롬프트 예시를 소개해 드리고 마무리하겠습니다.

감사합니다.

---

 

프롬프트 예시 

 

#정보
"아들 키울때 꼭 알아야할 12가지"에 대한 pdf 파일 업로드 또는 관련글 복사붙이기 

# 지시문
첨부한(붙여넣은) 정보를 기반으로 해서 아들 키울때 알아야하는 팁 작성해줄래?

# 도출과정
1. 질문에 대한 내용이 주어진 정보에 있는지 확인한다.
2. 정보안에 내용이 있으면 참고해서 답한다.
3. 정보안에 내용이 없으면 '모른다'고 답하거나 출력하지 않는다.

# 출력형식
[주어진 정보에 한해서만 출력하고, 없을 경우 출력하지 않는다]