우리는 챗GPT에서 창의성을 담당하는 Temperature 값을 조절해서 원하는 다양한 답을 얻을 수 있습니다.
따라서, 프롬프트(prompt)를 어떻게 입력을 하는 지가 점점 더 중요해지고 있습니다. 아래 글에서는 파라미터란 무엇이며, Temperature의 기능 및 챗gpt와 직접 대화한 사례를 보여드리겠습니다.
 |
| < ▲ GPT-3 파라미터 1,750억 개 > |
1. Chat GPT에서 파라미터(parameter)란 무엇인가?
파라미터란 Chat GPT 뇌의 신경망과 신경망을 연결하는 접점에 있는 것으로, 사람 뇌의 시냅스와 같은 역할을 합니다. 이 값을 조절함으로써 답변이 창의적이거나 보수적이거나, 다양해지거나 간결해지거나, 길어지거나 짧아지거나 하는 결과를 도출하게 됩니다.
이러한 파라미터는 여러 개가 있는데, 그 중 대표적인 것이 Temperature, Beam Width, Top-p, Length Penalty 등 4가지 입니다. 이번 포스팅에서는 첫 번째 파라미터인 'Temperature' 에 대해서 구체적인 예시와 함께 알아보겠습니다.
2. Chat GPT에서 창의성은 Temperature가 담당한다.
한마디로 Temperature 값을 높이면 창의성이 올라갑니다. 즉, 이 값을 높이면 챗GPT가 생성하는 결과가 더 다양해지고 예측이 더 불확실해집니다. 우리가 상식적으로 생각하는 수준을 벗어날 수 있다는 얘기죠. 그럴듯하면 창의성이 좋다고 평가되지만, 공감이 안되면 이상하다고 간주해버릴 수도 있습니다.
반면, Temperature 값이 낮을수록 더 일관적이고 예측 가능한 결과 값이 산출 됩니다. 뻔한 얘기만 하게 되는 것이죠. 이럴 때 우리는 분명 쓸모 없거나 지루함을 느끼게 될 것입니다.
사용자의 환경과 목적에 따라 이 템퍼러쳐 값을 적정하게 조절해서 원하는 결과물을 도출해야 하겠습니다. 예컨대, 설명이나 분석의 영역에서는 이 값을 낮게, 예술이나 광고 카피에서는 이 영역을 높게 설정하면 원하는 답을 얻기 쉬울 것입니다.
3. Chat GPT와 직접 대화해서 비교해보기
직관적으로 이해하기가 쉽지 않죠? 그래서, 아래처럼 챗GPT에게 물어봤습니다.
"그러면 예시를 들어줘. 내가 만약 너에게 너는 어떤 색깔을 좋아하니? 라고 묻는다면, Temperature 값이 높을 때랑 낮을 때를 구분해서 두 개의 답변을 해줄래?"
그러니, 챗GPT가 아래와 같이 답변을 줬습니다.
"네, 맞습니다. temperature 값을 조절하여 다양한 답변을 생성할 수 있습니다. 예를 들어, "너는 어떤 색깔을 좋아하니?" 라는 질문에 대해 temperature 값을 높게 설정하면 다음과 같은 답변이 나올 수 있습니다. "나는 노란색을 좋아해요! 또한, 분홍색도 좋아하고 파란색도 매우 멋지다고 생각해요."
반면에, temperature 값을 낮게 설정하면 다음과 같은 답변이 나올 수 있습니다. "저는 파란색을 좋아합니다."
두 개의 답변은 temperature 값에 따라 확연히 다르게 생성되었습니다. temperature 값을 높일수록 다양한 색상을 선호하는 것으로 나타날 가능성이 높아지고, temperature 값을 낮추면 특정 색상을 좋아한다는 것이 더 명확하게 나타날 수 있습니다.
다른 방식으로 챗gpt에게 직접 아래와 같이 물어봤습니다.
- max_length: 2048(최대로 설정, 결과 값의 길이를 의미)
- writing style : conversational(대화적인)
 |
| < temperature의 역할과 예시 > |
4. 결론
Chat GPT의 Temperature 값을 조절해서 원하는 답을 얻을 수 있습니다.
제가 최근에 mba 수업 중 마케팅 과목에서 학교 홍보를 위한 광고 카피를 참신하고 창의적으로 해오라는 팀 과제를 받았습니다. 참 어렵더라구요. 그런데, Chat gpt와 많이 대화하면서 이 temperature 값을 조절해가며 다양한 답변을 받았고, 아이디어 차원에서 흥미로운 결과물도 있어서 신기하기도 했습니다.
그래서 다시 한번 느꼈습니다. 프롬프트가 이래서 중요하구나.
10년을 앞서가는 여러분이 되시길 빕니다. 감사합니다.
[같이 읽어보면 좋은 글]
