챗 GPT에게 같은 질문을 할 때 '파라미터' 에 따라 다양한 답변 형태를 받을 수 있다. 다만 GPT 안에서는 이를 바꿀 수 있는 UI는 안보여서 직접 대화를 통해서 바꿀 수 있는데 한번 파라미터 조정에 대해서 알아보자
여기서 파라미터란 정말 알기 쉽게 GPT의 능력치를 조절하는 일이다. 예를 들어 A라는 파라미터가 있다고 치면 A파라미터를 조절하면 GPT A의 능력치를 바꾸고 바뀐 능력치를 가진 GPT의 대답을 듣는 것이다.
파라미터를 조절해서 우리가 원하는 답변을 좀 더 정확 및 예측 범위 이내로 얻을 수 있다거나, 창의적인 대답을 얻을 수 있다는 장점이 있다.
파라미터는 크게 3가지가 있다
- 다양성 강화 (diversity strength) : 자연어 처리 분야에서 사용되는 파라미터 중 하나로, 생성 모델이 생성하는 텍스트에서 다양한 단어와 구조가 등장할 확률을 결정하는 값입니다. 값이 높을수록 더 다양한 텍스트가 생성될 가능성이 높아지며, 반대로 값이 낮을수록 생성된 텍스트는 덜 다양하게 됩니다.
- TOP-P : 자연어 처리 모델에서 텍스트를 생성할 때 사용되는 다른 파라미터입니다. 이 값은 생성된 단어 중 가장 높은 확률을 가진 상위 P% 단어만을 고려하여 다음 단어를 생성하는 방식입니다. 예를 들어, TOP-P 값이 0.8이면, 상위 80%의 확률을 가진 단어만을 사용하여 다음 단어를 생성하게 됩니다.
- Temperature : 생성된 텍스트에서 단어의 다양성을 결정하는 또 다른 파라미터입니다. 값이 높을수록 더욱 창의적이고 다양한 문장이 생성되며, 값이 낮을수록 생성된 텍스트는 좀 더 일관성 있고 집중력이 높은 문장이 생성됩니다.
1. Diversity Strength
먼저 일반 질문을 해보자
그 다음 Diversity Strength 값 1.8로 조절해서 같은 질문을 해보자
2. Top-p
Top-p라고 하는 것은 쉽게 말해 gpt가 대답시에 여러가지 단어들이 후보들로 있을텐데 (ex 와이프,아내, 사랑하는 나의 피앙새등) 이 안에서도 다음 단어가 무엇인지에 대한 후보군이 있을 것이다. 그래서 top-p를 0.5라고 지정하면 상위 50%에 해당하는 단어들을 후보군으로 추리는 것이고, 0.1 0.0.01로 지정시에는 상위 10% 혹은 1%에 해당하는 후보군만 추려서 이야기한다고 보면된다.
이번엔 0.1로 조정해보자
숫자가 적어질 수록 좀 더 다양한 단어가 아닌 정확한 단어로 대답함을 할 수 있다.
3. Temperature
0~1까지 있으며 top-p와 기능이 비슷하다고 볼 수있다. 1에 가까울 수록 굉장히 많은 단어를 선택 할 수 있는데, 단어 후보군 각각의 순위가 매겨져 있을텐데 발생할 수 있는 확률을 점점 더 비슷하게 가져가겠다가 Temperature를 높게 가져가겠다 등이 되겠다. 한마디로 1에 가까울 수록 여러가지 단어를 활용해 창의성이 높은 대답이 나오고 0에 가까울 수록 좀 더 정확한 대답을 하도록 유도할 수 있다. 한마디로 1에 가까울수록 감성적, 창의적, 0에 가까울수록 이성적이라고 보면 된다.
이번엔 0.1로 설정해보자
.
파라미터를 활용해 좀 더 내가 원하는 대답을 얻어보도록 하자
댓글