글

라벨이 temperature인 게시물 표시

유용한 정보 사이트 및 무료어플 모음(feat. AI, 종합소득세, 부가세, 자영업, 제주렌트카, 요가)

이번 포스팅은 직장인, 학생, 자영업자 분들에게 특히 도움 이 많이 될 것입니다.  저 또한 직장인이며, 무인 컨셉의 사업을 하는 자영업자이기도 합니다. 그렇기에 제가 직접 사용하고 경험한 것만 적어 놓았습니다. 필요한 노하우도 같이 적었으니, 이용하실 때 참고하시기 바랍니다. 향후 지속적으로 사이트를 추가할 계획입니다. '즐겨 찾기' 해 놓으시고, 필요한 프로그램을 무료로 이용하시기 바랍니다.

Chat GPT 작동원리 2탄, 파라미터(parameter) 중 Beam Width는 결과물 수를 제어한다!

이미지
저번에는 Chat GPT의 결과물을 제어하는 파라미터 중 창의성과 관련이 있는 temperature의 역할에 대해서 알아봤는데요. 이번에는 챗GPT가 생성하는 결과물의 수를 제어하는 역할을 하는 Beam Width에 대해 알아보겠습니다. 1. Chat GPT에서 Beam Width의 역할 : 결과물의 수  Beam Width는 생성형 AI 모델에서 다음에 올 단어나 문장을 예측할 때 고려하는 후보의 수를 제한하는 파라미터입니다. 즉 Beam Width가 높을수록 더 많은 후보를 고려하며, 예측이 더욱 다양해집니다. 하지만 이는 모델이 계산하는 비용이 증가할 수 있고, 모델이 예측한 문장이 불필요하거나 모순되는 경우가 발생할 수도 있습니다. 반면, Beam Width가 낮을수록 예측이 더 일관성 있고 확실해집니다. 일반적으로 Beam Width는 적절한 값을 찾기 위해 실험과 조정을 거쳐 사전에 결정됩니다. 2. Chat GPT와 직접 대화해서 비교해보기 제가 직접 Chat GPT에게 다음과 같이 물어봤습니다. "Beam Width 값을 최대치로 올렸다고 가정해서 답변을 할 경우와, 최소치로 내렸다고 가정해서 답변을 했을 때 그 차이점을 구체적인 예시로 보여줄 수 있어?" 여기에 Chat GPT는 아래와 같이 대답했습니다. "예를 들어, 이번 주말에 뭐 할까? 라는 질문에 대한 답변으로 Beam Width 값을 높게 설정한 경우에는 영화 보기, 쇼핑, 카페에서 커피 마시기, 공원에서 산책하기, 레스토랑에서 식사하기 등 다양한 답변이 나오지만, Beam Width 값을 낮게 설정한 경우에는 영화 보기 하나만 답변으로 나올 것입니다." 또 한 가지 의문이 생겨서 다음과 같이 질문을 해봤습니다. "너의 파라미터 값 중에서 beam width 값을 내리거나 올리거나 하는 행위를 네가 스스로 조정할 수 있어?" 여기에 Chat GPT는 이렇게 대답을 했습니다. "저는 GPT-3.5 모델을 기반으로 한 대규모 ...

Chat GPT 작동원리 1탄, 파라미터(parameter)란? 창의성은 Temperature가 담당한다!

이미지
우리는 챗GPT에서 창의성을 담당하는 Temperature 값을 조절해서 원하는 다양한 답을 얻을 수 있습니다.  따라서, 프롬프트(prompt)를 어떻게 입력을 하는 지가 점점 더 중요해지고 있습니다. 아래 글에서는 파라미터란 무엇이며, Temperature의 기능 및 챗gpt와 직접 대화한 사례를 보여드리겠습니다.  < ▲ GPT-3 파라미터 1,750억 개 > 1. Chat GPT에서 파라미터(parameter)란 무엇인가? 파라미터란 Chat GPT 뇌의 신경망과 신경망을 연결하는 접점에 있는 것으로, 사람 뇌의 시냅스와 같은 역할 을 합니다. 이 값을 조절함으로써 답변이 창의적이거나 보수적이거나, 다양해지거나 간결해지거나, 길어지거나 짧아지거나 하는 결과를 도출하게 됩니다. 이러한 파라미터는 여러 개가 있는데, 그 중 대표적인 것이 Temperature, Beam Width, Top-p, Length Penalty 등 4가지 입니다. 이번 포스팅에서는 첫 번째 파라미터인 'Temperature' 에 대해서 구체적인 예시와 함께 알아보겠습니다. 2. Chat GPT에서 창의성은 Temperature가 담당한다. 한마디로 Temperature 값을 높이면 창의성이 올라갑니다. 즉, 이 값을 높이면 챗GPT가 생성하는 결과가 더 다양해지고 예측이 더 불확실해집니다. 우리가 상식적으로 생각하는 수준을 벗어날 수 있다는 얘기죠. 그럴듯하면 창의성이 좋다고 평가되지만, 공감이 안되면 이상하다고 간주해버릴 수도 있습니다.  반면, Temperature 값이 낮을수록 더 일관적이고 예측 가능한 결과 값이 산출 됩니다 . 뻔한 얘기만 하게 되는 것이죠. 이럴 때 우리는 분명 쓸모 없거나 지루함을 느끼게 될 것입니다. 사용자의 환경과 목적에 따라 이 템퍼러쳐 값을 적정하게 조절해서 원하는 결과물을 도출 해야 하겠습니다. 예컨대, 설명이나 분석의 영역에서는 이 값을 낮게, 예술이나 광고 카피에서는 이 영역을 높게 설정하면 원하는 ...