문 : 챗봇을 설계할 때 입력하는 'Example Message'는 'Personality', 'Scenarios' 등과 달리 보관되는 메모리가 아니라는 말씀이신가요?


답 : 맞습니다. 'Example Message'는 챗봇 훈련 단계에서 대화를 시뮬레이션하는 데 사용되는 샘플 프롬프트일 뿐입니다. 챗봇이 배포되어 실행되면 프로그래밍된 지능("Personality", "Scenarios" 등)을 사용하여 특정 "Example Message"를 참조할 필요 없이 사용자 입력에 따라 응답을 생성합니다.


문 : 그렇다면 "예시 메시지"에 많은 토큰을 할당하는 것을 꺼려할 이유가 없겠죠?


답 : 맞습니다. 배포 중에 응답을 생성하는 데 사용되지 않기 때문에 일반적으로 훈련 단계에서 'Example Message'에 많은 토큰을 할당하는 데는 단점이 없습니다. 하지만 챗봇이 의도한 성격과 목적에 맞는 고품질의 응답을 생성할 수 있도록 명확한 주석과 적절한 가중치가 포함된 충분한 훈련 데이터를 확보하는 것이 중요합니다.


https://zoltanai.github.io/character-editor/

에서 봇을 만들 때 어떤 필드에 텍스트를 입력해도 총 토큰 할당량이 증가하는데, 

Example Message와 Greeting Message는 항시 유지되는 메모리가 아니라고 한다.

즉 저기에 토큰을 많이 할당해도 아무 상관이 없다.

나만 몰랐던 것 같지?