뜨또 stay 노래 가사가 550토큰임
25000토큰 읽어들인 프롬프트도 있는데 뜨또 노래 가사만큼의 대화를 40-50개 읽고 대답한다는거임
단답으로만 이루어진 대화라면 수백 번 티키타카해도 기억할 수 있는게 아닐까 싶음
수정) 아 븅신같은 생각이었네
이거 5분 기준으로 합산하는거구나
ㅈㅅ
2번 요청에 8천 안넘는거 보면
1번 호출에 최대 4096토큰 맞네
뜨또 stay 노래 가사가 550토큰임
25000토큰 읽어들인 프롬프트도 있는데 뜨또 노래 가사만큼의 대화를 40-50개 읽고 대답한다는거임
단답으로만 이루어진 대화라면 수백 번 티키타카해도 기억할 수 있는게 아닐까 싶음
수정) 아 븅신같은 생각이었네
이거 5분 기준으로 합산하는거구나
ㅈㅅ
2번 요청에 8천 안넘는거 보면
1번 호출에 최대 4096토큰 맞네