하느라이 원리는 일단 모든채팅을 document 데이터베이스에 넣고


가장 밑(최근)에서부터 채팅 3개를 기준으로 고르고

그 3개랑 전체 채팅을 비교해서 유사도가 높은 채팅을 프롬프트로 보내는 식임


채팅이 복사되는 이유는 기준으로 사용하는 채팅 3개도 document 데이터베이스에 들어가기 때문

기준으로 사용하는 최근 채팅이 데이터베이스에 똑같이 들어가 있으니까 최근 채팅들은 당연히 유사도가 높을 수 밖에 없고,

이 최근 채팅이 그대로 하느라이가 뽑은 프롬프트에 들어감


그럼 이 최근 채팅들은 리스 자체적으로 보내는 채팅 기록+하느라이 프롬

2번 중복되어 버리니까 llm이 중요한 문장이라 생각하고 그대로 뱉을 확률이 올라간단 게 내 생각임

이건 버그라고 생각해서 리스에 제안 넣어둔 상태라 고쳐질 것임 아?마


여기서 내가 추가로 제안하는 방식은 기억 한계선으로 짤려서 채팅 내역에 없는 것들만 나오도록 document로 넣는 건데

다른 사람들이 어떻게 생각하나 몰?루겠음

채팅 기록에는 있지만 너무 오래전이라 우선순위가 낮은 걸 하느라이가 찾아서 중복으로 보내는 것도 의미가 있지 않을까? 싶고

이 제안에 대한 의견 있으면 댓글 바라는 거에요