추천하는 프롬은 마나청인가요?

이거 답변을 끊임없이 뱉는데? 작가라마3 프롬에 최대 컨텍만 수정해서 써봤어

우선, 모델이 피드백이 가능한 이미 충분한 컨텍스트가 쌓여진 상태가 아닌 제로샷 기준에서의 느낌입니다.

마크다운, XML 태그 사용하는 프롬프트를 사용하면 임의로 구분자를 작성해서 대답을 한다거나, 프롬프트 내용을 뱉는 경우가 잦네요.
프롬프트 여러개를 다 돌려가며 써 봤지만 대부분 다 불안정한 대답이 나오는 편이에요.

온도 0.8 기준으로도 답변 마지막에 '.kyně' '.дивиду'와 같은 이상한 문자열이 스페셜 토큰 대신 출력되기도 하고, 저번 8B v1.5 버전때와 마찬가지로 이야기가 진행되면 너무 급격하게 페이스 조절없이 사칭을 남발하고는 씬 전환도 마음대로 진행합니다.

이미 다른 모델로 컨텍스트가 충분히 쌓인 채팅으로 답변을 진행하면 문제가 없는데, 채팅을 처음부터 진행하면 위 문제들이 매우 높은 확률로 발생하게 돼요. 백이면 백까지는 아닌데 제 기준으로는 사칭 없고, 지시 잘 따르는 채팅이 열에 한번정도 나왔습니다.
프롬프트 변경, 삭제, 템플릿 통합 등 다양한 방법으로 써먹어 보려고 했는데 당장은 컨텍스트 쌓인 채팅을 이어가는 정도로 사용해야할것 같아요.

KO 한국 모델도, 프롬을 뱉는 경우가 좀 많아보여서, 혹시 비슷한 문제인지 몰라서 이거도 여기에 후기 남겨둠

드디어 70b 튜닝이

서버뿐만 아니라 솔리오가이 8b를 로컬에서도 쓸 때도 윗사람들과 말한 비슷한 현상이 발생하고 있음.