아 그렇군요 ^^ 답변 감사합니다. instruct모델이 컨텍스트가 충분하면 이것만 학습해되 된다는거죠?

지금 테스트 해보고있는데 마나청 위자드도 많이 괜찮네요

제가 내린 결론이랑은 반대네요.
분명 8b보다 좋은건 맞음, 비교도 안되게 좋음
하지만 8b의 10배 이상의 비용을 치루며 서빙 할 가치가 있을까? 유저의 수요가 있을까?

현 상태로는 절대 아니라고 봄. 성능 개선을 위해서 오푸스 데이터셋을 때려넣던지 해야하는데 비용, 라이센스 문제가 큼.

차라리 라마3 8b를 마개조해서 70b까지의 성능은 아니더라도 그 1/3 성능을 1/10 가격으로 서빙하는게 옳은 방향성이 아닐까 싶습니다.

8b 서빙으로 번 돈으로 70b를 튜닝 하거나 기타 커뮤니티 기여를 할 수 있을 것 같구요.

소넷과 위자드 중간쯤에 위치하게 되는 가격인데 수요가 없진 않을꺼라고 생각하지만 말씀하신 부분까지 고려한다면 그럴 수 있겠네요. 덕분에 맛있게 잘먹었음미다 감사함미다.