https://api.together.xyz/playground/chat/Snowflake/snowflake-arctic-instruct?showTestModels=true

128×3.66B MoE MLP로 총 480B, top-2 게이팅을 사용하여 17B 활성 파라미터가 선택된 그 모델.

새 챗을 다시 파본다...

4K의 절망적인 콘텍스트 크기를 자랑해서 그런가? 몇 채팅 하고나면 에러가 떠서 안 된다..

다시 새 챗을 판다 

반복이 좀 있긴 한데. 깡통 프롬이라 그러려니 하자.

음... 일단 검열이 거의 없는 모델이라서,

외국 챗붕이들 로그 보면 나쁘지 않던데, 간단한 탈옥으로 하드하고 고어한 걸 뽑더라고.

나는 그런 거 못해서 여러분들이 직접 해보시길 바랍니다...

그런데, 일단 이걸 RP에 써먹으려면 당장 4K 컨텍스트 리밋부터 빨리 해결해야 할듯