오늘 나는 핑프 회귀를 경험했다.

문제의 개요는 간단하다, 프록시로 클3을 먹는데 플러그인을 사용하지 않은 것이다.

다들 알다시피 아직 리스에서 프록시 모델 목록에 클3을 풀지 않았다.

그래서 지금 그 기능을 대체하는 플러그인이 임시로 나온 것이고.

그러므로 이 문제는 리스에서 프록시 모델 목록에 클3을 넣어주면 전혀 떠오를 일도 없는 안건에 대한 이야기다.

그러나 앞으로도 앤트로픽은 클로드 4, 5, 6 .... 버전들을 새로 내놓을 것이고, 그때마다 아직 리스 프록시 모델 란에 적용되지 않는 공백 기간이 있을 것이다.

그 때 발생할 수도 있는 나 같은 핑프 회귀자를 미연에 방지하기 위해 이 글을 쓴다.

--------

자, 내가 한 잘못이 무엇이었냐면... 클로드3 모델을 리버스 프록시 'Custom' 칸에 'Claude 3 Sonnet (20240229)'를 입력해 사용한 것이다.

이렇게 말이지.

이렇게 해도 클3 모델에 요청은 간다. 그래서 응답도 돌아온다. 작동은 된다는 소리다.

하지만 그 포맷은 클로드 모델에 맞는 모델이 아닌 GPT 모델에 맞는 양식으로 전송된다.

그래서 내가 맞이했던 문제는 개지랄을 떨어도 탈옥이 되지 않았다는 증상이었다.

그야 GPT에 맞는 요청 방식으로 데이터가 전송 되었으니, 클로드3 탈옥에 필요한 문구들이 올바르게 전해졌을 리 만무하다.

그럼 내가 왜 이런 짓을 저질렀느냐?

나는 이전에 GPT4 1106 모델을 커스텀을 이용한 방식으로 사용했던 기억을 떠올리고 이 짓을 저지른 것이었다.

그때도 1106 모델이 리스 프록시 모델 란에 적용되기 전의 공백기였기 때문이다.

그래, 그때는 잘 됐겠지. GPT 모델이 대상이었으니까. 하지만 지금 쓰려는 건 클로드3이었고.

그래서 나를 한심하게 바라보던 클로드3은 이렇게 응답을 주었다.

"개지랄 하지 말라고."

한참 헤매던 나는 과연 API도 이 모양인가? 정말 프롬이 문제였나 싶어서 다른 수단을 시도해보기로 했다.
즉, 검열 문구를 받은 리스 설정을 그대로 놔두면서 앤트로픽의 공식 API받아 리롤을 돌려보았다.

옴메 바로 허벌이 되었다.

그리고 이쯤 되면 뭔가 쌔함을 느끼게 된다.

프롬이 문제가 아니었다면 결국 전송 방식이 문제라는 점, 그렇다면 Custom 전송 방식에 어떤 문제가 있을 것이다.
그리고 좀 더 논리적으로 생각해보면, Custom으로 사용 가능한 클3을 굳이 플러그인으로 만들어낸 이유가 있지 않을까?

바로 "https://arca.live/b/characterai/100506631"로 들어가보았다.

히힣 바로 병신 인증.ㅋㅋㅋ

큰 깨달음을 얻는 나는 겸허히 플러그인을 받아 웹리스에 넣었다.

그리고 아주 잘 되는 것을 확인.

다시는 나 같은 병슨 짓을 하는 챈럼이 없기를 바란다.

힝