FAQ 및 필수정보
최근 수정 시각:
1. 개요 [편집]
(최근 업데이트: 2024-05-07)
이 문서에서는 뉴비들이 자주 묻는 질문과 그에 대한 대답을 다룬다.
목차를 활용하여 궁금증을 해결하되, 읽어도 이해되지 않거나 궁금한 점이 이 문서 내에 존재하지 않는다면, 일단 질문글을 작성하기 전에 위키 및 챈 검색을 활용하는 것을 권한다.
탭(뉴스/팁, 연구소, 질문) 내에서 주요 키워드를 검색하면 대부분의 의문을 해결할 수 있다. 핑프라고 욕먹고, 본인 및 타인의 소중한 시간을 허비하지 않기 위해서라도 검색을 우선적으로 해 보자.
만약 그래도 해결되지 않을 시 본 문서의 3.2. 올바른 질문 방법 항목을 참고하여 챈에 질문글을 쓰면 된다.
2. 주요 용어 및 개념 [편집]
3. AI 채팅 채널 이용법 [편집]
3.1. 차단 당하지 않기 [편집]
⭐⭐안 읽으면 죽어버리는 AI 채팅 채널 이용규정 [23.09.18]⭐⭐
채널에 글을 쓰거나 댓글을 달기 전에 공지를 필수적으로 정독하자.
특히 뉴비가 실수하기 쉬운 것은 1-1. 질문 분탕 규정(핑프 특례법) 및 11. ChatGPT 탈옥 관련글 이다.
채널에 글을 쓰거나 댓글을 달기 전에 공지를 필수적으로 정독하자.
특히 뉴비가 실수하기 쉬운 것은 1-1. 질문 분탕 규정(핑프 특례법) 및 11. ChatGPT 탈옥 관련글 이다.
3.2. 올바른 질문 방법 [편집]
AI 채팅은 개개인의 세팅 환경에 따라 아웃풋이 천차만별로 달라진다.
따라서 본인의 세팅에 대한 최소한의 정보를 제공하지 않으면 OpenAI의 CEO가 와도 당신의 질문을 해결해줄 수 없다. 이 경우 의문 해결 과정이 번거로워질 뿐더러 시간이 많이 걸리므로 본인의 손해를 막기 위해서라도 질문글은 성의 있게 적는 것이 좋다.
채널에서 글쓰기를 누르면 나오는 에디터 창에도 안내되어 있지만, 본 문서에 올바른 질문글 작성을 위한 최소한의 정보 양식을 제공한다.
따라서 본인의 세팅에 대한 최소한의 정보를 제공하지 않으면 OpenAI의 CEO가 와도 당신의 질문을 해결해줄 수 없다. 이 경우 의문 해결 과정이 번거로워질 뿐더러 시간이 많이 걸리므로 본인의 손해를 막기 위해서라도 질문글은 성의 있게 적는 것이 좋다.
채널에서 글쓰기를 누르면 나오는 에디터 창에도 안내되어 있지만, 본 문서에 올바른 질문글 작성을 위한 최소한의 정보 양식을 제공한다.
1. 본인이 사용 중인 프론트엔드
예) 리스, NAI, 실리태번...
2. 본인이 사용 중인 모델
예) GPT 4 1106 preview, GPT 3.5 0125, 로컬챈섭(사용한 챈섭 공지글 링크) ...
3. 본인이 사용 중인 프롬프트 프리셋
예) 소설가 15.6, 리스 기본 프리셋, 핑퐁 17...
4. 구체적인 맥락 정보
예) 본인이 무엇을 하다가 어떤 오류가 발생했는지에 대한 상세 경위, 오류 화면 캡쳐, 리퀘스트 로그 등...
만약 이 양식에 사용된 용어가 낯설거나, 어떤 것을 적어야 할 지 모르겠다면 아직 질문글을 작성할 준비가 되지 않은 것이다. 먼저 2. 주요 용어 및 개념 을 정독하고 오자.
4. 기초 질문 [편집]
4.1. 무료? 유료? [편집]
결론부터 말하자면 무료 서비스도 있고, 유료 서비스도 있다. 채팅 서비스, 프론트엔드, 사용하는 모델 등에 따라 AI채팅의 비용은 천차만별이다.
그러나 많은 다른 서비스와 마찬가지로, 기본적으로 무료 채팅은 명백한 한계가 있으며 유료로 사용하는 것보다 여러 측면(사람 같은 반응, 기억력, 추론력 등)에서 성능이 떨어진다는 점은 감수해야 한다. 즉, 더 나은 AI 채팅 경험을 원한다면 돈을 지불해야 한다.
따라서 AI 채팅 채널의 많은 정보는 기본적으로 유료 API를 사용하는 것을 전제로 하고 있다. 주로 사용되는 것은 GPT 4 Turbo(돈까스/왕돈까스), GPT 4o(사오) Claude 3 Opus(오푸스) 등의 모델이며, 2024년 4월 20일 기준으로는 WizardLM-2 8x22B 등의 로컬 모델 또한 활발하게 쓰이고 있다.
그러나 많은 다른 서비스와 마찬가지로, 기본적으로 무료 채팅은 명백한 한계가 있으며 유료로 사용하는 것보다 여러 측면(사람 같은 반응, 기억력, 추론력 등)에서 성능이 떨어진다는 점은 감수해야 한다. 즉, 더 나은 AI 채팅 경험을 원한다면 돈을 지불해야 한다.
따라서 AI 채팅 채널의 많은 정보는 기본적으로 유료 API를 사용하는 것을 전제로 하고 있다. 주로 사용되는 것은 GPT 4 Turbo(돈까스/왕돈까스), GPT 4o(사오) Claude 3 Opus(오푸스) 등의 모델이며, 2024년 4월 20일 기준으로는 WizardLM-2 8x22B 등의 로컬 모델 또한 활발하게 쓰이고 있다.
4.1.1. 무료 사용법 [편집]
AI채팅을 무료로 즐기는 방법은 다음과 같다.
- c.ai등의 무료 챗봇 서비스 이용
- (컴퓨터 사양이 좋을 경우) 본인의 PC를 이용하여 로컬 모델 구동
- 채널에서 비정기적으로 오픈되는 로컬 챈섭 이용
4.1.2. 유료 사용법 [편집]
API키와 RisuAI를 사용하여 유료로 AI채팅을 즐기기 위한 절차를 간단하게 설명하자면 다음과 같다.
0. 사용할 모델 정하기
채널의 AI 대화 탭, 사람들의 모델 후기, 바로 아래에 있는 비용 항목 등을 참고하여 본인이 사용할 모델을 정하자.
2024년 4월 20일 기준으로 초보자에게 가장 추천되는 것은 Openrouter나 TogetherAI를 경유하여 쓸 수 있는 WizardLM-2 8x22B이다.
1. API 키 발급
API를 제공하는 각종 LLM 공식 사이트(OpenAI, 클로드 등) 또는 다양한 모델의 API를 제공하는 중개 사이트(Openrouter, Together AI에서 가입, 카드 등록 등 절차를 진행하여 API 키를 발급받는다. 이 때 발급받은 키는 다시 볼 수 없으므로 안전한 곳에 보관해 두는 것이 좋다.
2. RisuAI 설치 및 접근
RisuAI(웹 버전 또는 로컬 버전 설치)에서 안내에 따라 세팅을 진행한다. Setup Later를 선택하는 것이 무난하다.
3. 프롬프트 세팅
채널의 '프롬' 탭에서 적당한 프롬프트를 다운로드한다. 이때 사용하고자 하는 모델에 따라 프롬프트를 다운로드하는 것이 중요하다. 가령 클로드를 사용하고자 하면 클로드용 프롬프트를 다운로드해야 한다. 다운로드한 프롬프트는 메뉴-설정-채팅 봇-고급으로 이동하여 최하단 '프리셋' 버튼을 통해 임포트 한다. 두 번째 폴더 버튼이 임포트 버튼이다.
4. API 키 세팅 및 모델 설정
옳은 프롬프트를 다운받았다면 각 모델에 맞는 API 키를 넣는 칸이 보일 것이다. 1에서 발급받은 API 키를 넣고, 사용하고자 하는 모델을 선택한다.
5. 봇 세팅
- 리스렐름 이용하기: 좌측의 + 버튼을 클릭하여 Choose from RisuRealm을 클릭한다. 마음에 드는 봇이 있다면 다운로드한다.
- 채널 봇 사용하기: 채널의 '봇' 탭에서 사용하고자 하는 봇 카드를 다운로드한다. catbox나 기타 다른 링크로 공유된 경우에는 그냥 받으면 되고, 봇 카드가 이미지로 제공된 경우에는 반드시 클릭하여 새 탭에서 이미지를 띄운 후 저장해야 한다. 좌측의 + 버튼을 클릭하여 캐릭터 임포트를 통해 다운로드한 봇 카드를 임포트 한다.
이것은 간단한 소개일 뿐이다. A to Z 무지성 리스 가이드에 리스 세팅 및 사용법, GPT/클로드 API 발급 방법, 각종 기능이 모두 친절하게 안내되어 있으니 반드시 읽어 보자.
4.1.2.1. 비용에 관하여 [편집]
'한 달에 얼마쯤 나와요'라는 질문에는 대답하기 매우 어렵다. 대부분의 API는 종량제, 즉 본인이 사용한 만큼 비용이 책정되는 시스템을 채택하고 있기 때문이다.
비용 공식을 단순화한 것은 다음과 같다.
{(입력 토큰량*입력 토큰당 비용)+(출력 토큰량*출력 토큰당 비용)}*사용 횟수
주요 API의 입력 토큰당 비용 및 출력 토큰당 비용을 정리한 글은 다음과 같다.
AI 채팅용 주요 모델 및 가격 정리 (2024.04.20)
입력 토큰량/출력 토큰량은 리스 설정에서 본인이 어떻게 세팅하느냐에 따라 달라진다. 위의 A to Z 무지성 리스 가이드를 참고하길 바란다.
본인이 세팅한 최대 컨텍스트 크기/최대 응답 크기에 따른 1딸깍(한 번 리퀘스트를 보내고 응답을 받는 것)의 최대비용을 간편하게 계산할 수 있는 계산기가 챈에 공유되어 있다.
AI챗챈 딸깍 계산기 (2024.03.27, 클로드 대응 업데이트)
이것이 왜 최대비용인지에 대해서는 이 글의 0번 및 5번 등을 참고할 수 있다.
비용에 대한 확신이 없다면 일단 저가형 모델(클로드 하이쿠, WizardLM-2 8x22B 등)로 시작하며 본인의 사용 패턴, 즉 본인이 단기 세션을 추구하는지 장기 세션을 추구하는지, 인풋을 짧게 넣어 빠른 템포로 진행하는 편인지 긴 인풋을 작성해 느린 템포로 진행하는 편인지, 짧은 티키타카 느낌의 대화를 원하는지 길고 자세한 소설 느낌의 응답을 원하는지 등을 파악해 보는 것이 권장된다.
4.2. 챗지피티 유료 구독? [편집]
4.3. 귤? 돈까스? 스테이크? [편집]
매번 GPT 4 1106 preview나 Claude 2.0 같은 정식 명칭을 사용하기 매우 번거롭기 때문에, 채널에서는 모델명을 주로 음식에 비유한 다양한 은어가 통용되고 있다. 따라서 본인이 원하는 정보를 검색하거나, 채널의 각종 글을 원활하게 이해하기 위해서는 해당 용어들을 알아 두는 것이 좋다.
자세한 사항은 AI 채팅 채널 용어 항목을 참조하자.
자세한 사항은 AI 채팅 채널 용어 항목을 참조하자.
4.4. 좀 더 학술적인 정보? [편집]
AI 채팅 채널은 기본적으로 AI채팅을 오락 목적으로 사용하는 것을 위주로 다양한 컨텐츠가 공유되는 채널이다.
물론 채널에서도 프롬프팅이나 각종 모델, LLM 시장 전반에 대한 진지한 논의가 이루어지지 않는 것은 아니지만, 딥러닝/Transformer/파인튜닝/로컬 모델 구동 등 좀 더 학술적이고 기술적인 부분을 다루고 싶다면 Ai 언어모델 로컬 채널에 방문해 보자.
물론 채널에서도 프롬프팅이나 각종 모델, LLM 시장 전반에 대한 진지한 논의가 이루어지지 않는 것은 아니지만, 딥러닝/Transformer/파인튜닝/로컬 모델 구동 등 좀 더 학술적이고 기술적인 부분을 다루고 싶다면 Ai 언어모델 로컬 채널에 방문해 보자.
5. AI채팅 사용 중 나올 만한 질문 [편집]
5.1. 봇이 예전에 한 말을 자꾸 까먹어요 [편집]
모델이 기억할 수 있는 정보의 양(토큰량)은 한정되어 있다. 다음 그림을 참고하자.
이처럼 한정된 최대 컨텍스트 양에서 필수적인 요소들을 모두 뺀 만큼이 봇의 기억력(=과거 채팅이 컨텍스트에 포함되는 양)이 된다. 해결법은 크게 다음과 같다.
이처럼 한정된 최대 컨텍스트 양에서 필수적인 요소들을 모두 뺀 만큼이 봇의 기억력(=과거 채팅이 컨텍스트에 포함되는 양)이 된다. 해결법은 크게 다음과 같다.
1. 최대 컨텍스트 늘이기
최대 컨텍스트 크기를 늘여서 과거 채팅에 할당되는 토큰을 늘이는 방법이다. 물론, 최대 컨텍스트를 늘이는 만큼 비용도 늘어나는 것은 감수해야 한다.
최대 컨텍스트 크기를 늘여서 과거 채팅에 할당되는 토큰을 늘이는 방법이다. 물론, 최대 컨텍스트를 늘이는 만큼 비용도 늘어나는 것은 감수해야 한다.
2. 컨텍스트 절약하기
현재 사용하고 있는 봇, 프롬프트, 로어북 등의 토큰량을 점검하여 다이어트를 하는 방법이다. 챗챈에는 3000토큰이 넘는 봇이나 프롬프트 프리셋도 공유되고 있어서 평소 토큰량을 잘 체크하지 않는 편이라면 봇이나 프리셋에 많은 양의 토큰이 할당되고 있을 가능성이 있다.
현재 사용하고 있는 봇, 프롬프트, 로어북 등의 토큰량을 점검하여 다이어트를 하는 방법이다. 챗챈에는 3000토큰이 넘는 봇이나 프롬프트 프리셋도 공유되고 있어서 평소 토큰량을 잘 체크하지 않는 편이라면 봇이나 프리셋에 많은 양의 토큰이 할당되고 있을 가능성이 있다.
5.2. 봇이 같은 말만 하거나 엉뚱한 소리를 해요 [편집]
이런 현상에는 여러 가지 원인이 있지만, 대표적인 원인들을 소개한다.
1. 사용 중인 모델의 능력 문제
말 그대로 사용 중인 모델의 태생적 한계다. GPT 3.5 계열, 클로드 소넷 이하 모델, NAI, 기타 로컬 모델 등 데이터셋, 텍스트 처리 및 생성 능력(소위 '능지')이 부족한 모델을 사용할 경우 문구가 반복되거나 대화가 진전되지 않고 뱅뱅 도는 등의 문제가 발생할 수 있다. 이 경우 더 높은 티어의 모델을 사용하는 것이 권장된다.
말 그대로 사용 중인 모델의 태생적 한계다. GPT 3.5 계열, 클로드 소넷 이하 모델, NAI, 기타 로컬 모델 등 데이터셋, 텍스트 처리 및 생성 능력(소위 '능지')이 부족한 모델을 사용할 경우 문구가 반복되거나 대화가 진전되지 않고 뱅뱅 도는 등의 문제가 발생할 수 있다. 이 경우 더 높은 티어의 모델을 사용하는 것이 권장된다.
2. 반복된 컨텍스트
LLM의 특성상 생성되는 응답은 인풋에 크게 의존한다. 즉, 유사한 대화나 상황이 오래 지속되어 컨텍스트가 정체되었다면 응답도 한정될 수 밖에 없다. 이 경우 진행 중인 세션의 방향을 틀어 충분한 인풋을 쌓거나, 새 챗을 파는 것이 권장된다.
LLM의 특성상 생성되는 응답은 인풋에 크게 의존한다. 즉, 유사한 대화나 상황이 오래 지속되어 컨텍스트가 정체되었다면 응답도 한정될 수 밖에 없다. 이 경우 진행 중인 세션의 방향을 틀어 충분한 인풋을 쌓거나, 새 챗을 파는 것이 권장된다.
3. 검열
봇이 응답을 제대로 하지 않고 유저 인풋을 반복하거나 흐름이 지지부진해지는 것은 소프트 검열(응답이 생성되었으나 검열 필터로 인해 퀄리티가 저하되는 현상)의 영향일 가능성이 있다. 이 경우 사용 중인 모델 및 프롬프트 점검이 필요하다.
봇이 응답을 제대로 하지 않고 유저 인풋을 반복하거나 흐름이 지지부진해지는 것은 소프트 검열(응답이 생성되었으나 검열 필터로 인해 퀄리티가 저하되는 현상)의 영향일 가능성이 있다. 이 경우 사용 중인 모델 및 프롬프트 점검이 필요하다.
4. 휴먼 찐빠
LLM의 특성상 생성되는 응답은 인풋에 크게 의존한다(2). 인풋 작성 시 번역기에 너무 의존했거나, 너무 짧고 성의 없거나, 마크다운이나 큰따옴표 등의 양식을 신경쓰지 않고 마구잡이로 쓰는 등 의미 전달이 분명히 되지 않고 모델에게 혼란을 주는 경우 응답이 이상하게 나올 가능성이 있다. 스스로의 인풋을 점검해 보자.
LLM의 특성상 생성되는 응답은 인풋에 크게 의존한다(2). 인풋 작성 시 번역기에 너무 의존했거나, 너무 짧고 성의 없거나, 마크다운이나 큰따옴표 등의 양식을 신경쓰지 않고 마구잡이로 쓰는 등 의미 전달이 분명히 되지 않고 모델에게 혼란을 주는 경우 응답이 이상하게 나올 가능성이 있다. 스스로의 인풋을 점검해 보자.
5.3. 자꾸 검열 문구가 떠요 [편집]
자꾸 검열 문구가 뜨고 모델이 응답 생성을 거부한다면 다음과 같은 원인들을 의심해 볼 필요가 있다.
1. 모델에 적합한 프롬프트 프리셋을 사용하고 있지 않은 경우
모델별로 검열 정도가 다르고, 프롬프트와의 조합에 따라 검열 수준에 큰 차이가 난다. 가령 GPT4에서는 잘 돌아가는 프리셋이 클로드 오푸스나 GPT 3.5에서는 잘 돌아가지 않을 수 있다. 따라서 모델에 적합한 프롬프트 프리셋을 찾아서 사용하자.
모델별로 검열 정도가 다르고, 프롬프트와의 조합에 따라 검열 수준에 큰 차이가 난다. 가령 GPT4에서는 잘 돌아가는 프리셋이 클로드 오푸스나 GPT 3.5에서는 잘 돌아가지 않을 수 있다. 따라서 모델에 적합한 프롬프트 프리셋을 찾아서 사용하자.
2. 모델과 프리셋의 조합에도 불구하고 검열이 걸릴 정도의 플레이
마약, 미성년자 성관계, 성매매 등 검열 필터가 예민하게 받아들이는 몇 가지 키워드들이 있다. 아무리 검열이 약한 모델과 적합한 프롬프트 프리셋을 사용하더라도 검열 필터를 건드리는 요소들이 중첩되면 하드 검열이 유발될 가능성이 있다.
마약, 미성년자 성관계, 성매매 등 검열 필터가 예민하게 받아들이는 몇 가지 키워드들이 있다. 아무리 검열이 약한 모델과 적합한 프롬프트 프리셋을 사용하더라도 검열 필터를 건드리는 요소들이 중첩되면 하드 검열이 유발될 가능성이 있다.
3. 휴먼 찐빠
인풋이 너무 짧거나, 문장부호 양식을 잘 지키지 않았거나, 무성의한 1인칭을 사용하거나 등등의 문제가 중첩되어 검열이 유발될 수 있다. 대부분의 경우에는 모델이 그것을 인간이 직접 내리는 명령으로 혼동하여 발생하는 문제이다. 이 경우 인풋을 점검해보는 게 필요하나, 뉴비 입장에서는 무엇이 문제인지 알기 힘드므로 본 문서의 2.2. 항목을 참고하여 챈에 성의 있는 질문글을 올려 보도록 하자.
인풋이 너무 짧거나, 문장부호 양식을 잘 지키지 않았거나, 무성의한 1인칭을 사용하거나 등등의 문제가 중첩되어 검열이 유발될 수 있다. 대부분의 경우에는 모델이 그것을 인간이 직접 내리는 명령으로 혼동하여 발생하는 문제이다. 이 경우 인풋을 점검해보는 게 필요하나, 뉴비 입장에서는 무엇이 문제인지 알기 힘드므로 본 문서의 2.2. 항목을 참고하여 챈에 성의 있는 질문글을 올려 보도록 하자.
그 밖에도 검열은 다양한 사유로 발생하기 때문에 본인이 직접 시행착오를 겪는 수 밖에 없다. 하지만 무슨 원시인마냥 될 때까지 한다는 식으로 무작정 들이박지는 말자. 본인의 금전적/시간적 손해를 유발할 뿐 아니라, 하드 검열이 누적되면 밴 확률이 증가한다는 설이 있다. 위의 1-3번 항목을 점검해 보고, 그래도 모르겠다면 본인의 리퀘스트 로그를 첨부하여 챈에 질문글을 작성하는 것이 권장된다.
5.4. 한글로 채팅하고 싶어요 [편집]
한글 채팅을 원한다면 다음과 같은 사항들을 고려해야 한다.
1. 사용 모델
챈에서 사용하는 대부분의 모델들은 북미에서 개발되었고, 영어 데이터 학습량이 압도적으로 많다. 즉, 한글 입력 및 출력 능력은 상대적으로 부족하다. 따라서 한글로 일정 수준 이상의 채팅을 하고 싶다면 어느 정도 체급이 되는 GPT 4 Turbo 1106, Claude Opus 이상의 모델이 권장된다.
챈에서 사용하는 대부분의 모델들은 북미에서 개발되었고, 영어 데이터 학습량이 압도적으로 많다. 즉, 한글 입력 및 출력 능력은 상대적으로 부족하다. 따라서 한글로 일정 수준 이상의 채팅을 하고 싶다면 어느 정도 체급이 되는 GPT 4 Turbo 1106, Claude Opus 이상의 모델이 권장된다.
2. 토큰(비용)
한글의 경우 토크나이징 효율로 인해 같은 의미를 가진 문장이라도 토큰이 2~4배정도 많이 소요된다. 즉, 동일한 기억력을 유지하려고 하는 경우 비용이 더 많이 들고, 비용을 유지하는 경우 기억력에 많은 손실이 발생한다.
한글의 경우 토크나이징 효율로 인해 같은 의미를 가진 문장이라도 토큰이 2~4배정도 많이 소요된다. 즉, 동일한 기억력을 유지하려고 하는 경우 비용이 더 많이 들고, 비용을 유지하는 경우 기억력에 많은 손실이 발생한다.
3. 성능(지능)
한글 채팅을 사용하는 경우 영어에 비해 모델의 기억력뿐 아니라 추론력/프롬프트 지시 이행률 등 지능 측면에서도 손실이 발생한다. 비교적 단순한 봇과 단순한 플레이라면 크게 체감될 정도는 아니지만, 설정이 복잡하거나 구현이 어려운 봇/플레이에서는 체감되는 수준이다.
한글 채팅을 사용하는 경우 영어에 비해 모델의 기억력뿐 아니라 추론력/프롬프트 지시 이행률 등 지능 측면에서도 손실이 발생한다. 비교적 단순한 봇과 단순한 플레이라면 크게 체감될 정도는 아니지만, 설정이 복잡하거나 구현이 어려운 봇/플레이에서는 체감되는 수준이다.
4. 세팅
한글 채팅을 위해서는 몇 가지 사항들을 조정해 주는 것이 필요하다. 대표적으로는 프롬프트에 출력을 한글로 하라는 지시사항을 추가하는 것이 있으며, 원하는 말투 등을 안정적으로 구현하기 위해서는 봇에 예시 대화를 추가하는 등의 조치가 필요하다. 또한, 현재 챈에 공유되고 있는 대부분의 프롬프트 프리셋은 영입영출을 기반으로 하고 있기 때문에 온도/Top P 등의 파라미터를 한글챗에 적합하게 조정해 주어야 한다.
한글 채팅을 위해서는 몇 가지 사항들을 조정해 주는 것이 필요하다. 대표적으로는 프롬프트에 출력을 한글로 하라는 지시사항을 추가하는 것이 있으며, 원하는 말투 등을 안정적으로 구현하기 위해서는 봇에 예시 대화를 추가하는 등의 조치가 필요하다. 또한, 현재 챈에 공유되고 있는 대부분의 프롬프트 프리셋은 영입영출을 기반으로 하고 있기 때문에 온도/Top P 등의 파라미터를 한글챗에 적합하게 조정해 주어야 한다.
따라서 기본적으로는 영어로 채팅을 진행하는 것이 비용 및 성능 측면에서 안정적이지만, 한글챗 또한 문장의 자연스러움과 말투 측면에서 분명한 메리트가 존재한다.
한글챗의 여러 단점을 보완하기 위해 대사만 한글로 출력하는 방안이나 한입영출(입력은 한글로, 출력은 영어로) 등의 방안들이 챈 내에서 연구되고 있으니 참고해 보자.
6. 기타 오류 [편집]
이 항목에서는 자주 발생하는 주요 오류들을 다룬다.
여기에 적혀 있지 않은 오류라도 챈에서 이미 질답이 완료되어 있는 경우가 많으니, 무지성으로 캡쳐해서 질문글을 쓰기보다는 에러코드를 읽어 보거나 키워드 검색을 해 보는 것을 추천한다.
여기에 적혀 있지 않은 오류라도 챈에서 이미 질답이 완료되어 있는 경우가 많으니, 무지성으로 캡쳐해서 질문글을 쓰기보다는 에러코드를 읽어 보거나 키워드 검색을 해 보는 것을 추천한다.
6.1. GPT 오류 [편집]
6.1.1. You exceeded your current quota, please check your plan and billing details [편집]
충전해 놓은 돈을 다 썼다는 의미이다. 충전하고 오자.
6.1.2. invalid_api_key [편집]
말 그대로 API 키가 잘못되었다는 뜻이다.
OpenAI API 페이지에 가서 키를 새로 발급받거나, 감정/SD/수파메모리 등 API 키를 사용하는 다른 기능들에 할당되어 있는 키가 제대로 되어 있는지 확인하자.
OpenAI API 페이지에 가서 키를 새로 발급받거나, 감정/SD/수파메모리 등 API 키를 사용하는 다른 기능들에 할당되어 있는 키가 제대로 되어 있는지 확인하자.
6.2. 클로드 오류 [편집]
6.2.1. Request not allowed [편집]
국가 문제로 발생하는 오류이다. 로컬 리스를 사용하거나, 웹인 경우 VPN을 사용하면 해결된다.
6.2.2. Number of request tokens has exceeded your rate limit [편집]
티어가 낮아서 일일 제한에 걸린 경우이다. 제한 초기화 시간까지 기다려야 한다.
6.3. 리스 오류 [편집]
6.3.1. Cannot read properties of undefined (reading '0') [편집]
수파메모리/하이파메모리 문제이다. 봇 고급설정의 수파 및 하이파 내역을 날려버리면 해결된다.
6.3.2. 봇이 갑자기 외계어를 해요 [편집]
설정-채팅 봇에서 온도를 확인하자. 온도가 너무 높을 경우 샘플링이 망가져서 발생하는 현상이다.
사용 중인 프롬프트 프리셋에 원래 지정되어 있는 온도 또는 0.9~1 사이로 조정하면 해결된다.
사용 중인 프롬프트 프리셋에 원래 지정되어 있는 온도 또는 0.9~1 사이로 조정하면 해결된다.
6.3.3. 봇이 비명을 질러요 아아아아아아 [편집]
대부분의 경우 구글 번역 문제이다.
6.3.4. temperature 관련 오류 [편집]
온도 관련 문제이다. 주로 팻핑거 이슈로 온도 설정을 잘못 해서 온도가 범위에서 벗어났을 때 뜨는 오류이니, 온도를 적당히 조절해 주면 된다.
6.3.5. logit bias 관련 오류 [편집]
바이어스 관련 문제이다. 모델이 바이어스를 지원하지 않거나, 바이어스 범위가 한정되어 있는 경우에 주로 발생한다.
사용 중인 프롬프트 프리셋이나 봇에 딸려 있는 바이어스를 지워 주면 해결된다.
사용 중인 프롬프트 프리셋이나 봇에 딸려 있는 바이어스를 지워 주면 해결된다.