뉴스
역링크 편집 역사

리버스 프록시

최근 수정 시각:

국가별 명칭
영어
(OAI Reverse) Proxy
한국어
(리버스) 프록시
러시아어
прокси

1. 개요
1.1. 프록시의 사전적 정의
1.1.1. 포워드 프록시와 리버스 프록시
1.1.1.1. 포워드 프록시의 목적과 구조1.1.1.2. 리버스 프록시의 목적과 구조
1.2. 역사 및 등장 배경1.3. 필요성과 사용 이유1.4. 한계와 위험성
2. 프록시의 사용
2.1. 사용 방법2.2. 프록시의 선택
2.2.1. 프록시의 모델별 분류 및 프론트엔드 적용 링크
2.3. 프론트엔드별 프록시의 설정 방법
2.3.1. RisuAI2.3.2. SillyTavernAI2.3.3. TavernAI 및 기타
2.4. 프록시의 상태 확인2.5. 프록시의 제작 방법

1. 개요 [편집]

주의: 리버스 프록시가 모두 합법인 것은 아니며 불법적으로 얻은 키를 갈취한 것도 있다.
따라서 사용에 유의가 필요하다.
프록시 사용 전 개인 정보 보호 8계명
  1. User name (사용자 이름)은 절대로 나의 본명 또는 내가 아는 실존 인물의 이름을 쓰지 않는다.
  2. Character name (캐릭터 이름) 역시 나의 본명 또는 내가 아는 실존 인물의 이름을 쓰지 않는다.
  3. 채팅 내용이나 프롬프트, 캐릭터 디스크립션에 절대 개인 정보나 실제 정보를 기입하고 쿼리를 보내지 않는다.
  4. 리버스 프록시에 로그가 남는 것이 싫다면 이용하지 않는다.
  5. 자신이 기록이 남는 것에 민감하다면 아무 리버스 프록시나 사용하지 말고 이 게시물에서 제공된 요령을 통해 리버스 프록시의 코드를 확인한다.
  6. 비록 해당 리버스 프록시에 로그가 남지는 않더라도 IP 기록과 일부 프롬프트가 리버스 프록시의 개설자에게 모두 보이게 되므로 자신이 그런 정보도 노출되는 것에 민감하다면 VPN을 사용하여 이용하거나 아예 리버스 프록시는 이용하지 않는다.
  7. 리버스 프록시를 사용할 때에는 OpenAI API 키에 개인의 GPT 공식 API 키를 절대 입력해두지 않는다.
  8. 프론트엔드에 키로거 기능이 포함될 수 있으므로 검증되지 않은 프론트엔드를 사용하거나 포크된 프론트엔드 코드를 실수로 다운받지 않도록 주의한다.

간단히 말해서 프록시란, AI의 API를 무료로 쓸 수 있게 만든 대여 서버를 말한다.[1]

AI 채팅에 입문한지 얼마 되지 않은 뉴비를 위한 추가적인 설명은 다음과 같다.
  1. 프록시를 사용하려면, 리스AI, 실리태번, 태번 등의 프론트엔드[2] 중에서 하나를 고른다.
    • 스마트폰으로 비교하면, 구글 안드로이드와 애플 아이폰의 선택과 유사하며,
    • 컴퓨터로 비교하면, 윈도우 PC와 MacOS, 리눅스의 선택과 유사하다.
  2. 프론트엔드를 선택했다면, 클로드, GPT-4, GPT-3.5 등의 AI[3] 중에서 하나를 고른다.
  3. 마지막으로 사용할 프록시를 목록에서 찾아서 고르고, 설정 방법을 참고하여 설정한다.
    • 스마트폰으로 비교하면, 앱스토어에서 유료 앱을 무료로 내려받는 블랙 마켓과 유사하다.
    • 채팅 AI를 무료로 사용할 수 있는 중계 서버가 이 문서에서 설명하는 프록시[9]이다.

또한, 해당 채널 내에서는 이를 사용하는 행위를 은어로 '(무료) 급식(을 먹는다)'이라고 표현하며, 해당 프록시 자체를 '급식소'[10]라고 말한다.
이 문서는 앞으로 급식을 먹는 방법과 급식소를 만드는 법 등을 설명할 것이다.

1.1. 프록시의 사전적 정의 [편집]

프록시[11]의 사전적 의미[12]는 대리, 대리자, 대리권 등을 뜻한다.
흔히 인터넷에서 흔히 프록시란 프록시 서버와 같은 인터넷 중계 서버를 지칭하며, 많은 경우, VPN과 동의어이다.

AI 채팅 채널에서 말하는 프록시는 VPN과 관련이 없으며, 내부망 중계 서버이다.
그리고 이런 내부망 중계 서버를 바로 리버스 프록시라고 한다.

'리버스 프록시'에 대해 설명하기 전에, 일반적인 프록시의 형태인 포워드 프록시[13]부터 설명해야 한다.

1.1.1. 포워드 프록시와 리버스 프록시 [편집]

포워드 프록시와 리버스 프록시의 가장 큰 차이는 서로 보호 대상이 다르다는 점이다.
  1. 포워드 프록시는 사용자와 서버를 중계하는 과정에서 서버로부터 중계 서버가 사용자의 익명성을 보장한다.
  2. 리버스 프록시는 사용자와 웹 서비스를 중계하는 과정에서 악성 사용자의 해킹 등의 공격이나 서비스 방해 등으로부터 중계 서버가 웹 서비스를 보호한다.

자세한 설명은 다음과 같다.
1.1.1.1. 포워드 프록시의 목적과 구조 [편집]
AI 채팅 채널 외부에서 말하는 '프록시'는 포워드 프록시이다.[14]

포워드 프록시의 사용 목적은 사용자와 웹 페이지 또는 웹 서비스 등에 대한 접속 속도를 높이거나, 특정 서버에 대하여 사용자의 익명성을 유지하는 것 등이다.
포워드 프록시의 작동 예시를 표로 만들면 다음과 같다.
익명성 보장됨 (서버가 추적 불가능)
<->
서버
클라이언트
<->
포워드 프록시
챈붕이
미꾸라지 등 VPN 서버
아카라이브 웹사이트 서버
OpenAI의 GPT 서버
1.1.1.2. 리버스 프록시의 목적과 구조 [편집]
AI 채팅 채널 내부에서 말하는 '프록시'는 리버스 프록시이다.[15]

리버스 프록시의 사용 목적은 서버와 소통하는 내부망의 다른 서버나 데이터를 악성 사용자 등으로부터 보호하는 것 등이다.
따라서 사용자들은 서버와 내부망으로 연결된 다른 서버의 존재를 모를 수도 있으며, 내부망 안에서 벌어지는 일도 파악할 수 없다.[16]
리버스 프록시의 작동 예시를 표로 만들면 다음과 같다.
클라이언트
<->
내부망으로 보호됨 (클라이언트가 접근 불가능)
리버스 프록시
<->
서버
챈붕이
허깅페이스 프록시 서버
OAI의 GPT 서버
토드 클로드 서버
Anthropic의 Claude 서버

즉, 두 예시를 비교하면, 포워드 프록시는 보호 대상이 클라이언트인 반면, 리버스 프록시는 보호 대상이 서버라는 큰 차이점이 있다고 볼 수 있다.

이 문서에서는 혼란을 줄이기 위해서 포워드 프록시와 리버스 프록시를 함께 언급할 때를 제외하고 리버스 프록시를 모두 '프록시'로 적는다.
이러한 프록시를 사용하여 API 키를 공유하게 된 원인은 다음과 같다.

1.2. 역사 및 등장 배경 [편집]

'23년 3월 16일 GPT-4가 공개된 후로, 지금까지 극소수의 사람만이 GPT-4의 API에 접근 가능했다.
또한 성능이 좋은 AI의 API 사용료는 AI 채팅 용도로 사용하기에는 가격이 비교적 비싸다는 것도 현실이다.[17]
이에 따라 /aicg/의 관련 스레드를 중심으로 어떤 방법을 사용해서라도,[18] 무료로 GPT-4의 API에 접근하려는 움직임이 많았다.
그 결과, 다양한 무료 GPT-4 API 키가 확보되어 해당 커뮤니티에 널리 공개되었다. 그런 움직임이 약 1달 간 지속되었다.
  1. '23년 4월 초, 영어권의 AI 챗봇 커뮤니티인 4챈 기술 주제 하위 게시판 /aicg/ 스레드에 OAI로부터 발급 가능한 GPT API 키의 사용 제한 한도[19]를 늘렸다는 글이 공유된다. 이미 AI 관련 다른 스레드에 취약점이 있다는 글이 공유되었고, 결국 누군가 방법을 찾아냈다.
  2. 동년 4월 7일, 이 방법을 찾아낸 사용자가 해당 스레드에 이 정보를 공유[20]한다. 몇 일 후, 해당 취약점의 공유로 인한 문제가 생긴다.
  3. 동년 4월 8일까지 4챈의 대부분의 사용자들이 애플 앱스토어 등에 존재하는 취약점[21]을 이용하여, 지나치게 비싼 결제를 유도하는 악성 사기 챗봇 앱[22]으로부터 GPT 시리즈의 API 키를 스크래핑[23]하거나, OAI에서 해커톤 등을 위해 제공한 API 키를 찾아내어 sk-로 시작하는 51자리의 API 키값을 그대로 공유했고, 이것을 누구나 태번AI 등에 입력하고 사용했다.
  4. 하지만 위에서 1~2번에서 언급한 취약점이 많은 사람들에게 공유되자, 찾아낸 API키의 사용 제한 한도를 강제로 늘려서는 오래 쓰는 것 뿐만 아니라, 트롤러들이 공유된 GPT의 API 키의 사용 제한 한도를 멋대로 최소값으로 줄이며 사람들의 사용을 막을 수도 있었다.
  5. 결국 동년 4월 9일, 이 취약점을 사용해 트롤러들이 공유된 키를 계속 사용할 수 없게 만드는 일이 반복되자, 어느 개발자가 깃헙에 OAI 서버를 중계하는 프록시 서버의 코드를 작성하였고 이것을 허깅페이스의 스페이스 서버에서 끌어와 작동하도록 만든 후에 그것을 /aicg/ 스레드에 공개했다. 이 레포지토리의 이름이 바로 OAI Reverse Proxy이며, 결국, 이 날을 기점으로 sk-로 시작하는 51자리의 GPT API 키값의 직접적인 공유는 거의 모든 관련 커뮤니티에서 사라지게 된다.
  6. 동년 4월 9일 이후로 GPT의 API 키를 공개하지 않고, GPT 키를 공유하는 프록시 서버가 다수 등장하였다. 웹 개발에 대한 지식이 조금만 있어도, 이제 누구나 깃헙의 코드를 수정하고 허깅페이스에 올려서 중계 프록시로 자신의 키든, 다른 사람에게서 훔친 키든, 심지어 그것이 누구의 키인지도 모르게, 그리고 API 키의 취약점으로 인해 사용에 제한받는 일 없이, GPT와 같은 AI의 API를 공유하기 시작했다.
  7. 동년 4월 18일, 2주가 경과하자, 프록시를 통한 API의 공유가 완전히 자리 잡았고, 4챈 기반의 프록시는 최소 5개 이상, 2챈 기반의 러시아 프록시 2개 이상, 국내의 AI 채팅 채널에도 이미 2개 이상의 프록시가 존재한다. 심지어 OAI를 대상으로 만들어진 프록시 코드를 대거 수정하여, Claude의 API까지 완전 무료로 24/7 중계하는 일명, 토드 프록시까지 등장한 상황이었다.
  8. 그러던 중에, 5월 중순경, 태번 AI 개발자가 태번 공식 코랩 노트북에 토드 프록시를 추가하는 병크를 저지른다. 토드는 비정상적인 트래픽을 겪었고, 이를 공격으로 파악하고 막기 위한 방법을 강구하지만, 결국 너무 많은 수요를 견디지 못하고 터진다. 사건의 경위는 이 위키를 번역기를 돌려서 본 피그말리온 AI 서브레딧의 인원들이 입소문을 냈고, 그것을 본 태번 AI 개발자가 모종의 사유로 인해서 코랩 노트북에 추가한 것으로 보인다.[24]
  9. 이후, 토드 프록시는 폭파되었고 2주가 되어도 전혀 돌아오지 않았다. 게이트키핑이 강화되어 서로 서로 프록시를 공유하며 사용을 권장하는 대급식시대가 종료된다.
  10. 대부분의 커뮤니티 사이트에서 프록시에 비밀번호를 걸었고, 수많은 프록시가 삭제되거나 비밀로 전환되었으며, 다른 커뮤니티가 자신들 커뮤니티의 프록시를 사용하지 못하게 만들고 있다. 아직 오픈된 프록시가 없는 것은 아니지만, 이제는 거의 찾기 힘들다. 이런 흐름에 발 맞춰, 아카라이브 AI 채팅 채널 역시 게이트키핑을 위해서 전용 공간을 개설해 운영하고 있으며, 아카라이브 원주민이라고 할 수 없는 사람은 아카라이브의 프록시를 이용할 수 없다.
  11. 게이트키핑이 심화된 후, Mysteryman이라는 개발자의 프록시가 프론트엔드이자 캐릭터 봇 공유 사이트인 VenusAI에 등록된다. 이 병크로 영어권 사이트의 게이트키핑이 더욱 심화되었으며, 영어권 사이트의 사용자들은 VenusAI의 웹사이트와 디스코드에 강력한 테러를 감행했고 결국 웹사이트는 5월 30일 부로 문을 닫기로 결정한다.

앞으로 프록시의 미래가 어떻게 될 지 알 수 없으나, 거의 모든 사용자가 GPT-4와 Claude같은 최신 AI의 API를 더 오랫동안 사용하지 못할 수록 프록시의 사용 기간 역시 길어질 것으로 보인다. 그리고 4월말에서 5월 중순까지 약 2~3주 간의 대급식시대가 지나고 급식을 서로 게이트키핑하는 일이 심화되어, 무료로 급식을 먹으려면 상당한 노력이 필요해졌다.

1.3. 필요성과 사용 이유 [편집]

결론적으로, 비록 지금 GPT 등의 API 취약점이 일부 보완었다고 하더라도, 악성 이용자에게 어떤 형태의 취약점이 파악되어 악용되고 있으며, 아직 보완되지 않은 취약점이 얼마나 있는지 알 수 있는 방법은 직접 당하는 것 외에는 알 길이 없다.

따라서 'sk-'로 시작하는 GPT의 API 키를 직접적으로, 공개적으로 공유하는 것은 피해를 스스로 유발하는 것이나 다름 없다.
앞서 말한 각종 취약점 때문에 어떤 종류의 서비스 방해나 해킹 등의 피해를 당할지 알 수 없으며, 금전적 피해까지 발생할 수도 있다.[25]

이제 GPT 또는 다른 언어 모델 AI를 공개적으로 다수의 사람과 공유하여 이용하려면 허깅페이스의 무료 스페이스 서버를 경유한 프록시 서버를 사용하게 되었다.[26]

또한 당신이 GPT-3.5나 GPT-4 등의 GPT API를 사용해 특정 서비스를 만든다면, API 키의 직접적인 스크래핑 또는 각종 공격 피하기 위해 이런 형태의 프록시로 보호할 수도 있다.[27]

프록시의 이용 및 개발 방법은 프록시의 사용에서 설명한다.
그러나 프록시가 무조건 안전하고, 믿을 수 있다는 것은 아니다. 프록시를 사용하는 것에 따르는 리스크도 엄연히 존재한다.

1.4. 한계와 위험성 [편집]

해당 단락에서 설명한 것과 같이, 포워드 프록시와 다르게, 이러한 리버스 프록시는 내부망의 서버나 GPT의 API 키와 같은 데이터의 안전을 위해서 사용하는 것이다.

따라서, VPN과 같은 포워드 프록시와 다르게 리버스 프록시는 사용자 안전이나 익명이 보장되지 않는다.
허깅페이스를 통해서 직접 리버스 프록시를 만들어 보면, 개발 방향에 따라 사용자의 프롬프트부터 IP 주소까지 거의 모든 기록을 남길 수 있다.

따라서, 리버스 프록시를 사용하고 싶지만, 개인정보가 조금이라든 남는 것이 싫다면 VPN을 경유하여 사용하여야 한다.
또한 기록이 남지 않는다고 명시되어 있는 프록시를 찾아 사용하여야 한다.
이 때, 기록이 남지 않는다고 명시되었다고 하더라도, 개발자가 그 코드를 수정하였다면 로그가 기록되고 있을 수도 있다.

따라서 해당 프록시가 허깅페이스의 공개 스페이스를 이용한 프록시라면 직접 허깅페이스 스페이스로 복사하고, 복제 과정에서 코드를 가져오는 깃헙 주소를 확인하여 개발자의 코드를 면밀히 검토하는 것이 좋다.[28]

이제부터는 프록시의 유형에 대해 설명한다.

2. 프록시의 사용 [편집]

이 단락에서는 프록시의 사용 방법을 설명한다.

2.1. 사용 방법 [편집]

프록시 서버는 대부분 khanon의 OAI Reverse Proxy를 기반으로 하기 때문에, 구조도 유사하고 사용 방법도 같다.
토드 프록시만 사용법이 조금 다르지만, 사용법 자체가 크게 다르지는 않으며, 주소만 잘 입력하면 다른 것과 사용법은 같다.

2.2. 프록시의 선택 [편집]

우선, 프록시를 사용하기에 앞서서, 어떤 종류의 AI 언어 모델을 사용할 것인지 선택해야 한다.

프록시마다 지원하는 AI 언어 모델의 종류가 조금씩 다르기 때문이다.
지금 자신의 TavernAI나 SillyTavernAI, RisuAI 내에 봇을 고려하여, 각자 자기 자신에게 필요한 것이 GPT-3.5 모델인지, GPT-4 모델인지, Claude인지 확인한다.

2.2.1. 프록시의 모델별 분류 및 프론트엔드 적용 링크 [편집]

자신이 사용할 AI의 모델을 선택했다면, 프록시 게이트에 입국 심사를 통과하여 프록시를 골라 넣자.

2.3. 프론트엔드별 프록시의 설정 방법 [편집]

프론트엔드의 종류에 따라 프록시의 사용이 매우 용이한 것도 있고, 그보다는 복잡한 편인 것도 있다.

그러나 TavernAI 등의 설치보다는 그렇게 어렵지는 않으므로, 예시 화면과 설명을 보고 잘 따라하면 된다.
또한 RisuAI와 SillyTavernAI는 자체 기능에서 프록시를 지원하기 때문에, 비교적 더 사용이 간편하다.

2.3.1. RisuAI [편집]

이 단락에서는 리스AI가 이미 설치되어 있다고 가정하고 설명한다.
공식적으로 프록시의 설정을 지원하는 리스AI와 실리태번AI가 프록시를 적용하기 가장 쉽다.
  1. RisuAI를 켠다.
  2. RisuAI가 출력되면, 좌측 메뉴 중에 가장 위의 '톱니바퀴' 모양의 "설정" 메뉴를 누른다.
  3. '설정' 메뉴의 상단 아이콘 중에서 '로봇' 모양의 "채팅 봇" 항목을 누른다.
    • "봇 설정"을 열었다면, 모델과 보조 모델에서 자신이 사용을 원하는 AI 언어 모델을 선택한다.
    • 이 경우에 GPT-4를 사용할 것이라면 보조 모델은 GPT-3.5를 고른다.
  4. "봇 설정" 탭에서 아래로 스크롤해 "리버스 프록시" 와 "보조 리버스 프록시" 항목을 찾는다.
    • 항목을 찾았다면 해당 항목 아래의 빈칸에 프록시 게이트에서 찾은 https://로 시작하고 v1으로 끝나는 프록시의 링크를 붙여 넣는다.
  5. 보안 키(비밀번호)가 있다면 위로 스크롤해 "OPEN AI API 키 항목의 빈칸에 입력하자.
  6. 캐릭터 봇을 열고 채팅을 시작한다.

2.3.2. SillyTavernAI [편집]

이 단락에서는 실리 태번 AI가 이미 설치되어 있다고 가정하고 설명한다.
공식적으로 프록시의 설정을 지원하는 실리태번과 리스AI가 프록시를 적용하기 가장 쉽다.
  1. Start.bat를 실행하여 SillyTavernAI를 켠다.
    • 이 과정에서 켜진 Windows Powershell 또는 CMD 창을 마지막에 확인할 것이다.
  2. SillyTavernAI의 프론트엔드가 웹브라우저에 출력되기를 기다린다.
    • SillyTaverAI가 출력되면, 최상단 메뉴 중에 가장 오른쪽의 버튼 모양의 '설정' 메뉴를 누른다.
  3. '설정' 메뉴에서 "OpenAI 리버스 프록시 설정" 항목을 찾는다.
    • 항목을 찾았다면 해당 항목 아래의 빈칸에 프록시 게이트에서 찾은 https://로 시작하고 v1으로 끝나는 프록시의 링크를 붙여 넣는다.
    • 다음으로 "OpenAI 모델"을 찾아서, 자신이 사용을 원하는 AI 언어 모델을 선택한다.
  4. 최상단 메뉴의 오른쪽 두 번째 플러그 모양의 '연결' 메뉴를 누른다.
    • "API 키" 항목을 찾아, 해당 항목 아래의 빈칸에 아무 문자열(예: 1)이나 입력한 다음, '연결하기'를 누른다.
  5. 1번 과정에서 열었던 Windows Powershell 또는 CMD 창을 눌러 화면에 원하는 AI 모델이 떴는지 확인한다.
    • 연결에 실패했다는 메시지가 없고, 스크롤을 위로 올리거나 했을 때, cladue나 gpt-3.5-turbo 등, 자신이 사용하기 원하는 모델이 출력되는지 확인한다.
    • 모델이 제대로 출력된다면, 이제 프록시를 사용할 수 있다.
  6. 캐릭터 봇을 열고 채팅을 시작한다.

이 설명을 보고도 이해가 가지 않으면 이미지 설명이 포함된 링크를 참조하여 진행한다.

2.3.3. TavernAI 및 기타 [편집]

이 단락에서는 태번 AI가 이미 설치되어 있다고 가정하고 설명한다.
태번AI와 기타 태번 종류는 공식적으로 프록시를 지원하지 않기 때문에 직접 코드를 수정해야 하므로 매우 번거롭다.

또한 TavernAI에서 프록시를 쓰는 경우에 OpenAI의 챗GPT처럼 글자를 타이핑하듯 띄워주는 Streaming 기능을 반드시 꺼야 한다.
  1. 먼저 TavernAI의 Windows Powershell 또는 CMD 창이 켜져 있다면 종료한다.
  2. TavernAI가 설치된 폴더를 찾아 들어간다.
  3. 폴더 내에서 server.js 파일을 찾아서, 해당 파일을 마우스 오른쪽 버튼으로 클릭한다.
    • '연결 프로그램'을 누른 다음 '다른 앱 선택'을 누른다.
    • 새로 뜨는 창에서 '메모장'이나 'Wordpadd', 또는 'Notepad++' 등의 프로그램을 선택하고 확인을 누른다.
  4. server.js 파일을 편집 프로그램으로 열었다면, 편집 프로그램에서 단축키 Crtl+F를 누른다.
    • 새로 뜨는 창의 빈칸에 "https://api.openai.com/v1"를 입력하고 엔터를 누른다.
  5. 검색창을 닫고, "https://api.openai.com/v1"를 프록시 게이트에서 찾은 https://로 시작하고 v1으로 끝나는 링크로 바꿔 넣는다.
    • 내용을 완전히 바꿔넣었다면 해당 파일의 변경사항을 저장한다.
  6. Start.bat를 실행하여 TavernAI를 켠다.
    • 이 과정에서 켜진 Windows Powershell 또는 CMD 창을 마지막에 확인할 것이다.
  7. TavernAI의 프론트엔드가 웹브라우저에 출력되기를 기다린다.
    • SillyTaverAI가 출력되면, 최상단 메뉴 중에 가장 오른쪽의 버튼 모양의 '설정' 메뉴를 누른다.
  8. '설정' 메뉴에서 "OpenAI 모델" 항목을 찾는다.
    • 항목을 찾았다면, 자신이 사용을 원하는 AI 언어 모델을 선택한다.
  9. 최상단 메뉴의 오른쪽 두 번째 플러그 모양의 '연결' 메뉴를 누른다.
    • "API 키" 항목을 찾아, 해당 항목 아래의 빈칸에 아무 문자열(예: 1)이나 입력한 다음, '연결하기'를 누른다.
  10. 6번 과정에서 열었던 Windows Powershell 또는 CMD 창을 눌러 화면에 원하는 AI 모델이 떴는지 확인한다.
    • 연결에 실패했다는 메시지가 없고, 스크롤을 위로 올리거나 했을 때, cladue나 gpt-3.5-turbo 등, 자신이 사용하기 원하는 모델이 출력되는지 확인한다.
    • 모델이 제대로 출력된다면, 이제 프록시를 사용할 수 있다.
  11. 캐릭터 봇을 열고 채팅을 시작한다.

이 설명을 보고도 이해가 가지 않으면 이미지 설명이 포함된 링크를 참조하여 진행한다.

2.4. 프록시의 상태 확인 [편집]

현재 내가 이용하려는 프록시의 상태를 확인하려면 프록시 게이트에서 해당 프록시의 'huggingface 주소를 찾아 클릭해 열면 된다.
그러면 아래의 도표에 해당하는 정보를 확인할 수 있으며, 해당 창에서 확인할 수 있는 각각의 정보는 다음과 같다.
변수명
의미
uptime
서버가 켜지고 지난 시간(s)
timestamp
서버의 현재 시간(unix 시간)
endpoints
kobold
해당 서버가 포함하는 AI 모델의 출처(kobld)
openai
해당 서버가 포함하는 AI 모델의 출처(openai). 이 주소 뒤에 /v1을 넣거나 v1이 들어 있다면 그대로 프론트엔드에 넣으면 된다.
proompts[29]
서버가 켜지고 지금까지의 총 프롬프트 갯수
proomptersNow[30]
최근 3분 이내의 프롬프트를 보낸 사람 숫자
keyInfo
all
해당 프록시에 등록된 GPT API 키의 총 갯수
active
해당 프록시에 사용이 가능한 GPT API 키의 총 갯수
trial
해당 프록시에 등록된 트라이얼(체험) GPT API 키의 총 갯수
gpt4
해당 프록시에 등록된 gpt4 API 키의 총 갯수
quotaLeft, all
해당 프록시에 등록된 모든 GPT API 키의 남아 있는 사용량

2.5. 프록시의 제작 방법 [편집]

[1] 프록시가 처음 등장하고 시간이 지나자, 이제 '프록시'는 리버스 프록시의 의미보다는 무료로 접근 가능한 Claude 및 GPT에 대한 접근 시스템을 API 서버 링크처럼 만든 것을 모두 의미하게 되었다. 이 러시아 유저가 만든 프록시는 원리상 '리버스 프록시'라고 보기는 어려우나 프록시에 포함하여 언급하고 있으며, 다들 프록시와 유사한 것으로 인지하고 있다.[2] 이 문서에서 프론트엔드의 설치는 안내하지 않는다. 이 내용은 AI 채팅 채널의 공지를 참고한다.[3] '23년 4월을 기준으로 AI 채팅 채널에서 가장 인기가 많은 3가지의 AI 언어 모델이다.[4] 여기에서 챗GPT 계정으로 로그인하면 API 키를 발급받을 수 있다.
계정 등록 시기에 따라서 18달러 또는 5달러의 체험 비용이 무료로 주어지는데, GPT-3.5의 가격은 '23년 4월 기준 매우 저렴하기 때문에 혼자서 사용하면 꽤 많이 사용할 수 있다.[5] 클로드는 클로드 얼리엑세스 신청에서 등록한다.[6] GPT-4는 GPT-4 대기자 신청에서 등록한다.[7] 앞선 각주 링크에서 신청하면 메일로 결과가 도착할 것이다. 결국 클로드와 GPT-4의 API는 선정된 소수의 인원만 사용할 수 있기 때문에, 사용 가능한 프록시가 열려 있지 않다면 Nat.dev 등과 같은 서비스를 경유하여 사용해야 한다.[8] '23년 4월 기준, 토큰의 양에 따라서 클로드는 약 15~135원, GPT-4는 약 39~312원, GPT-3.5-turbo는 약 2.6원~10원 정도가 각각 쿼리 한 번에 청구되는 사용료이다.
GPT-3.5-turbo를 제외하고는 AI 채팅 용도로 쓰기에는 상당히 부담이 되는 가격이다.[9] 그러나 이 '프록시'는 흔히 말하는 프록시와는 다르며, 그것은 해당 단락에서 자세히 설명한다.[10] 원래 '급식'은 공짜로 뿌려지는 AI 언어 모델의 API 키를 의미했지만, 여러 사건을 겪은 후, API 키를 공유하지 않게 되면서 프록시만을 말하게 되었다.[11] 국립국어원 표준국어대사전 검색 결과에 따르면 proxy는 '프락시'로 적어야 하지만 보통 '프록시'로 쓴다.[12] 출처: 옥스퍼드 영한 사전[13] 포워드 프록시의 대표적인 예시로 VPN이 있다.[14] 포워드 프록시의 대표적인 예시로 VPN이 있다.[15] 리버스 프록스는 포워드 프록시와 구조가 반대라고 볼 수 있다.[16] 이러한 리버스 프록시의 특징이 가장 잘 드러나는 것이 토드 프록시이다.
토드 프록시 문서를 보면 알겠지만 토드 프록시의 모든 것이 의문점으로 남아있다.[17] '23년 4월 기준, 토큰의 양에 따라서 클로드는 약 15~135원, GPT-4는 약 39~312원, GPT-3.5-turbo는 약 2.6원~10원 정도가 각각 쿼리 한 번에 청구되는 사용료이다.
GPT-3.5-turbo를 제외하고는 AI 채팅 용도로 쓰기에는 상당히 부담이 되는 가격이다.[18] 심지어 신원 도용, 가짜 카드 사용, 위조 카드 사용 등의 불법적인 방법이나 법의 회색 지대에 있는 방법까지도 널리 사용했다.[19] GPT의 API 키에는 3가지의 사용 제한 한도가 있다. Soft Limit(USD), Hard Limit(USD), System Limit(USD)이다. Soft Limit(USD)는 앞으로 사용 가능한, 남은 사용량을 의미하며, 일반적으로 개인용 GPT-4 API 키는 $5 또는 $18 상당의 Hard/System Limit(USD)를 지니고 그 값은 동일하다. 본문에서 말하는 취약점은 계정의 관리자 권한, 로그인 권한 없이 Hard/System Limit를 누구나 자유롭게 수정할 수 있는 취약점이라 문제가 되었던 것이다.[20] 이 방법은 지금은 막혔지만, 4월 중순까지 유효했다.[21] 애플 스토어에 올라간 GPT API를 활용한 앱들의 API 키를 스크래핑할 수 있는 취약점으로, 해당 취약점 역시 이미 해결되었다.[22] AI 채팅 채널에도 피해자가 존재한다.
OAI의 공식 정보를 확인해 사기 피해를 예방하도록 하자.[23] GPT 등의 서비스의 API 키를 모바일 어플리케이션 또는 웹 서비스에서 탈취하는 행위를 말한다.[24] 태번 AI 개발 코드에는 포함하지 않았으면서 코랩 노트북에 추가한 이유는 도무지 알 수 없으며, 태번 AI 개발자도 프록시가 완전히 합법적인 방법이 아니라는 것을 인지하고 있었던 것으로 추측할 수 있다.[25] 국내외에 아직 명확한 피해사례가 보도되지 않았다.
따라서 무조건 피해가 발생한다고 볼 수 없지만, 그래도 조심하는 것이 좋다.[26] 웹 개발에 대한 지식이 조금이라도 있다면, 해당 단락을 참고하여 누구나 만들 수 있다.[27] 특히 개인별로 암호나 권한을 따로 설정할 수도 있으므로, 특정 서비스를 개발하는 것이 아니라도 개인용 프록시 서버를 열어서 일부 지인에게 배포할 때에도 매우 유용하다.[28] 이 검토 과정은 해당 단락에서 같이 설명하므로, 참고하면 된다.[29] 원래 코드가 이렇게 되어 있다. 오타가 아니다.[30] 원래 코드가 이렇게 되어 있다. 오타가 아니다.