개념글 모음

나는 OpenAI가 이번에 최신 모델인

GPT-4o까지도 일부 무료로 푸는 이유가 이해가 잘 안됐었음

새 모델 출시만 하면 눅눅해지고 야랄이 나고

유료로 돈 내고 쓰는 사용자들이 성능이 구리다/구려졌다고 커뮤니티에 떠드니까 말임


나는 원래 "샘 알트만 이 좆병신련 내가 쓸 GPT-4o 데이터센터도 부족한데 삽질을 하네"라고 생각했었음


근데 AI랑 전혀 무관한 커뮤니티 여기저기 보면

GPT-3.5 무료 버전 '한국어'로 써놓고 저평가 하는 사람들이 존나 많다는 걸 깨달음

다들 알겠지만 GPT-3.5 한국어는 정말로 끔찍한 수준임

나는 GPT-4와 GPT-4o의 한국어도 끔찍하다고 생각하지만 그래도 GPT-3.5보다는 좀 나음


게다가, 챗붕이들은 잘 알겠지만

GPT-4-Turbo든 GPT-4o든, 그 글빨 좋다는 클로드3 오푸스도,

그냥 쓰면 안되고 프롬프트를 잘 써서 넣어줘야 제 실력을 제대로 발휘하잖음?


근데 아직까지 모든 AI는 가장 좋은 모델이라 해도 여전히 성능이 떨어지니까

프롬프팅은 의외로 순수한 자연어로 인간에게 지시하고 명령하는 거랑 다름

프롬프트 열심히 깎아본 사람들은 모두 다 잘 알 거라 생각함


아직은 AI에게 순수하게 인간의 언어를 사용하는 게 안됨

다음 단어 예측 생성기에 불과한 LLM이나

트랜스포머 알고리즘 원리를 어느 정도는 이해하고,

그 특성에 맞게 프롬프트를 짜야 함


뉴비 챗붕이라면 이게 무슨 말인지 이해가 어려울텐데,

글이 길어지겠지만 예를 좀 들어보겠음


우리가 GPT-4 또는 GPT-4o에게

일본 홋카이도 지역으로

3박 4일 동안 여행 계획을 짜달라고 한다고 가정함


그럼 챗붕이가 아닌 어떤 사람은 챗GPT에 이렇게 프롬프트를 입력할 것임


일본 홋카이도로 3박 4일 여행 계획을 짜줘.
1. 구글에서 홋카이도 지역의 여행지 중에 가장 리뷰 평점이 높은 것을 20개 꼽아서 리스트로 만들어 표로 정리해
2. 이 표를 바탕으로 거리를 바탕으로 여행 동선을 짜고, 표로 정리해
3. 정리된 동선을 바탕으로 $200달러 이하의 숙박비를 가진 호텔을 구글에서 검색해서 표로 정리해


아마 챗챈에서 서당개 3개월 이상 보낸 모든 챗붕이들은

위의 프롬프트가 엉망진창이라는 걸 한눈에 알거임


저건 인간이라면 명확하게 이해할 수 있고 수행할 수 있지만

챗GPT는 이해도 제대로 하지 못하고 수행도 제대로 할 수 없기 때문에

200% 환각이 일어날 것이란 걸 바로 눈치 챘을거임


실제로 저 프롬을 입력하면 개판남. 환각도 나고 헛소리 함

위의 프롬프트를 환각 없이 인간의 의도대로 작동하려면 다음 3개의 프롬프트로 고쳐야 함


[1단계 프롬프트]

I'm planning a trip to Japan for me and my friends. We are 3 Korean men in our 20s and we are planning a trip to Hokkaido.

As a veteran travel guide from Hokkaido, Japan, I would like you to be a real-life travel guide in Hokkaido, Japan, and recommend 20 places in Hokkaido that would be preferred by Korean men in their 20s.

(저와 친구들이 일본 여행을 계획하고 있습니다. 저희는 20대 한국인 남성 3명으로 홋카이도 여행을 계획하고 있습니다.

일본 홋카이도 출신 베테랑 여행 가이드로서 일본 홋카이도의 실제 여행 가이드가 되어주시고, 20대 한국 남성이 선호할 만한 홋카이도 여행지 20곳을 추천해 주셨으면 좋겠습니다.)


[위 프롬 답변 받은 후 2단계 프롬프트]
As a veteran tour guide from Hokkaido, Japan, you map out an itinerary so that each of the 20 destinations you just recommended can be reached within 20 to 70 minutes by public transportation. 

Our trip is 3 days and 4 nights, with a flight time of 10:30 on the first day and 16:30 on the last day. We are traveling to Japan using New Chitose Airport.

(일본 홋카이도 베테랑 여행 가이드로서 방금 추천한 20곳의 여행지를 대중교통으로 20~70분 이내에 갈 수 있도록 여행 일정을 짭니다. 

여행 일정은 3박 4일이며, 비행 시간은 첫날 10:30, 마지막 날 16:30입니다. 신치토세 공항을 이용해 일본으로 여행합니다.)


[위 프롬 답변 받은 후 3단계 프롬프트]
Based on the above travel plan you created, search for and list 5 hotels in the Hokkaido area where we will be staying. The cost per night should be $200 or less. We are a group of 4 men.
(위에서 작성한 여행 계획에 따라 홋카이도 지역에서 숙박할 호텔 5곳을 검색하여 나열하세요. 1박당 비용은 200달러 이하여야 합니다. 저희는 남성 4명으로 구성된 그룹입니다.)


이 프롬프트도 완벽한 것은 아니고,

어느 정도 환각이 있을 수 있어서 팩트 체크를 해야 함

하지만 위의 한국어 프롬프트에 비해서

아래의 영어 프롬프트는 LLM 기준으로 매우 명확하고 오류율이 적은 프롬프트임


반면에 사람에게 아래의 영어 프롬프트를 지시하면

뭔 뚱단지 같은 소리냐 싶을 거임

LLM이 세계에 대한 이해력이 부족하기 때문에,

사람에게 상식적인 부분까지 언급하고 있으며, 반복하는 말도 있고,

또한 '베테랑 여행 가이드로서'와 같은 불필요한 말을 넣기 때문임


아무튼, 말이 길었는데,

결론적으로는 챗GPT를 무료로 쓰든 유료로 쓰든 성능을 100% 끌어올리려면

프롬프팅 요령이 매우 중요하단 말이었음


챗GPT 써본다는 유튜브를 보면

20~30만 이상 조회수 뜨는 영상 중에

이렇게 프롬프팅에 대해 조금이라도 고민하는 사람은 거의 존재하지 않음


유료 결제 해서 GPT-4 쓰면서도

죄다 한국어로 이상한 지시를 LLM이 이해하기 어렵게 내리면서

AI 찐빠 나는걸 비웃고 즐기고 있을 뿐임

(채찍 한국어로 쓸거면 주어와 목적어가 분명한 형태로 영어 번역 어투로 써야 함.

그래야 그나마 지능이 보존됨. 물론 한국어로 쓰면 어쨌든 지능 20~60%는 깎이고 들어가지만...)


그래서 내가 봤을 때, 이번에 샘 알트만이

GPT-4o를 극히 일부 횟수만이라도 무료로 푼 이유가

대중이 AI에 대해 너무 가드를 심하게 내려서라고 생각함


우리가 GPT-4나 Claude3 Opus 같은 모델에 절여지고, 롤플 위주만 해서 그렇지,

나는 Everything to Everything 모델인 GPT-4o은 말도 안되는 엄청난 성능이라고 생각함

비전과 오디오를 인식만 하는게 아니라 생성까지 할 수 있고,

텍스트 AI로써 성능은 유지된걸 넘어서 이전 버전을 뛰어넘었잖음


그런데 사람들 대부분이 GPT-3.5 한국어 성능이나,

끔찍하게 프롬프팅 된 한국어로 GPT-4가 찐빠 내는거나 체험하고 구경했기 때문에,

AI가 얼마나 빠르게 발전하고 강력해지는지 모른다고 생각함


이야기가 매우 길었는데,

사람들이 너무 AI에 대해 안일하고 위협이 안된다고 여기니까,

GPT-4o를 제한적으로라도 무료로 풀어서 사람들이 좀 느끼라는 거 같음


특히, 이번 스프링 업데이트에 짧게 

'프론티어 모델 공개 예정'이라고 넣은 것 보면

GPT-5 나왔을 때의 충격을 줄이기 위해서 GPT-4o를 무료로 풀었다는 느낌이 큼



한줄 요약: 새로운 프론티어 모델인 GPT-5는 존나게 쩔 것이며 GPT-4o는 맛보기이다. 대중이 너무 GPT를 저평가해서 GPT-4o를 무료로 풀었다고 본다.