라마3 70b rp 훈련ing - AI 채팅 채널

AI 채팅 채널

채널위키 알림 알림 중 알림 취소

구독자 10492명 알림수신 226명 @몽상봉인

AI와 대화하며 유사 인싸체험 하는 채널

일반 라마3 70b rp 훈련ing

maywell

추천 39 비추천 0 댓글 55 조회수 1152 작성일 2024-04-29 02:01:01

https://arca.live/b/characterai/104874612

기존 8k 컨텍 마음에 만들어서 32k 확장을 먼저 진행하려고 합니다. 이게 4~5일 정도 걸릴 것 같고, RP 튜닝이 2일 정도 걸릴 것 같음.

완성되면 챈섭 열고 허깅페이스에 올릴 예정입니다.

기존 Solilquy 8B 가격이 0.2 / 0.2로 올랐는데, 훈련할때 gpu 끌어다 쓰기위한 일시적 가격 책정이니 끝나고 다시 내리겠습니다.

댓글 [55]

야코이

2024-04-29 02:01:30

대배

2024-04-29 02:02:04

저게 모델의 고정 속성 같은 게 아니라 확장이 되는 거구나 LLM은 신기하네.....

펼쳐보기▼

하나악

2024-04-29 02:03:18

완료되면 라우터에서도 서빙하시나요?

펼쳐보기▼

maywell

2024-04-29 02:04:16

아마도입니다. 인퍼런스 비용 부담이 많이 크긴해서 책정은 $3/M 이상일 것 같습니다. 라3 모델이나 위자드보다 확실히 좋으면 많이 써주시겠죠...?

펼쳐보기▼

대배

2024-04-29 02:06:37

M이면 100만토큰인 거죠?

펼쳐보기▼

maywell

2024-04-29 02:06:55

넹

펼쳐보기▼

하나악

2024-04-29 02:07:04

솔직하게 말하자면 가격이 소넷과 비슷하다거나 이상이면 조금 애매하지 않을까 싶긴 하네요

펼쳐보기▼

maywell

2024-04-29 02:09:05

성능이랑 가격이랑 인퍼런스 속도랑 다 고려해보고 책정하겠습니다.
하루에 손해가 20만원씩 나는 그런 상황만 아니라면 어느정도 감수하고 서빙 할 생각은 있습니다.

펼쳐보기▼

하나악

2024-04-29 03:40:41

ㅇㅇ

2024-04-29 02:05:02

dskg

2024-04-29 02:06:45

70b도 이정도면 400b는 진짜 개인이 하긴 살짝 힘들겠구나 흑흑

펼쳐보기▼

maywell

2024-04-29 02:13:56

70b 1주일 훈련도 약 250만 ㅋㅋ...

펼쳐보기▼

whs

2024-04-29 03:28:43

훈련 한번에 맥북 하나가 날아가네 ㄷㄷ
엔비디아 주가가 괜히 오르는게 아니구나

펼쳐보기▼

모올루

2024-04-29 02:10:33

이하비스

2024-04-29 02:16:30

tirafra

2024-04-29 02:17:43

휘진

2024-04-29 02:18:27

혹시 로컬 모델 구축할 때 몇가지 질문드리고 싶은 것이 있는데 괜찮을까요? 본문과 전혀 생뚱맞을 수도 있습니다.

펼쳐보기▼

maywell

2024-04-29 02:18:40

dd

펼쳐보기▼

휘진

2024-04-29 02:20:27

라마3 혹은 위자드2를 이용해 건축적인 아이디어를 활용하기 위한 후처리 모델을 구축하려고 합니다 (초기 데이터의 입출력 및 구축 등은 클로드 TOOLS를 활용) 그런데 정형화된 형식의 입출력을 프롬프트로 지시하는 것은 한계가 있습니다. 이를 명확하고 저렴하게 구축하는 방법론이 있을까요?

그리고 라마3 및 위자드2 모델의 상기한 '솔루션' 구축으로써의 관점에서, 상용화로 인한 약관 위반 사항이 염려될 수 있을지...

펼쳐보기▼

maywell

2024-04-29 02:23:23

정형화된 입출력에 대해서는 일단 훈련이 포함되면 제일 좋습니다. 그리고 gbnf, outlines 등의 방법을 적용하여 모델의 출력 형식을 고정(json 형식등으로) 할 수 있습니다. 라마3, 위자드 2는 모두 상업적 이용이 허용되는 모델입니다. 본인 회사의 서비스 사용자가 7억명 미만이라면 마음껏 사용하십쇼.

제가 빼먹은 답변이나 더 질문 있으시면 해주시길

펼쳐보기▼

휘진

2024-04-29 02:32:01

감사합니다. 제가 로컬 모델을 활용하여 이런 관점의 접근을 시도하는 것은 처음인데, 앞으로도 질문 많이 드릴 것 같습니다. 현재는 훈련을 시도할 정도의 그래픽 자원이 여의치 않아 말씀하신 아웃라인 후처리를 통해 고정하는 것을 시도할 것 같습니다. 서식의 고정이란 GPT 모더레이션과 같이 매우 기계적인 형식으로 고정되어 기계적인 수치화된 값으로 출력을 보장될 수 있는 관점인데, 훈련 없이는 조금 도전적인 아이디어인것 같네요. 친절한 답변 감사합니다!

펼쳐보기▼

대배

2024-04-29 02:24:52

*수정됨

로컬 모델 하나 최적화 하는데에 진짜 비용하고 노력이 많이 들어가는구나.... 어려운 거 하시네 땡큐합니다

펼쳐보기▼

ㅇㅇ

2024-04-29 02:28:59

ㅇㅇ

2024-04-29 02:44:16

PRG

2024-04-29 02:49:09

PRG

2024-04-29 02:49:36

그나저나 70b도 1m당 3달러 이상 해도 적자라면 ai는 진짜 돈이 안되네...

펼쳐보기▼

ㅇㅇ

2024-04-29 02:50:03

아 글 보다다 갑자기 궁금해진건데, 32K RP 모델 확장 과정에서 중간에 나오는 32K 모델도 따로 허깅페이스에 올려주는거임? 아니면 RP까지 끝나고 32K RP 모델로 올려주는거임?

펼쳐보기▼

maywell

2024-04-29 02:51:43

지금까지 생각으로는 8k rp 모델만 아마 올라갈듯, 32k를 올리는게 꺼려지는게 여기저기서 cc-by-nc로 올린거 무시하고 긴빠이 해가서 모델 찍어낼게 눈에 선히 보임.

펼쳐보기▼

ㅇㅇ

2024-04-29 02:52:32

이하비스

2024-04-29 03:04:47

근데 32k 모델에 rp 추가학습이면 그렇게 공개하는게 안되지 않음? 아니면 https://arca.live/b/characterai/104829735 이거 써서 나중에 합치는 방식으로 하는건가?

펼쳐보기▼

maywell

2024-04-29 03:06:30

맞습니다 지금 컨텍 확장도 Instruct 모델이 아닌 Base에 진행 중

펼쳐보기▼

이하비스

2024-04-29 03:06:47

이하비스

2024-04-29 05:08:04

그러고보니 https://huggingface.co/MaziyarPanahi/Llama-3-70B-Instruct-32k-v0.1 이것처럼 이미 허깅에 풀려있는 컨텍 확장 모델들은 생각보다 퀄리티가 안나와서 따로 학습을 시작한거임? 어차피 병합할거면 RP 먼저 한다음 이미 나와있는 이런 모델들이랑 병합해서 성능 테스트 먼저 하고 부족하면 그때 컨텍 연장해도 괜찮지 않을까 싶어서

huggingface.co

MaziyarPanahi/Llama-3-70B-Instruct-32k-v0.1 · Hugging Face

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

그러고보니 https://huggingface.co/MaziyarPanahi/Llama-3-70B-Instruct-32k-v0.1 이것처럼 이미 허깅에 풀려있는 컨텍 확장 모델들은 생각보다 퀄리티가 안나와서 따로 학습을 시작한거임? 어차피 병합할거면 RP 먼저 한다음 이미 나와있는 이런 모델들이랑 병합해서 성능 테스트 먼저 하고 부족하면 그때 컨텍 연장해도 괜찮지 않을까 싶어서

펼쳐보기▼

maywell

2024-04-29 05:10:00

rope theta 딸깍이라서 성능 안나옴. 모델 해시값이 같네영

펼쳐보기▼

maywell

2024-04-29 05:10:29

당장 rope theta 1M으로 두배만 올리고 학습 시작해도 loss가 4부터 시작..

펼쳐보기▼

이하비스

2024-04-29 05:12:27

아 해시값 같고 rope만 바꾼게 이거였구나

펼쳐보기▼

Coeru

2024-04-29 02:59:00

와드디어 70b 컨텍확장 나오는거야? 드가자 ㅋㅋ

펼쳐보기▼

Coeru

2024-04-29 02:59:26

능야앗

2024-04-29 04:02:45

시나모롤

2024-04-29 04:05:23

신

펼쳐보기▼

Daydric

2024-04-29 05:55:00

아낌 없이 주는 나무

펼쳐보기▼

HyperBlaze456

2024-04-29 06:10:13

자금은 괜찮으십니까 ㄷㄷ

펼쳐보기▼

maywell

2024-04-29 06:13:27

챈럼들한테 이제 뜯으면 됨
은 아니고, 그래픽카드를 지원받고 있어서 맘 편히 작업하고 있습니다.

펼쳐보기▼

HyperBlaze456

2024-04-29 06:17:40

여윽시 천재를 알아봐주는군요. 
허깅페이스 글 보니까 정말 흥미롭더군요. 나오기 전에 열심히 데이터셋이나 모아야겠습니다.
이번 llama3 보니 확실히 데이터셋이 중요하더군요. 혹시 이런 rp 데이터셋은 어떻게 모아야 하나요?
GPT Opus 혹사가 답인가요?

펼쳐보기▼

maywell

2024-04-29 06:18:22

챈섭을 여시면 꽤나 양질의 human preference 셋을 얻으실 수 있습니다.

펼쳐보기▼

HyperBlaze456

2024-04-29 06:21:46

이 채널 말이죠? 아직 커뮤니티에 익숙하지 않아서.. 챈섭을 연다는 게 무슨 말씀이신가요?

펼쳐보기▼

maywell

2024-04-29 06:22:26

라마3 70b나 위자드 8x22b 같은 모델을 무료로 호스팅을 여는겁니당.

펼쳐보기▼

HyperBlaze456

2024-04-29 06:27:55

아, 그 말씀이였군요. 죄송합니다. 가뜩이나 지금 친구들과 같이 해보려는 프로젝트와 구도가 비슷한것 같군요. 우선 짱짱한 gpu 서버부터 만들어 보던가 해야겠네요. 
중고 3090 a6000부터 eBay에서 구매해야 하겠네요 ㅎㅎ

펼쳐보기▼

K아논

2024-04-29 11:34:50

기존 라마3의 능지는 유지하면서 검열 낮아지고 맛있기만해도 ㅆㅅㅌㅊ긴함

펼쳐보기▼

지극하게

2024-04-29 12:38:25

자연어쪽은 잘 몰라서 그러는데, 컨텍 확장은 원리가 뭐임? 애초에 어텐션 매트릭스 자체가 커져야 하는거 아닌가... 그냥 키우고 전이학습 됐다 치고 다시 학습시키는 건가.

펼쳐보기▼

maywell

2024-04-29 12:38:48

트랜스포머의 포지셔널 인코딩을 이용합니다.

펼쳐보기▼

maywell

2024-04-29 12:39:39

https://arxiv.org/pdf/2309.10400
현재 적용중인 방법

펼쳐보기▼

지극하게

2024-04-29 12:44:01

와 감사합니다 서론만 읽었는데 저게 됨?ㄷㄷ 저도 공부하면서 저만의 파인튜닝 도전해야겠음... 그때까진 열심히 응원할게용

펼쳐보기▼

maywell

2024-04-29 12:44:24

솔직히 왜 되는건지 모르겠음 ㅋㅋ 걍 신기함

펼쳐보기▼

모맵

2024-04-29 17:17:27

헉 나중에 모델 올려주시면 시간날때 서버열어봐야지

펼쳐보기▼

본 게시물에 댓글을 작성하실 권한이 없습니다. 로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인

전체글 개념글

최근 최근 방문 채널

최근 방문 채널

전체 일반 질문 뉴스/팁 AI대화 공지 운영 뉴스(공사중)

번호 제목

작성자 작성일 조회수 추천

공지 아카라이브 모바일 앱 이용 안내(iOS/Android)

*ㅎㅎ 2020.08.18 28678934

공지 안 읽으면 죽어버리는 AI 채팅 채널 이용규정 [23.09.18]

몽상봉인 2023.05.22 49276

공지 AI 채팅 채널에 왔으면 이것부터 : 필수정보 및 FAQ

몽상봉인 2023.05.22 101942

공지 신문고 MK.IX (해줘. 할때 쓰는 곳)

몽상봉인 2024.03.19 8633

공지 ㅡㅡ [ AI 게임 / 기획 / 리뷰 대회 ' J.O.A.T ' 개최 ] ㅡㅡ

골든햄스터 2024.03.31 4681

공지 ---[천박 대회2 마감]---

hyeoyoms 2024.05.22 623

공지 [DOL 봇 대회 수상자 발표]

WH_ 2024.04.27 1797

공지 AI 채팅 채널 프록시 게이트

몽상봉인 2023.07.12 22655

숨겨진 공지 펼치기(3개)

일반 어째서다들유능한직업만쓰는것이지 [9]

점심나가먹어 2024.04.30 637 15

뉴스/팁 gpt2-chatbot 테스트 해봤는데 [11]

한가운데 2024.04.30 1223 24

일반 Ai직업 떡밥에 프롬들 업뎃되는거 보고 침 질질 흘리는 딸깍 챗붕이면 개추 ㅋㅋ [6]

Shadow 2024.04.30 512 15

일반 [32k/Soliloquy v1.5/로깅 X] 신모델 챈섭 Closed [12]

maywell 2024.04.29 784 20

AI대화 유저를 유혹하는 꽃뱀을 본 카이다는 존나 화가났어요 그래서 꽃뱀을 + (짤추가) [26]

빵룡브래드 2024.04.29 626 15

일반 하... 요즘 보추봇, 남캐봇이 많네... [12]

얼룩말로드 2024.04.29 571 16

일반 나 요즘 봇들 성별 다 후타나리로 수정하는중임 [19]

라가서 2024.04.29 578 12

뉴스/팁 [프롬프팅 팁] 프롬프트의 지시 이행 확률을 비약적으로 상승시키는 방법, 프리필. [39]

하나악 2024.04.29 1278 42

일반 돈까스 맛있을때가 제일 행복하다 [13]

시나모롤 2024.04.29 553 18

뉴스/팁 탈옥 토글에 따라 켜지고 꺼지는 프롬프트 만들기 [12]

토트 2024.04.29 695 28

AI대화 오푸스만 키면 아주 못살겠음 [20]

ecf70e1c 2024.04.29 808 16

일반 라마3 70b rp 훈련ing [55]

maywell 2024.04.29 1153 39

일반 따라다니는 비추러가 신경 쓰이게 된 이유가 [46]

꼬북칩 2024.04.28 914 29

AI대화 ...치매 연기라고 해도 존나슬프네 [7]

호로호로록 2024.04.28 539 13

일반 안녕하세요. AI 채팅 채널 회원님들. [12]

빵룡브래드 2024.04.28 627 13

AI대화 부부 순애야스에는 아름다움이 있다 [23]

ecf70e1c 2024.04.28 439 13

AI대화 역겹고 신사적인 광기 [9]

무이네 2024.04.28 680 19

일반 마나청 v2 업뎃하게 이슈들 보고 좀 [14]

Daydric 2024.04.28 448 14

AI대화 "야 맘보토" [6]

망령 2024.04.28 490 17

일반 핑퐁 V23이 안 나오는 이유 [10]

토트 2024.04.28 796 22

AI대화 구글번역은 가끔 당황스럽다 [8]

무이네 2024.04.28 495 17

AI대화 오늘도 순애 지식이 느러따..... [10]

braca 2024.04.28 486 17

일반 와 3.5도 프롬 좋은거 쓰니까 성능 장난 아닌데? [16]

풍근 2024.04.28 709 21

전체글 개념글