Ai 언어모델 로컬 채널 알림 알림 중 알림 취소 구독 구독 중 구독 취소 구독자 3404명 알림수신 168명 @바바리맨 제한없는 언어모델을 위한 채널 일반 M4 익스트림 모델이 나온다는 이야기가 있네요. 키티호크 추천 4 비추천 0 댓글 7 조회수 729 작성일 2024-05-11 05:19:24 https://arca.live/b/alpaca/105914029 최고 모델은 m1울트라의 램보다 2배의 용량인500기가에 육박하는 램을 가진다는 말이 있던데이정도면 진짜 어마어마하게 커다란 모델을 굴릴 수 있게 되지 않을까요? 추천! 4 ( 0) 비추! 0 ( 0) 공유 댓글 [7] 글쓰기 그래요 2024-05-11 06:02:48 답글 500gb면 라마3 405b나 ms에서 공개로 풀지도 모르는(?) mai-1 500b도 돌아가려나요 펼쳐보기▼ ㅇㅇ (121.143) 2024-05-11 06:33:23 삭제 수정 답글 원본 돌리려면 대략 x2 램이 필요하다고 들은것같아요 펼쳐보기▼ 그래요 2024-05-11 07:25:22 답글 그럼 8비트로 로딩하면 되려나요 펼쳐보기▼ nekoneko8 2024-05-11 06:55:57 답글 써보시면 실제로는 prompt eval 속도가 너무 느려서 쓸게 못됩니다. 펼쳐보기▼ ㅇㅇ 2024-05-12 02:57:40 답글 아쉽네요 ㅠ 펼쳐보기▼ noopSD 2024-05-12 03:21:13 답글 *수정됨 M4 Extreme 이 M4 Ultra 2배 정도의 성능이고, M4 Ultra 가 M4 Max의 2배 정도라고 하면 BLAS Speed 가 4060Ti 정도 수준은 될테니 여전히 4090 보다는 느리지만, 느려도 쓸만한 수준까지는 기대할 수 있을 것 같습니다. 펼쳐보기▼ ㅇㅇ 2024-05-12 04:32:21 답글 오... 그래도 돌릴순 있겠네요!! 계산 감사합니다 펼쳐보기▼ 새로운 댓글이 달렸습니다! 댓글 작성 음성댓글 아카콘 업로드 중 0초 해당 브라우저에서는 오디오 플레이어를 지원하지 않습니다. 녹음 중지 삭제 업로드 작성 글쓰기 전체글 개념글 등록순 추천순 (24시간) 추천순 (3일) 추천순 (전체) 댓글갯수순 (3일) 최근댓글순 추천컷 5 10 20 30 50 70 100 기타 최근 최근 방문 채널 최근 방문 채널 모두 삭제 전체 일반 질문 정보 학습 자료 자작모델 스터디 공지 운영 공모 번호 제목 작성자 작성일 조회수 추천 공지 아카라이브 모바일 앱 이용 안내(iOS/Android) *ㅎㅎ 2020.08.18 28551966 공지 Ai 언어모델 로컬 채널 이용규정 바바리맨 2023.04.18 6010 공지 뉴비에게 도움 되는 글 모음 바바리맨 2023.04.18 27083 공지 언어모델 관련 정보취득 /무료체험 가능 사이트 바바리맨 2023.04.18 8905 공지 여러분의 학습에 도움을 줄 수 있는 하드웨어 지원 바바리맨 2023.08.01 5103 공지 신문고 바바리맨 2023.04.18 2245 숨겨진 공지 펼치기(1개) 4242 일반 오늘부로 deepseek에 대한 지지를 철회한다 [6] maywell 2024.05.24 99 1 4241 일반 오픈소스 8b 모델이 업스테이지 솔라를 추월 [4] maywell 2024.05.24 117 3 4240 일반 Vicuna에서 답변받은 내용을 가공할수있음 ? [2] ㅇㅇ (211.118) 2024.05.24 169 -2 4239 질문 간단한 질문드립니다! [1] ㅇㅇ (121.166) 2024.05.24 126 0 4238 일반 우바부가 잘아는사람있음? [2] ㅇㅇ (211.118) 2024.05.24 182 0 4237 질문 회사에 RAG 쓰시는 분들에게 질문 [13] ㅇㅇ (1.232) 2024.05.24 412 0 4236 일반 akallama ollama Modlefile template 오류 억장이 2024.05.24 106 0 4235 일반 앤트로픽이 밑에 소넷 작동원리를 파악한거를 금문교 클로드로 공개했네요 [4] 그래요 2024.05.24 331 6 4234 정보 Cohere에서 신규 모델(Aya 23 8B/35B) 나왔네요 [4] ㅇㅇ 2024.05.23 514 7 4233 일반 중국발 ai 덤핑에 대해서 말이 많긴 하네요. [6] 감별사 2024.05.23 531 5 4232 스터디 llama2.c 모델 학습 결과 [2] zzzzz5 2024.05.23 359 9 4231 일반 llama 3 70B -> 4x8B [1] zzzzz5 2024.05.23 553 8 4230 정보 MacOS chatgpt app waitlist 우회하는 방법 jackofmaster 2024.05.23 274 6 4229 질문 프롬프트 엔지니어링이라는 용어의 범주? [2] 초당옥수꾸 2024.05.23 354 0 4228 일반 흥미로운 일/영 번역모델이 나왔네요 [6] 한가운데 2024.05.23 414 5 4227 질문 unsloth에서 device map 설정 방법 아시는 분 계실까요? [2] ㅇㅇ (58.234) 2024.05.23 216 0 4226 질문 전력공학이나 전기공학 학습용 데이터같은것도있을까요? [1] ㅇㅇ (1.235) 2024.05.22 197 0 4225 정보 mistral 7b 0.3출시 [5] jackofmaster 2024.05.22 666 8 4224 일반 영향 있는 Lora 만드려면 몇번쯤 돌려야 하는거임? [1] 세법상법 2024.05.22 301 1 4223 스터디 딥러닝모델의 망각증상 (Catastrophic Forgetting)에 대한 고찰 [11] hkhk 2024.05.22 706 31 글쓰기 전체글 개념글 등록순 추천순 (24시간) 추천순 (3일) 추천순 (전체) 댓글갯수순 (3일) 최근댓글순 추천컷 5 10 20 30 50 70 100 기타 전체 제목/내용 제목 내용 글쓴이 댓글 Keyword search form input 검색 1 2 3 4 5 6 7 8 9 10 시간으로 바로가기 사용하고 계신 브라우저가 시간대 설정을 지원하지 않으므로 GMT 시간대가 적용됩니다.