Ai 언어모델 로컬 채널 알림 알림 중 알림 취소 구독 구독 중 구독 취소 구독자 3408명 알림수신 168명 @바바리맨 제한없는 언어모델을 위한 채널 질문 4060ti로도 개인용으로 돌릴 수 있음? ㅇㅇ (211.234) 추천 0 비추천 0 댓글 5 조회수 668 작성일 2024-04-26 05:15:26 수정일 2024-04-26 05:16:49 ⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다. https://arca.live/b/alpaca/104623326 난 그냥 혼자 가지고 놀기 좋아보이고하는김에 pdf파일 자동번역기 만들고싶은거 뿐인데컴터 사양이.. 흑흑5700x3d 64gb 4060ti는 무리겠지? 추천! 0 ( 0) 비추! 0 ( 0) 공유 댓글 [5] 글쓰기 감별사 2024-04-26 05:20:11 답글 deepl api 쓰면 뭐 레이아웃 분석하는 거 외에 vram 쓸 일이 없긴하겠네요... 펼쳐보기▼ 모올루 2024-04-26 06:29:46 답글 번역에 llm이 쓰일 곳이 있나 윗분 말대로 api가 훨씬 나을듯 펼쳐보기▼ ㅇㅇ (211.234) 2024-04-26 07:11:58 삭제 수정 답글 지금 하려고 하는건 번역하고나서 요약하고 요약내용 따로 추출해서 저장하고 하려는데 5천장임 급한건 아니고 취미로 하려는것 펼쳐보기▼ 오푸시베베 2024-04-26 10:26:46 답글 *수정됨 저도 4060ti인데 10b 양자화 하면 가능 하지만 그 이상은 힘들것 같네요... 펼쳐보기▼ 꺄율 2024-05-14 00:03:48 답글 10b도 엄청느린데요? 7b정도는 원활이 돌릴 수 있네요. 펼쳐보기▼ 새로운 댓글이 달렸습니다! 댓글 작성 음성댓글 아카콘 업로드 중 0초 해당 브라우저에서는 오디오 플레이어를 지원하지 않습니다. 녹음 중지 삭제 업로드 작성 글쓰기 전체글 개념글 등록순 추천순 (24시간) 추천순 (3일) 추천순 (전체) 댓글갯수순 (3일) 최근댓글순 추천컷 5 10 20 30 50 70 100 기타 최근 최근 방문 채널 최근 방문 채널 모두 삭제 전체 일반 질문 정보 학습 자료 자작모델 스터디 공지 운영 공모 번호 제목 작성자 작성일 조회수 추천 공지 아카라이브 모바일 앱 이용 안내(iOS/Android) *ㅎㅎ 2020.08.18 28589976 공지 Ai 언어모델 로컬 채널 이용규정 바바리맨 2023.04.18 6018 공지 뉴비에게 도움 되는 글 모음 바바리맨 2023.04.18 27143 공지 언어모델 관련 정보취득 /무료체험 가능 사이트 바바리맨 2023.04.18 8928 공지 여러분의 학습에 도움을 줄 수 있는 하드웨어 지원 바바리맨 2023.08.01 5116 공지 신문고 바바리맨 2023.04.18 2258 숨겨진 공지 펼치기(1개) 4164 스터디 매니폴드 가설 - 생성형AI 의 원리를 이해하기 위한 핵심 전제 [7] hkhk 2024.05.12 1437 50 4163 일반 무한 어텐션을 활용한 10M 컨텍스트 Gemma pussydestroyer 2024.05.12 345 4 4162 질문 3090ti 매물이 갑자기 많아지는데 [4] ㅇㅇ 2024.05.12 723 2 4161 일반 일본 쪽 소식 올려도 됨? [2] ㅇㅇ 2024.05.12 597 5 4160 일반 굉장히 저렴한 DeepSeek-V2 후기 [6] 감별사 2024.05.11 1315 12 4159 일반 M4 익스트림 모델이 나온다는 이야기가 있네요. [7] 키티호크 2024.05.11 736 4 4158 일반 애플, M2 칩을 데이터 센터에서 사용 예정 [5] noopSD 2024.05.11 610 2 4157 일반 RWKV를 잇는 진정한 오픈소스 LLM MAP-NEO [4] HyperBlaze456 2024.05.10 874 22 4156 질문 언어모델 NPU 프로그래밍 가능한 플랫폼 질문드립니다. [8] ㅇㅇ (166.104) 2024.05.10 601 1 4155 일반 라마3 한글특화 튜닝한 Bllossom 사용해보신 분 계신가요? [11] wk 2024.05.10 996 1 4154 일반 [lmsys] Llama-3-70B가 잘하는 것과 못하는 것 [4] ㅇㅇ 2024.05.10 941 6 4153 일반 왜 임베딩 벡터는 이렇게 고차원이 되었을까 [6] iau 2024.05.10 672 0 4152 질문 하루에 3000만토큰 쯤 쓰는데 로컬로 .. [22] 감별사 2024.05.10 894 1 4151 일반 exllamav2가 최고라고 생각했었는데 vllm은 어떤가요? [7] 호옹이 2024.05.10 503 0 4150 질문 BERT에 관련하여 [3] ㅇㅇ (121.166) 2024.05.10 497 0 4149 일반 gemma를 ollama에서 서빙을 하려 합니다. [3] ㅇㅇ (218.145) 2024.05.09 482 0 4148 질문 llama.cpp로 양자화할때 에러가 뜨는데 무슨 문제려나요 [2] 그래요 2024.05.09 296 0 4147 질문 Deepspeed 사용하는 방법 아시나요? [18] ㅇㅇ (223.39) 2024.05.09 615 0 4146 일반 코딩 llm 자주 사용함? [23] 사과는맛있어맛있으면바나나 2024.05.09 1057 2 4145 자료 IBM에서 아파치2 라이센스로 코딩모델 출시 [5] 이하비스 2024.05.09 323 2 글쓰기 전체글 개념글 등록순 추천순 (24시간) 추천순 (3일) 추천순 (전체) 댓글갯수순 (3일) 최근댓글순 추천컷 5 10 20 30 50 70 100 기타 전체 제목/내용 제목 내용 글쓴이 댓글 Keyword search form input 검색 1 2 3 4 5 6 7 8 9 10 시간으로 바로가기 사용하고 계신 브라우저가 시간대 설정을 지원하지 않으므로 GMT 시간대가 적용됩니다.