임베딩 모델을 로컬로 기존 챗봇에 연동하여 굴려보고싶군요 ㅎㅎ
구독자 3398명
알림수신 167명
제한없는 언어모델을 위한 채널
일반
bge-m3 모델을 openai compatible api 방식으로 사용할 방법이 있을까요?
추천
0
비추천
0
댓글
1
조회수
612
작성일
수정일
댓글
[1]
글쓰기
angmond2
GitHub
GitHub - huggingface/text-embeddings-inference: A blazing fast inference solution for text embeddings models
A blazing fast inference solution for text embeddings models - huggingface/text-embeddings-inference
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
28511217
공지
Ai 언어모델 로컬 채널 이용규정
Ai 언어모델 로컬 채널 이용규정
5991
공지
뉴비에게 도움 되는 글 모음
뉴비에게 도움 되는 글 모음
26975
공지
언어모델 관련 정보취득 /무료체험 가능 사이트
8873
공지
여러분의 학습에 도움을 줄 수 있는 하드웨어 지원
5080
공지
신문고
2239
숨겨진 공지 펼치기(1개)
1534
일반
뻘글) 70B정도 되면 nvlink가 필요충분이구나
[7]
632
1
1533
일반
입문하면서 경험한 점들
[3]
718
3
1532
일반
하이파-클로바 테크 리포트
[12]
730
3
1531
일반
'호랑이' 한국어 LLM 리더보드가 나왔네요
[1]
770
4
1530
일반
뉴비) 파인튜닝시 데이터 포맷 질문
221
0
1529
일반
깔끔하게 정제된 데이터셋 있을까요?
[2]
478
0
1528
일반
혹시 PLM은 우바부가에서 돌리는 타 페이스북 모델이나 KoLlava와 같이 그냥 돌릴 수가 없나요?
[1]
243
0
1527
일반
p40을 구해왔는데 알고보니 cpu가 F
[7]
526
5
1526
일반
GPU에서 load_in_4bit 모델 추론시 속도
[4]
449
0
1525
일반
Mamba 리뷰 해봤습니다. (소리 이슈로 재업로드)
[15]
1162
22
1524
일반
Tesla P40 으로 저렴하게 멀티 GPU 사용하는게 막혔네요
[1]
1018
14
1523
일반
top_p top_k는 정말 잘 만든 파라미터인거 같아요
[6]
784
3
1522
일반
DBRX 검열 있네요
[1]
612
0
1521
일반
비트넷 b1.58 모델 재현 + 모델 공개
[4]
1310
18
1520
일반
수학 특화 모델 제작 프로젝트: EEVE-Math-10.8B
[8]
1500
26
1519
일반
llm은 언어 상관 없이 이해하는 걸까요?
[4]
617
0
1518
일반
어어 저거 어디가니
[3]
554
8
1517
일반
4090으로 라마2 파인튜닝 문의 드립니다.
[4]
852
0
1516
일반
LogicKor 리더보드 오픈
[31]
1869
25
1515
일반
Open devin
[1]
403
2