Meta는 80억에서 700억 개의 매개변수 범위에 이르는 사전 학습되고 미세 조정된 생성 텍스트 모델 모음인 Meta Llama 3 LLM(대형 언어 모델) 제품군을 개발하여 공개적으로 출시했습니다.


Llama 3이라는 미세 조정 버전은 대화 사용 사례에 최적화되어 있습니다. Llama 3 모델은 우리가 테스트한 벤치마크에서 좋은 성능을 발휘했으며, 유용성과 안전성에 대한 인간의 평가에서는 인기 있는 비공개 소스 모델과 동등했습니다.


이 제안을 통해 Llama-3-8B 추론 API에 액세스하고 Azure AI Studio에서 호스팅된 미세 조정을 수행할 수 있습니다. Azure AI Studio는 Generative AI 앱을 빌드하기 위한 완벽한 플랫폼입니다. AI Studio에는 모델을 탐색할 수 있는 플레이그라운드, 신속한 엔지니어링을 위한 Prompt Flow, 데이터를 앱에 통합할 수 있는 RAG(Retrieval Augmented Generation)와 같은 기능이 포함되어 있습니다.


추론 API는 모델로 점수를 매길 때 입력 및 출력 토큰에 대해 종량제 기준으로 요금이 청구됩니다. 미세 조정을 지원하는 모델에 대한 미세 조정 작업은 시간당 비용이 청구되며, 미세 조정 모델에 대한 추론도 사용된 토큰과 시간당 호스팅 요금으로 청구됩니다.


이 제안은 Azure AI Studio와 통합되어 있습니다. 이 제안을 구독하고 모델을 사용하려면 Azure AI Studio로 이동하라는 메시지가 표시됩니다.


https://azuremarketplace.microsoft.com/en-us/marketplace/apps/metagenai.meta-llama-3-8b-chat-offer