(오푸스로 번역함)


지난 2년 동안, 제 팀과 저는 CM3 논문부터 MM-스케일링 법칙, CM3Leon, 그 외 반 다스 정도의 논문들을 통해 초기 융합, 다중 모달(MM) 토큰 입출력 접근법의 기반을 다지는 작업을 공개적으로 해왔습니다. 


사실 우리가 뒤처져 있긴 하지만, GPT-4가 출시되었을 때보다 OpenAI에 훨씬 더 가까워졌습니다. 우리는 확장 가능한 레시피, 다중 모달과 연계된 아키텍처, 이런 모델을 학습시키는 방법에 대한 과학, 그리고 무엇보다 OpenAI 외에 이 연구 분야에서 가장 강력한 팀을 구축했습니다. 


약 2개월 후면 오픈 소스에 충분한 지식이 축적되어 사람들이 자체적으로 GPT-4o와 유사한 모델을 사전 학습할 수 있을 것이라고 확신합니다. 우리는 이를 실현하기 위해 열심히 노력하고 있습니다.