https://the-decoder.com/openais-model-spec-aims-to-guide-ai-behavior-and-the-company-wants-your-input/
https://openai.com/index/introducing-the-model-spec/
https://cdn.openai.com/spec/model-spec-2024-05-08.html

OpenAI는 "모델 사양"의 공개를 통해 AI 모델이 어떻게 작동해야 하는지에 대한 공개적인 토론을 촉진하고자 합니다. 이 문서는 모델 동작 설계를 위한 목표, 규칙, 표준 동작을 정의합니다.

OpenAI는 OpenAI API와 ChatGPT에서 AI 모델의 바람직한 동작을 명시하는 문서인 '모델 사양'의 첫 번째 버전을 공개했다고 발표했습니다. 이 사양에는 일련의 핵심 목표, 규칙 및 표준 동작이 포함되어 있습니다. OpenAI에 따르면 모델 동작, 즉 모델이 사용자 입력에 반응하는 방식은 사람들이 AI와 상호 작용하는 방식에 매우 중요합니다. 그러나 모델은 명시적으로 프로그래밍되는 것이 아니라 다양한 데이터를 통해 학습하기 때문에 이러한 동작을 설계하는 것은 아직 초기 단계의 과학입니다.

모델 사양은 모델 동작을 형성하는 데 있어 OpenAI의 문서, 연구 및 경험을 반영할 뿐만 아니라 향후 모델 개발에 영향을 미칠 지속적인 작업을 반영한다고 회사 측은 설명했습니다.

목표, 규칙, 표준 행동 - OpenAI는 다단계 접근 방식을 추구합니다.

모델 사양은 연구자와 'AI 트레이너'가 인간 피드백을 통한 강화 학습(RLHF)을 위한 데이터를 생성하기 위한 가이드라인 역할을 합니다. 장기적으로 OpenAI는 AI 모델이 모델 사양을 통해 직접 학습할 수 있는지 여부를 조사하고자 합니다.

모델 사양은 목표, 규칙, 표준 동작을 구분합니다:

1. 목표는 바람직한 행동에 대한 일반적인 방향을 제시하지만, 너무 광범위하여 구체적인 지침을 제시하지 못하는 경우가 많습니다.
2. 규칙은 목표 간의 충돌을 해결하고 안전과 적법성을 보장합니다. 개발자나 사용자가 규칙을 재정의할 수 없습니다.
3. 표준 행동은 원칙에 부합하는 행동을 개괄적으로 설명하지만 궁극적으로 개발자와 사용자에게 제어권을 맡깁니다. 또한 상충하는 목표의 우선순위를 정하는 방법도 보여줍니다.

목표는 개발자와 최종 사용자를 지원하고, 인류를 이롭게 하며, OpenAI를 잘 대변하는 것입니다. 규칙에는 우선순위에 따른 지침 준수, 법률 준수, 불법적이거나 유해한 콘텐츠 피하기, 저작권 및 인격권 보호 등이 포함됩니다.

표준 행동에는 선한 의도를 가정하고, 명확한 질문을 하고, 객관적이고, 영향력 있는 의견을 피하고, 불확실성을 표현하고, 길이 제한을 준수하면서 효율적으로 행동하는 것이 포함됩니다.

OpenAI: 모델 사양은 계속 발전할 것입니다.

Facebook은 이번 릴리스가 모델의 작동 방식, 바람직한 모델 동작의 정의, 대중이 이러한 논의에 가장 잘 참여할 수 있는 방법에 대한 지속적인 공개 토론의 일환이라고 보고 있습니다. OpenAI는 이제 정책 입안자, 신뢰할 수 있는 기관, 전문가 등 전 세계의 대표적 이해관계자를 참여시키는 것을 목표로 하고 있습니다.

앞으로 2주 동안 OpenAI는 일반 대중을 대상으로 모델 사양의 목표, 규칙, 표준에 대한 피드백을 제공할 것을 요청합니다. 모델 자체와 마찬가지로 모델 사양도 접수된 피드백을 바탕으로 지속적으로 개발될 것입니다.

전체 모델 사양은 문서에서 확인할 수 있습니다.