https://www.perplexity.ai/search/translate-it-into-gnDCnrdPSlK_ojXQ4VRz4A

OpenAI, ChatGPT와 DALL-E와 같은 AI 혁신을 이끌고 있는 조직은 현재 AI 모델이 책임감 있고 연령에 적합한 방식으로 Not Safe for Work (NSFW) 콘텐츠를 생성할 수 있는 가능성을 모색하고 있습니다. 이는 이전에 명시적인 콘텐츠 생성을 엄격히 금지했던 입장에서 상당한 변화를 나타냅니다. NSFW 콘텐츠 생성에 대한 탐구에는 에로티카부터 극단적인 고어에 이르기까지 다양한 자료가 포함되며, 사용자들이 OpenAI 서비스를 다양한 창의적 시나리오에서 사용할 수 있는 유연성을 제공하는 동시에 사용 정책을 준수하고 안전과 합법성을 보장하는 것을 목표로 합니다.

### 탐구에서 도출된 주요 사항

- **정책 재평가**: OpenAI는 딥페이크 포르노그래피나 미성년자를 성적 행위로 묘사하는 콘텐츠 생성과 같은 오용을 방지하기 위한 엄격한 지침 내에서 명시적인 텍스트와 이미지 생성을 허용할 가능성을 고려하여 NSFW 콘텐츠에 대한 정책을 재평가하고 있습니다.

- **모델 명세서**: OpenAI는 NSFW 콘텐츠 생성을 탐구하려는 의도를 설명하는 모델 명세서를 발표했습니다. 이 문서는 연령에 적합한 맥락에서 그러한 콘텐츠를 생성하는 것의 중요성을 강조하며, OpenAI의 AI 모델 행동에 대한 피드백을 수집하려는 더 광범위한 노력의 일환입니다.

- **딥페이크 제외**: NSFW 콘텐츠 탐구에도 불구하고 OpenAI는 딥페이크에 대한 입장을 고수하고 있습니다. 조직은 딥페이크 콘텐츠와 관련된 상당한 프라이버시 우려와 잠재적 피해 가능성으로 인해 딥페이크 콘텐츠 생성을 가능하게 하지 않을 것임을 분명히 했습니다.

- **커뮤니티 및 개발자 피드백**: OpenAI의 NSFW 콘텐츠 탐구는 개발자 및 사용자 커뮤니티 내에서 토론을 불러일으켰습니다. 일부 사용자는 창의적이고 개인적인 사용을 위해 콘텐츠 생성에 대한 보다 개방적인 접근 방식에 관심을 표명하는 반면, 다른 사용자들은 명시적인 콘텐츠 생성의 잠재적 남용과 윤리적 함의에 대해 우려를 제기합니다.

- **창의적 표현의 잠재력**: OpenAI는 성이나 나체와 관련된 콘텐츠가 사용자에게 중요한 시나리오를 포함하여 창의적 표현을 위한 플랫폼을 제공하는 것을 목표로 합니다. 조직은 창의적 자유에 대한 필요성과 안전 및 법적, 윤리적 기준 존중의 중요성 사이에서 균형을 맞추면서 연령에 적합한 맥락에서 그러한 콘텐츠를 책임감 있게 제공하는 방법을 고려하고 있습니다.

### 결론

OpenAI의 NSFW 콘텐츠를 책임감 있게 생성하기 위한 탐구는 AI 시대의 콘텐츠 조정 및 생성에 대한 미묘한 접근 방식을 나타냅니다. 오용을 방지하기 위한 엄격한 지침을 유지하면서 창의적 표현의 잠재력을 고려함으로써 OpenAI는 디지털 콘텐츠 생성의 복잡한 지형을 탐색하는 것을 목표로 합니다. AI 생성 콘텐츠에 대한 적절한 경계에 대해 피드백을 수집하고 토론에 참여하려는 조직의 노력은 책임감 있는 AI 개발 및 사용에 대한 헌신을 반영합니다.

출처