https://the-decoder.com/openai-introduces-batch-api-with-up-to-50-discount-for-asynchronous-tasks/
https://platform.openai.com/docs/api-reference/batch/create

OpenAI는 요약, 번역, 이미지 분류와 같은 비동기 API 작업에 대해 최대 50% 할인을 제공하는 새로운 Batch API를 도입합니다. Batch API를 사용하면 24시간 이내에 다수의 API 요청에 대한 결과를 얻을 수 있습니다. 이를 위해서는 배치 형식의 요청이 포함된 JSONL 파일을 업로드해야 합니다. 현재는 /v1/chat/completions 엔드포인트만 지원됩니다. 요청 파일 및 엔드포인트 외에도 처리를 위한 24시간 창도 지정해야 합니다. 선택적으로 사용자 정의 메타데이터를 배치에 추가할 수 있습니다. 새로운 배치 API는 비용을 절감하고 비동기 작업에 더 높은 제한을 제공합니다. OpenAI는 이를 통해 많은 요청이 필요한 애플리케이션에서 API를 보다 효율적으로 사용할 수 있을 것으로 기대하고 있습니다.