OpenAI API 첫 자동화 전에 정할 입력·출력·비용·보안

1. AI가 맡을 일과 맡기지 않을 일을 한 문장으로

입력 요약, 분류, 초안 작성처럼 결과를 검토할 수 있는 작은 작업부터 시작하세요. 결제, 삭제, 공개 게시처럼 되돌리기 어려운 행동은 별도 승인 단계와 허용 범위를 설계해야 합니다.

• AI가 할 일: 요약·분류·초안처럼 사람이 검토할 수 있는 작업
• AI에게 맡기지 않을 일: 결제·삭제·외부 발송 같은 되돌리기 어려운 행동

2. API 키는 서버 쪽 비밀로 보관

OpenAI 공식 빠른 시작은 API 키를 안전한 위치와 환경 변수에 보관하는 흐름을 안내합니다. 키를 웹페이지, 모바일 앱 번들, 공개 저장소와 로그에 넣지 말고 개발·운영 키를 분리하며 노출 시 교체할 수 있게 하세요.

• 키는 서버 환경 변수나 비밀 관리 도구에만 저장
• 개발용과 운영용 키를 분리하고 교체 절차 문서화

3. 자유문장보다 필요한 출력 계약을 먼저

후속 코드가 사용할 값은 필드, 자료형, 허용값과 누락 처리 규칙을 정합니다. 모델 답변을 명령이나 SQL로 바로 실행하지 말고 스키마 검사, 허용 목록과 길이 제한을 통과시킨 뒤 사용하세요.

• 출력 필드·자료형·허용값을 JSON 스키마 등으로 정의
• 검증에 실패한 응답은 사용하지 않고 재요청 또는 사람 검토로 보내기

4. 근거가 필요한 답은 출처를 함께 저장

최신 정보나 회사 내부 자료를 묻는 작업이라면 어떤 검색·파일 결과를 근거로 썼는지 기록하세요. 모델의 일반 지식만으로 가격, 법률, 의료 판단과 운영 상태를 확정하지 않습니다.

• 답변에 사용한 검색 결과·파일 ID를 함께 저장
• 최신성이 필요한 정보는 원문 확인 단계를 별도로 두기

5. 비용과 지연의 상한을 정합니다

요청당 최대 입력·출력 크기, 하루 호출 수, 시간 제한과 중단 조건을 정하세요. 긴 문서를 매번 통째로 보내기보다 필요한 부분을 찾고 반복되는 지침은 안정적으로 재사용하는 구조를 검토합니다.

• 요청당 최대 입력·출력 길이와 하루 호출 수 상한 설정
• 상한 도달 시 알림을 보내고 자동 처리 중단

6. 실패와 중복 실행을 정상 시나리오로

네트워크 오류, 제한 응답과 불완전 출력이 발생할 수 있습니다. 재시도 가능한 오류만 제한적으로 반복하고, 같은 요청이 두 번 처리돼도 외부 작업이 중복되지 않도록 작업 ID와 상태를 저장하세요.

• 재시도 대상 오류와 즉시 중단할 오류를 구분
• 작업 ID로 같은 요청의 중복 처리를 막기

7. 로그에서 개인정보와 비밀을 분리

문제 해결에 필요한 요청 ID, 처리 시간과 오류 유형은 남기되 API 키, 전체 대화와 민감한 사용자 자료를 기본 로그에 복사하지 마세요. 보존 기간과 열람 권한도 함께 정합니다.

• 로그에는 요청 ID·처리 시간·오류 유형만 기본 저장
• 원문 대화가 필요하면 별도 보관소와 보존 기간을 정하기

자주 하는 실수

첫 자동화에서 사고가 나는 경우는 대부분 모델의 답을 검사 없이 다음 단계에 바로 넘겼을 때입니다. 또 테스트 중에는 호출량이 적어 드러나지 않던 비용과 제한 문제가 실제 데이터를 넣는 순간 나타나기도 합니다.

• API 키를 프런트엔드 코드나 공개 저장소에 넣기
• 모델 출력을 명령어나 SQL로 그대로 실행하기
• 재시도 로직 때문에 같은 메일·결제·게시가 두 번 실행되기
• 전체 대화와 개인정보를 기본 로그에 남기기

적용 예시: 문의 메일 분류 자동화

가상의 예로, 고객 문의 메일을 “결제·배송·기타” 세 가지로 분류하는 자동화를 만든다고 해 보겠습니다. 모델에게는 분류와 한 줄 요약만 맡기고, 출력은 category와 summary 두 필드로 고정합니다. category가 허용값이 아니면 “사람 확인” 대기열로 보내고, 답장 발송은 자동화하지 않습니다. 하루 호출 상한을 정해 두고, 메일 원문은 로그에 남기지 않고 메일 ID만 기록합니다. 2주 동안 사람이 분류 결과를 검토해 오류 비율을 확인한 뒤 적용 범위를 넓힐지 결정합니다.

다시 확인할 때

내용 업데이트: 2026-09-30

• 사용 모델이나 API 기능을 바꾸는 경우
• 개인정보 또는 외부 작업 권한을 추가하는 경우
• 요청량과 비용 상한을 조정하는 경우

공식 자료에서 다시 확인