[OpenAI] ChatGPT API 오류 - 429 Too Many Requests

⚠️오류 발생

openAI ChatGPT를 연동하여 구현된 API에 문제가 발생하였다는 Issue를 접했다.

429 Too Many Requests 라는 오류가 발생했고, 문제의 원인을 찾기 시작했다.

첫 번째로 openAI의 Status를 확인했다. 종종 AWS의 서비스가 다운되는 경우를 보았어서 해당 문제일거라고 생각했다. 하지만 Status 확인 결과 아무런 문제가 없었다.

정상적으로 나오는 현재 상태

 

👌문제찾기

그럼 문제는 어디였을까?

해당 API의 Response를 확인했다.

확인 결과 Http Response Status는 429 Too Many Requests라고 나오고 있었고, 공식 문서 확인 결과 Rate Limit이 걸리는 경우에 해당 응답을 반환하고 있었다.

https://help.openai.com/en/articles/5955604-how-can-i-solve-429-too-many-requests-errors

사용량이 많은 API에서 openAI를 호출하고 있지만, 별도의 organization의 요청 제한을 걸었던 적은 없었기 때문에 갑자기 요청이 몰려서 분당 요청 제한에 걸린건가? 라고 생각했다. 

하지만, 실제로 요청이 더 몰리는 상황에 문제가 없는걸 확인했었고, 이게 진짜 문제가 아니라는걸 알았다.

 

✅ 문제해결

문제의 답 역시 공식 문서에 있었다.

credits가 부족한게 문제라고 생각했지만 여전히 이상한 점이 몇가지 있었다.

1. 신용카드 연결 후 자동 결제를 연결했음
2. Usage: Cost에 설정된 Limit의 25%밖에 사용하지 않았음
3. credits??

 

잘못 이해하고 있던 부분은, 사용량만큼 월말에 비용을 지불하는게 아니라 미리 크레딧을 충전해두고 API 사용시 크레딧을 소모하는 형태였다.

즉, 신용카드가 아니라 체크카드였다.

 

 

여기서 Credit balance 확인이 가능하다.

해당 메뉴에 가보면 Credit balance가 -0.02$ 로 보이고 있었다.

문제는 마스터 권한을 가진 계정으로 가서 credit 충전하여 해결하였다.

바로 해결되지는 않았고 일정 시간(약 10분) 이후에 반영되었음