[gunicorn] 메모리 누수 현상, max_requests로 해결하자.
발단 최근 회사의 한 프로젝트를 크게 리팩토링 할 일이 있었는데, 해당 내용을 배포한 이후 메모리 누수 현상이 발생하기 시작했다. 메모리 사용량이 계속 오르기만 하다 결국 인스턴스가 죽어버린다. 추정 중인 원인은, gunicorn이 복잡한 request, 즉 응답에 시간이 오래 걸리는 request에 대한 메모리 해제를 제대로 해주지 못하는 것이다. 구글링을 좀 해보면, 여기저기서 gunicorn의 메모리 누수 현상 때문에 곡소리를 내고 있다는 것을 알 수 있다. gunicorn은 자신들의 메모리 누수 현상을 인지하고 있으며, 이를 대비한 조금 과격한 해결책을 구비해 놓았다. 바로 max_requests 옵션이다. max_requests란? gunicorn엔 max_requests와 max_request..
Back-end/FastAPI
2023. 5. 29. 21:56
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- 개발자동아리
- mlops
- 토스
- S3+CloudFront
- 유난한도전
- 회고
- 백엔드
- 사이드프로젝트
- Triton Inference Server
- 정적웹사이트
- 모델 추론
- 규칙없음
- 웹사이트배포
- s3
- 개발자회고
- Ai
- Python
- memory leak
- Gunicorn
- 모델 추론 최적화
- AWS
- uvicorn
- 메모리 누수
- CloudFront
- 넷플릭스
- ddd
- 조직문화
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
글 보관함