발단과 전개 Triton Inference Server - python backend에서 로깅 목적으로 문자열을 출력하려니 다음과 같은 오류가 뜬다. triton inference server UnicodeEncodeError: 'ascii' codec can't encode character '\xb6' in position 702: ordinal not in range(128) "\xb6" 은 "¶" 이 문자다. 해결 방법 조금 찾아보니, 다음과 같은 이슈를 찾을 수 있었다. https://github.com/triton-inference-server/server/issues/4708 can't print chinese in Python backend · Issue #4708 · triton-infe..

발단과 전개 이번에 새로 제작한 페이지를 배포했는데, 구글에 검색할 시 도메인이 아닌 IP가 노출된다는 제보를 기획팀을 통해 받게 되었다. 가장 먼저 한 일은 해당 페이지가 배포되고 있는 인스턴스의 IP를 확인하는 일이었다. 그러나 눈을 씻고 찾아봐도 저 구글 검색에 나타나는 IP를 가진 인스턴스는 존재하지 않았다. 구글의 크롤러를 원망하며 곰곰히 생각을 해보다가 EC2 로드밸런서 IP가 아닐까 하는 생각에 확인해보았다. nslookup 명령어를 통해 로드밸런서의 dns와 연결된 IP를 확인할 수 있다. 구글 검색에 노출된 IP는 로드밸런서의 IP로 확인되었다. EC2 인스턴스에 배포 타겟 그룹 연결 로드 밸런서 연결 Route53 도메인 연결 문제의 웹 사이트는 이런 식으로 배포가 되어있다. 도메인..

2023.04.28 수정 배포 후 2주간 직접 측정해본 request, 데이터 전송량을 바탕으로 계산기를 다시 두드려봤다. 더 정확한 비용 비교가 가능해진 듯 하다. 1. 이 글을 왜 작성하게 되었는가? 필자는 본래 ML 혹은 백엔드 엔지니어지만, 회사 사정에 의해 종종 프론트엔드 작업을 하곤 한다. 학부 시절 배운 웹프로그래밍과, 졸업프로젝트를 하며 꾸역꾸역 React를 배우던 기억을 되살려 겨우겨우 페이지를 하나씩 완성하고 있다. 작업 중이던 웹사이트는 3월 4일, 지난주 토요일에 배포가 되었다. 나는 별 다른 고민 없이 prod와 dev 환경에서 활용될 ec2 인스턴스를 하나씩 만들고, (각각 t3.large와 t3.small) pm2를 통해 정적 파일을 배포한 후 이런 저런 과정을 거쳐 도메인과..
- Total
- Today
- Yesterday
- S3+CloudFront
- Ai
- 모델 추론
- Python
- 개발자동아리
- 넷플릭스
- Gunicorn
- 정적웹사이트
- memory leak
- ddd
- CloudFront
- 회고
- 유난한도전
- 사이드프로젝트
- AWS
- 모델 추론 최적화
- 규칙없음
- 백엔드
- s3
- uvicorn
- 웹사이트배포
- 메모리 누수
- 개발자회고
- mlops
- 토스
- Triton Inference Server
- 조직문화
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |