특정시간 또는 일정한 주기마다 작업을 자동으로 실행하기 위해 사용하는 유닉스 계열 시스템의 스케줄러

AWS EC2에 배포 중 아래와 같은 에러가 났다.

LiteLLM은 다양한 대형 언어 모델(LLM) 제공자의 API를 간편하게 통합하고 관리할 수 있도록 설계된 라이브러리이다.
OpenAI와 호환되는 API를 사용하여 이러한 모델들과의 상호작용을 표준화한다. 여러 LLM을 사용하는 프로젝트에서 LiteLLM은 통합, 관리, 그리고 비용 및 사용량 모니터링을 간편하게 만들어준다.

SSM 에이전트가 온라인 상태가 아닙니다 에러

권한이 업데이트 되면서 연결이 안 된것 같음.

권한을 제거했다가 붙여야 함.

FastApi 프레임워크를 사용하여 웹 애플리케이션을 구축해보겠다.
주요 기능으로는 텍스트 처리 및 AI 모델을 활용한 다양한 응답을 제공하는 API 엔드포인트 정의이다.

회사에서 보안문제로, 외부망을 호출할 수 없게하여 EC2 에 다른 포트에 서빙중이었던 서비스에 접근하지 못한다고 proxy 역할을 할 다른 서버를 구축하고자 했다.

그래서 API-Gateway 로 EC2 를 직접 호출하게 했다.

이 글은 넷플릭스 창업주이자 CEO인 리드 헤이스팅스의 인터뷰가 담긴 책, <규칙없음:넷플릭스, 지구상 가장 빠르고 유연한 기업의비밀>의 요약 내용이다.

API에 특정 API Key를 가지고 있는 요청만 접근 가능하도록, Lambda로 간단한 api 만들기에서 만든 REST API에 API 키릉 등록해보겠다.

AWS Lambda에 테스트용 API를 만드는 방법을 단계별로 적어보겠다.

이 과정에서는 AWS Lambda를 사용하여 간단한 HTTP API를 설정힌다.

API Gateway를 활용하여, EC2 인스턴스에 프록시로서 연결하는 방법에 대해 알아보겠다.

보통 AWS Lambda의 API를 만들때 API Gateway를 활용하곤 한다.

그런데, 몇몇 경우에는 EC2에 Proxy를 만들어서 사용해야하는 경우가 있다.

EC2 인스턴스에 FastAPI 서버 하나를 돌리고 있으니, “http://x.x.x.x:5000/“ 라는 서버에 API Gateway를 연결해보도록 하겠다.