Amazon Cognito 이용하여 인증기능 구현하기.
AWS Cognito는 AWS에서 제공하는 인증 및 권한 부여 서비스이다.
AWS Cognito를 사용하면 애플리케이션의 사용자 인증, 사용자 데이터 동기화 및 액세스 제어를 쉽게 관리할 수 있다.
이를 통해 개발자는 사용자 등록, 로그인, 비밀번호 복구 등과 같은 기능을 간단하게 구현할 수 있다.
Amazon Cognito 이용하여 인증기능 구현하기.
AWS Cognito는 AWS에서 제공하는 인증 및 권한 부여 서비스이다.
AWS Cognito를 사용하면 애플리케이션의 사용자 인증, 사용자 데이터 동기화 및 액세스 제어를 쉽게 관리할 수 있다.
이를 통해 개발자는 사용자 등록, 로그인, 비밀번호 복구 등과 같은 기능을 간단하게 구현할 수 있다.
PostgreSQL-pgvector를 AWS Aurora에서 사용하기
AWS의 Aurora를 이용하여 pgvector를 설치하고 사용하겠다.
Route53을 이용해 도메인과 서버(EC2) 연결하기
AWS Route53을 이용하여 웹 애플리케이션에 사용할 새 도메인 이름을 등록하고, DNS를 통해 해당 도메인 이름을 ALB가 제공하는 실행중인 웹 애플리케이션에 연결해보겠다.
FastAPI를 이용하여 llm 모델 서빙하는 서비스 EC2에 배포하기
fastAPI란 파이썬 3.6부터 제공되는 트랜디하고 높은 성능을 가진 파이썬 프레임워크이다.
OpenAI
SLMs
HuggingFace
Phi-3
AWS EKS에 프로젝트를 배포하려면 Docker 이미지를 만들어야 한다.
이를 위해 Dockerfile을 작성하고, Docker 이미지를 빌드 및 푸시한 후, Kubernetes 매니페스트 파일을 사용해 EKS에 배포하는 과정을 따르게 된다.
AutoGen은 서로 대화하여 작업을 해결할 수 있는 여러 에이전트를 사용하여 LLM 애플리케이션을 개발할 수 있는 프레임워크이다.
AutoGen 에이전트는 사용자 정의가 가능하고 대화가 가능하며 인간의 참여를 원활하게 허용한다.
LLM, 인간 입력 및 도구의 조합을 사용하는 다양한 모드에서 작동할 수 있다.
AWS EC2에 remote yum repository 설정하기
CentOS 리눅스 시스템에서 사용되는 YUM 리포지토리 설정 파일의 예
Mac에서 yum 사용하기 (Docker 에서 리눅스 사용)
Docker를 사용하면 Linux 환경을 Mac에서 쉽게 사용할 수 있습니다. 이를 통해 yumdownloader를 실행할 수 있습니다.
docker를 사용하려면 기본적으로 외부망(인터넷이 되는 환경)이 되는 환경이어야 하는데 폐쇄망에서 docker를 설치해야 하는 경우도 있다. 이럴 경우 어떻게 docker를 어떻게 설치하는지 알아보자.