AI 시대에 GPU가 주목받지만, 실제 병목은 GPU 밖에 있다. HBM(고대역폭 메모리) 공급이 따라오지 않으면 아무리 GPU를 만들어도 제품을 내놓을 수 없다. 빅테크 기업들이 HBM 확보에 사활을 거는 이유가 바로 여기에 있다.

AI 시스템 구축과 운영(아키텍처, 배포, 모니터링) 관련 정리

AI 모델 개발 전 과정(문제정의, 데이터, 학습/평가, 배포/모니터링) 실무 가이드를 정리

AI 모델 성능을 끌어올리는 데이터 전처리, 결측치, 이상치, 스케일링, 인코딩, 데이터 분리, 파이프라인 자동화까지 실무 위주로 정리.

EventHub는 짧은 대기 시간으로 초당 수백만개의 이벤트를 스트리밍할 수 있는 클라우드의 네이티브 데이터 스트리밍 서비스이다.

이 글에서는 Azure API Management를 구축해보겠다.

Azure API Management를 이용하여 QoS, 인증, 서비스 구분, 로깅, Traffic 추적을 고려하여 서비스는 구축하는 방법에 대한 글

요즘 AWS/Azure/GCP 등 클라우드 환경의 일반화로 굳이 서버/네트워크 장비 등 자체구매/운영 (온프레미스) 하지 않아도 된다.

그렇기에 최소한의 노력을 들여 PaaS 서비스 또는 Container를 지원하는 서비스를 사용하여 쉽게 배포/운영 할 수 있다.

MS AZ104 자격증 취득을 위한 공부 과정 및 방법을 기록해보겠다.

대량의 대화 데이터를 보유한 고객이 생성형 AI를 사용하여 주요 구문을 surface(분석)하고 운영 지표와 함께 중요한 Insight를 얻을 수 있도록 하는 솔루션.