AWS, SDK 없이 HTTPS로 SageMaker MLflow 접근하는 Flask 프록시 가이드 공개

AWS가 머신러닝 라이프사이클 관리 도구 MLflow를 SDK를 직접 쓰지 않고 표준 HTTPS로 안전하게 연동하는 방법을 ML 블로그에 공개했다. 아마존 세이지메이커 MLflow는 실험 추적과 모델 관리 기능을 제공하지만, 많은 기업은 SDK 직접 사용 대신 HTTPS 기반 통합을 요구한다.

이런 요구는 회사 보안 정책, 네트워크 제약, 레거시 시스템 제약 때문에 SDK를 그대로 쓸 수 없는 팀에서 비롯된다. AWS가 제시한 해법은 MLflow SDK 없이도 세이지메이커 MLflow에 HTTPS 접근을 제공하는 Flask 기반 MLflow 프록시 서비스로, 클라우드 전환 중 기존 ML 워크플로를 유지하려는 조직을 겨냥한다.

이 가이드는 HTTPS 요청을 처리하는 MLflow 프록시 서비스 구현, 안전한 접근을 위한 AWS IAM 인증 구성, URL 사전 서명과 요청 변환 관리를 다룬다. 적용하면 표준 HTTPS 엔드포인트로 세이지메이커 MLflow에 접근하고, 조직의 보안 요건을 지키며, 기존 엔터프라이즈 시스템과 MLflow를 통합하고, 구현 복잡성과 유지보수 부담을 줄일 수 있다.

아키텍처는 세 가지 핵심 구성요소로 이뤄진다. 첫째, 애플리케이션 로드 밸런서(ALB)는 상위 라우터로서 MLflow UI와 REST API 요청을 분산하고 초기 요청 처리·라우팅, 커스텀 도메인과 SSL 종료를 지원한다. 요구에 따라 Nginx 같은 다른 라우팅 솔루션으로 대체할 수도 있다.

둘째, 파이썬 기반 Flask 애플리케이션인 MLflow 프록시 서비스는 들어오는 HTTPS 요청을 가로채 처리하고, AWS 인증과 요청 서명을 관리하며, URL을 변환하고, 클라이언트로 응답을 되돌리는 라우팅을 담당한다. 셋째, 관리형 서비스인 아마존 세이지메이커 MLflow는 관리형 MLflow 트래킹 서버와 서버리스 MLflowApp 두 가지 배포 모드를 지원하고, 추적 정보용 백엔드 메타데이터 저장소와 모델 파일·데이터 저장을 제공한다.

요청 흐름은 다음과 같다. 클라이언트가 HTTPS 요청을 보내면 먼저 진입점인 ALB에 도달하고, ALB가 이를 MLflow 프록시 서비스로 라우팅한다. 프록시 서비스는 AWS IAM으로 인증을 처리하고, URL을 변환·사전 서명하며, 필요한 MLflow REST API 엔드포인트를 처리한다.

프록시 서비스는 들어온 요청을 인증된 AWS 요청으로 변환한 뒤 세이지메이커 MLflow REST 엔드포인트로 API를 호출한다. 세이지메이커 MLflow가 요청을 처리해 응답을 반환하면, 프록시 서비스가 이를 가공해 원래 클라이언트로 돌려보낸다. 이 흐름이 보안을 유지하면서 엔터프라이즈 시스템과 세이지메이커 MLflow를 잇는다.

전제 조건으로는 AWS 계정, 권한이 구성된 AWS CLI, Node.js 18.0.0 이상, NPM, AWS CDK CLI 2.100.0 이상, Python 3.x가 필요하다. 배포에는 약 40분이 걸리며, 솔루션은 네트워킹, 세이지메이커 AI 도메인, 세이지메이커 MLflow, Flask 애플리케이션 등 네 개의 CDK 스택으로 구성된다.

배포 후에는 EC2 인스턴스에 AWS 시스템 매니저 세션 매니저로 접속해 Python 3.13과 의존성을 설치하고 MLflow 프록시 서비스를 구동한다. 마지막으로 ALB를 통해 MLflow REST API 접근을 검증하는데, 제공된 curl 명령은 트래킹 서버와 서버리스 모드 양쪽에서 동일하게 동작한다. 예시는 비암호화 HTTP를 쓰지만 운영 환경에서는 HTTPS가 권장된다.