AWS, Amazon Bedrock Projects로 AI 추론 비용 워크로드별 추적 기능 제공

아마존웹서비스(AWS)가 Amazon Bedrock Projects를 통해 AI 추론 비용을 워크로드 단위로 추적하고 분석할 수 있는 기능을 제공한다. 조직이 AI 워크로드를 확대하면서 비용 발생 원인 파악이 중요해지는 가운데, 이 기능은 차지백, 비용 급증 조사, 최적화 의사결정 등을 지원한다.

Bedrock Projects는 애플리케이션, 환경, 실험 등 워크로드를 대표하는 논리적 경계를 설정하는 기능이다. 리소스 태그를 부착하고 API 호출 시 프로젝트 ID를 전달하면, 해당 비용을 AWS Cost Explorer와 AWS Data Exports에서 필터링, 그룹화, 분석할 수 있다.

이 기능은 OpenAI 호환 API인 Responses API와 Chat Completions API를 지원한다. 프로젝트 ID 없이 전송된 요청은 AWS 계정의 기본 프로젝트에 자동 연결된다.

AWS는 프로젝트 생성 전 태깅 전략을 수립할 것을 권장한다. 일반적인 태그 키로는 Application(워크로드 식별), Environment(수명 주기 단계), Team(담당 팀), CostCenter(재무 매핑) 등이 있다.

프로젝트는 Projects API를 통해 생성하며, AWS 계정당 최대 1,000개의 프로젝트를 만들 수 있다. 생성 시 반환되는 프로젝트 ID는 이후 추론 요청을 연결하는 데 사용되고, ARN은 IAM 정책을 통한 접근 제한에 활용된다.

비용 보고서에 프로젝트 태그를 표시하려면 AWS Billing에서 비용 할당 태그를 활성화하는 일회성 설정이 필요하다. 태그가 AWS Cost Explorer와 Data Exports에 반영되기까지 최대 24시간이 소요된다.

태그 활성화 후에는 AWS Cost Explorer에서 Amazon Bedrock 서비스를 필터링하고, 태그 키별로 비용을 그룹화해 일별 지출 현황을 시각적으로 확인할 수 있다. 더 세분화된 분석이 필요할 경우 AWS Data Exports를 통해 항목별 상세 데이터를 확인할 수 있다.