Amazon SageMaker AI 엔드포인트를 업데이트할 때 자동 스케일링 리소스가 등록된 상태에서는 배포가 실패하는 문제가 있다. 이는 CloudFormation이 자동 스케일링 대상 등록 상태를 제대로 추적하지 못하기 때문이다.
이 문제를 해결하기 위해 AWS CDK를 사용해 세 개의 커스텀 리소스를 도입한다. 첫 번째는 자동 스케일링 대상을 배포 전에 해제하고, 두 번째는 엔드포인트 업데이트를 수행하며, 세 번째는 업데이트 완료 후 자동 스케일링 대상을 다시 등록하고 스케일링 정책을 적용한다.
커스텀 리소스는 비동기 완료 패턴을 활용해 엔드포인트 상태를 주기적으로 확인하며, 안정적으로 자동 스케일링을 재등록한다. 또한, ConfigHash 속성을 통해 구성 변경 시 자동으로 재배포가 이루어지도록 설계되었다.
이 방법을 적용하면 엔드포인트 구성 변경과 자동 스케일링 파라미터 수정을 단일 배포로 처리할 수 있으며, 수동 개입 없이도 안정적인 운영이 가능하다. 예제 스택과 코드가 공개되어 있어 쉽게 적용할 수 있다.
출처: AWS AI
