AWS는 아시아 태평양 지역 내 태국, 말레이시아, 싱가포르, 인도네시아, 대만 등 5개국에서 OpenAI GPT-6 모델을 Amazon Bedrock 플랫폼을 통해 글로벌 크로스 리전 추론 방식으로 제공한다고 발표했다. 이 기능은 단일 리전 추론 시 용량 초과 문제를 해결하고, 최신 AI 모델에 대한 광범위한 접근성을 보장한다.
GPT-6 Sol, GPT-6 Luna, GPT-6 Astra 등 세 가지 모델이 제공되며, 각각 복잡한 추론, 반복 작업, 장문 작업 등 다양한 AI 작업에 최적화되어 있다. 모든 모델은 텍스트와 이미지 입력을 지원하며, 클라이언트 도구 사용과 프롬프트 캐싱 기능도 포함한다.
사용자는 글로벌 크로스 리전 추론 프로필 ID를 모델 ID 대신 API 호출 시 전달해 원하는 리전에서 처리되도록 할 수 있다. IAM 정책과 서비스 제어 정책(SCP)을 통해 접근 권한과 조직 내 리전 제어를 세밀하게 관리할 수 있으며, 쿼터 관리와 CloudWatch, CloudTrail을 통한 모니터링도 가능하다.
AWS는 데이터 보존 정책과 악용 탐지 기능도 제공하며, 데이터 거주 요구사항이 있는 기업은 별도 검토가 필요하다고 안내한다. 또한, 기존 OpenAI 클라이언트와의 호환성을 유지해 손쉽게 전환할 수 있도록 지원한다.
출처: AWS AI
