← AI 뉴스

Amazon SageMaker, GPU 하나를 격리된 파티션으로 나눌 수 있게 돼

2026년 11월 7일읽는 데 1분AWS
Amazon SageMaker, GPU 하나를 격리된 파티션으로 나눌 수 있게 돼
사진 제공: AWS
7
GPU 하나의 최대 파티션 수
24
p4d 엔드포인트 하나의 파티션
17초
테스트에서 프로비저닝에 추가되는 시간
추천 대상
모델을 호스팅하는 팀
사용 환경
SageMaker AI 엔드포인트
언제
지금 이용 가능

핵심 요약

  • 오류는 해당 파티션 안에 머묾
  • 파티션별 전용 메모리 대역폭
  • GPU 전체 대신 일부만 사용
  • GPU보다 많은 모델 배포

활용 방법

  • 여러 모델 호스팅모델마다 GPU 파티션 하나씩
  • 작은 모델, 많은 트래픽작은 모델 복사본 더 많이 실행
  • 비용 추적GPU 비용을 모델이나 팀별로 매핑

기능

Amazon SageMaker AI는 이제 GPU 하나를 각각 연산 능력과 메모리를 나눠 가진 별도의 파티션으로 나눌 수 있습니다. 이를 통해 여러 모델이 가속기 하나에서 함께 실행될 수 있습니다.

대상

AWS 엔드포인트에서 AI 모델을 호스팅하며 GPU를 더 충실하게 활용하려는 팀.

가격 및 이용 방법

게시물에는 비용이 나와 있지 않습니다. 이 기능은 단일 모델 엔드포인트나 서버리스 엔드포인트가 아니라, 추론 구성 요소를 사용하는 SageMaker AI 엔드포인트에서 작동합니다.

출처

위 출처를 바탕으로 AI가 작성했어요. 내용이 다르다면 출처가 기준이에요.

다음 글 읽기

MetaAI 뉴스MetaMeta, Muse 사용자가 직접 맞춤 공간을 만들 수 있게 해Muse 사용자Muse가 제공되는 곳 어디서나스페이스는 평범한 말로 설명하는 맞춤형 경험으로, Muse에 저장되며 연결한 앱에서 업데이트됩니다.2026년 11월 7일GitHub제품·기능GitHub, Copilot 사용량 지표에 코드 리뷰와 반영률 추가AI 뉴스GitHubGitHub, Copilot 사용량 지표에 코드 리뷰와 반영률 추가조직 소유자사용량 지표 API조직은 이제 각 저장소에서 개발자가 Copilot 코드 리뷰 댓글을 실제로 반영하는지 확인할 수 있습니다.2026년 11월 6일AWS데이터·리서치AWS, Amazon Quick에서 문서와 판매 데이터를 조회하는 방법AI 뉴스AWSAWS, Amazon Quick에서 문서와 판매 데이터를 조회하는 방법Enterprise 구독비즈니스 팀Amazon S3에 저장된 파일과 판매 스프레드시트를 하나의 AI 채팅 에이전트에 연결하는 방법을 안내합니다.2026년 11월 6일