본문으로 건너뛰기

Cloud VPS · GPU

GPU 카드, 그리고 그중 얼마만큼이 고객님의 것인지에 대한 솔직한 설명.

7가지 크기로, 월 $2433.90의 카드 전체 1장부터 VRAM 2304 GB의 NVIDIA B300 SXM 카드 전체 8장까지 제공합니다. 모든 크기에 카드, VRAM, 슬라이스인지 단독 카드인지가 표시되며, 해당 카드의 재고가 실제로 있는 도시만 표시됩니다.

팬이 위를 향한 그래픽 카드 렌더링카드 전체 또는 일부재고가 있는 곳만

크기

7가지 크기, 5종의 카드, 그리고 각각의 구축 위치.

슬라이스는 슬라이스로, 카드 전체는 카드 전체로 가격이 책정됩니다. '제공 내용' 열에 공급업체의 용어로 어느 쪽인지 표시됩니다. 사이트 열은 라인 전체의 제공 지역이 아니라 해당 크기의 재고가 있는 곳입니다.

여기서 시작

가장 저렴하게 시작

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

이 제품 라인에서 가장 저렴한 플랜입니다. GB당 월 $25.35입니다.

$2433.90/월

제품 라인의 중간

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

이 제품 라인의 크기 중 절반은 더 저렴하고 절반은 더 비쌉니다. GB당 월 $26.19입니다.

$6285.90/월

RAM 최대

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

이 제품 라인에서 가장 큰 크기: 3840 GB. GB당 월 $25.87입니다.

$99338.90/월

또는 조건으로 좁히기

디스크
코어

이 라인의 머신 7대이며, 가장 저렴한 도시 기준 가격으로 표시됩니다.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · 트래픽 집계 안 함 · 바르샤바

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · 트래픽 집계 안 함 · 2개 도시

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 전송량 15 TB · 토론토

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 전송량 15 TB · 2개 도시

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · 트래픽 집계 안 함 · 2개 도시

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · 트래픽 집계 안 함 · 바르샤바

    $19469.90/월

모든 GPU 플랜의 카드, VRAM, 실물 카드 중 차지하는 비율, 함께 제공되는 머신, 구축 위치와 월 요금
플랜카드VRAM제공 내용머신구축 위치월 요금
G8-96NVIDIA L40S48 GB카드 전체 1장8 vCPU · 96 GB RAM · 40 GB SSD · 트래픽 비계량🇵🇱 바르샤바$2433.90
G24-240NVIDIA H10080 GB카드 전체 1장24 vCPU · 240 GB RAM · 40 GB SSD · 트래픽 비계량🇫🇷 파리, 🇵🇱 바르샤바$4745.90
G20-160AMD Instinct MI325X256 GB카드 전체 1장20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 토론토$5343.90
G24-240-720NVIDIA H200141 GB카드 전체 1장24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 애틀랜타, 🇺🇸 뉴욕$6285.90
G48-480NVIDIA H100160 GB카드 전체 2장48 vCPU · 480 GB RAM · 40 GB SSD · 트래픽 비계량🇫🇷 파리, 🇵🇱 바르샤바$9491.90
G64-768NVIDIA L40S384 GB카드 전체 8장64 vCPU · 768 GB RAM · 40 GB SSD · 트래픽 비계량🇵🇱 바르샤바$19469.90
G224-3840NVIDIA B300 SXM2304 GB카드 전체 8장224 vCPU · 3840 GB RAM · 40 GB SSD · 트래픽 비계량🇫🇷 파리$99338.90

가격은 USD 기준이며 세금 별도이고, 처음 결제한 가격으로 갱신됩니다. 연 요금 청구는 같은 요율에서 10% 할인됩니다. 설치비가 없으며 직접 선택한 기간 외에 최소 약정 기간도 없습니다.

구매하시는 내용

카드가 장착된 Linux 서버. 드라이버 스택은 귀하가 직접 구성합니다.

이 머신들은 공급업체 재고를 재판매하는 것입니다. 덕분에 다른 방법으로는 제공할 수 없는 카드를 이용할 수 있지만, 저희 기존 플랫폼의 편의 기능은 포기하셔야 합니다. 양쪽 모두 아래에 설명합니다.

카드: 일부인 경우 비율로 표시

크기가 실물 카드의 일부라면 “A16 한 장의 2 GB 슬라이스(공유 카드)”처럼 그렇게 표시하고, 카드 전체라면 몇 장인지 표시합니다. 비율은 저희가 아니라 공급업체의 플랜 정의에서 가져옵니다. 여기서는 슬라이스를 카드 한 장으로 반올림하지 않습니다.

기본 Linux, 사전 설치된 스택 없음

다른 카탈로그와 동일한 여섯 가지 Linux 이미지 중 하나에서 root 권한을 받습니다. NVIDIA 드라이버, CUDA, 프레임워크의 설치와 패치는 고객님의 몫입니다. 머신러닝 이미지는 없으며 머신에 저희 에이전트도 설치되어 있지 않습니다.

이 라인에는 관리형 백업이 없습니다

야간 백업 부가 서비스는 저희의 다른 일부 라인에 속하며, 이 라인은 기반 플랫폼이 다릅니다. 여기서는 구매할 수 있는 야간 백업 부가 서비스가 없으므로 restic, borg 또는 rsync로 직접 관리하는 스토리지에 백업을 따로 받아 두십시오.

벤치마크는 없습니다. 저희 수치가 고객님의 수치는 아니기 때문입니다

처리량은 모델, 배치 크기, 정밀도, 프레임워크 버전에 따라 달라집니다. 저희는 카드, VRAM, 공유 비율을 공개합니다. 신뢰할 만한 측정은 고객님의 워크로드에서 직접 측정한 것뿐이며, 월 단위 약정은 측정하기에 충분히 짧습니다.

주문

머신을 구축하기 전에 재고를 확인합니다.

GPU 주문이 CPU 주문과 다르게 진행되는 유일한 부분이므로, 결제한 뒤가 아니라 결제하기 전에 읽어 보실 가치가 있습니다.

1분이 아닌 주문 후 구축
영업일 기준 1일이 소요됩니다. 주문은 해당 도시의 해당 카드에 대한 공급업체 실재고와 대조하여 확인되며, 확인되면 머신이 구축됩니다.
카드가 소진되면 먼저 알려 드립니다
구축할 수 없는 머신에는 요금이 청구되지 않습니다. 대신 구축할 수 있는 다른 크기나 사이트를 알려 드리며, 결정은 고객님이 하십니다.
이용 가능 여부는 제품 라인별이 아니라 크기별로 다릅니다
크기마다 제공 지역이 다릅니다. G8-96은(는) 1개 도시, G224-3840은(는) 1개 도시에서 제공됩니다. 구성 도구는 선택한 크기의 재고가 있는 사이트만 보여 주며, 장바구니는 나머지를 받지 않습니다.
서버별로 월 요금 또는 연 요금 선택
연 요금은 12개월을 선결제하는 대신 동일 요금에서 10% 할인됩니다. 선결제 기간은 서버를 조기에 삭제해도 환불되지 않으며, 이 때문에 월 요금이 기본값입니다.
다른 카탈로그와 마찬가지로 자체 관리형
root 권한, 패치, 드라이버 스택 모두 고객님의 몫입니다. 지원팀은 머신과 네트워크에 관한 질문에 답변하며, 학습 실행에 관한 질문은 다루지 않습니다.
더 큰 카드는 목록이 아닌 견적으로 제공합니다
H100, H200 및 MI300급 용량은 주 단위로 변동됩니다. 실제로 주문 가능한 항목에 대한 답변을 받으시려면 카드, 기간, 리전을 적어 [email protected]으로 이메일을 보내 주십시오.

질문

GPU 주문 전에 매번 받는 일곱 가지 질문입니다.

판매를 놓치게 만드는 두 가지 답변도 포함했습니다. 대개 그것이 사실이라는 신호입니다.

GPU는 공유되나요?
크기에 따라 다르며, 모든 크기에 어느 쪽인지 표시되어 있습니다. 작은 크기는 실물 카드 한 장의 슬라이스입니다. '제공 내용' 열에 비율이 표시되며, 예를 들어 A16 한 장의 2 GB 슬라이스이고 나머지는 다른 테넌트가 사용합니다. 큰 크기는 한 장 또는 여러 장의 카드 전체이며 다른 사용자가 없습니다. 이렇게 표시하는 이유는 이것이 플랜이 적합한지를 결정하는 사실이지, 첫 청구서를 받은 뒤에 알게 될 세부 사항이 아니기 때문입니다.
H100을 이용할 수 있나요?
네, 목록에 있는 경우 가능합니다. 현재 이 페이지의 카드 전체 크기는 G8-96 (NVIDIA L40S 카드 전체 1장), G24-240 (NVIDIA H100 카드 전체 1장), G20-160 (AMD Instinct MI325X 카드 전체 1장), G24-240-720 (NVIDIA H200 카드 전체 1장), G48-480 (NVIDIA H100 카드 전체 2장), G64-768 (NVIDIA L40S 카드 전체 8장) 및 G224-3840 (NVIDIA B300 SXM 카드 전체 8장)입니다. 각 크기는 공급업체가 카드를 확인한 도시에만 표시되며 이는 주 단위로 변동됩니다. 따라서 표가 답이지 약속은 아닙니다. 목록에 없는 카드나 리전은 카드, 기간, 리전을 적어 [email protected]으로 보내 주시면 그 주에 주문 가능한 항목을 솔직하게 답변해 드립니다.
프로비저닝이 즉시 이루어지지 않는 이유는 무엇인가요?
주문의 반대편에 실물 카드가 있기 때문입니다. CPU 인스턴스는 사실상 늘 존재하는 풀에서 나오지만, GPU는 공급업체가 오늘 아침 다른 고객에게 팔았을 수도 있는 희소한 자원입니다. 그래서 머신을 구축한 뒤가 아니라 구축하기 전에 실제 재고와 카드를 대조해 확인합니다. 영업일 하루를 예상해 주십시오. 카드가 이미 소진되었다면 어떤 요금도 청구되기 전에 알려 드리며, 대신 구축할 수 있는 다른 크기나 사이트도 안내해 드립니다.
시간 단위로 청구하나요?
아니요. 웹 주문은 월 요금 또는 연 요금이며, 연 요금은 같은 요율에서 10% 할인됩니다. 각 가격 옆에 표시된 시간당 금액은 월 요금을 730시간으로 나눈 값으로, 종량제 제공업체와 비교할 때 필요한 숫자이지 저희가 청구하는 요율이 아닙니다. GPU에서는 이 차이가 CPU 플랜보다 더 중요합니다. 작업이 일주일에 6시간만 실행된다면 종량제 제공업체가 저희를 포함한 어떤 월 요금 플랜보다 저렴하며, 나중에 직접 계산하시게 하기보다 여기에 미리 적어 두는 편을 택했습니다.
어떤 크기로 시작해야 하나요?
대부분의 작업에는 G8-96: VRAM 48 GB의 카드 전체 1장, 월 $2433.90. VRAM 8기가바이트는 70억 파라미터 모델을 8비트로 컨텍스트 여유와 함께 올릴 수 있고 SDXL이 메모리 부족 없이 실행되는 기준선입니다. 개발용 CUDA 머신이 필요한 경우에만 그 아래에서 시작하시고, 모델이 들어가지 않거나 카드 공유로 대기열이 길어지는 등 구체적인 한계에 부딪히면 상위로 옮기십시오. 둘 다 발생하면 분명히 알 수 있습니다.
머신에는 무엇이 설치되어 있나요?
일반 Linux 이미지만 제공됩니다. NVIDIA 드라이버, CUDA, cuDNN 및 사용하는 프레임워크는 저희가 판매하는 다른 모든 서버와 동일한 자체 관리형 조건에 따라 귀하가 직접 설치합니다. 사전 구성된 머신러닝 이미지는 제공하지 않으며, 새벽 2시에 빈 드라이버 디렉터리를 발견하시게 하느니 이 페이지에서 미리 말씀드리겠습니다.
벤치마크를 공개하나요?
아니요, 앞으로도 그럴 계획이 없습니다. GPU의 처리량은 모델, 배치 크기, 정밀도, 프레임워크 버전에 따라 달라지므로, 저희가 게시하는 수치는 고객님의 것이 아닌 워크로드에서 나온 숫자일 뿐입니다. 사양은 카드, VRAM, 그리고 카드 중 제공되는 비율이며, 이것들은 사실입니다. 이를 활용한 결과는 고객님의 워크로드에서만 측정할 수 있으며, 월 단위 약정은 측정하기에 충분히 짧습니다.