Chuyển đến nội dung

Cloud VPS · GPU

Một card GPU, và mô tả trung thực phần nào của nó thuộc về bạn.

7 cấu hình, từ 1× nguyên card với giá $2433.90 mỗi tháng đến 8× nguyên card của NVIDIA B300 SXM với 2304 GB VRAM. Mỗi cấu hình đều ghi rõ card, VRAM và việc đó là một phần card được chia hay một card riêng; và mỗi cấu hình chỉ liệt kê những thành phố nơi card đó thực sự còn hàng.

Hình minh họa một card đồ họa, quạt hướng lênCả card, hoặc một phầnChỉ ở nơi còn hàng

Cấu hình

7 cấu hình, 5 loại card, và nơi mỗi máy được khởi tạo.

Phần chia được định giá như phần chia và card nguyên như card nguyên: cột 'Bạn nhận được' ghi rõ loại nào, theo đúng thuật ngữ của nhà cung cấp. Cột địa điểm không phải phạm vi của cả dòng: đó là nơi chính cấu hình đó còn hàng.

Bắt đầu tại đây

Cách bắt đầu rẻ nhất

NVIDIA L40S 48 GB · 8 vCPU · 96 GB

G8-96

Rẻ nhất trong dòng này, tương đương $25.35 mỗi GB mỗi tháng.

$2433.90/tháng

Mức giữa của dòng

NVIDIA H200 141 GB · 24 vCPU · 240 GB

G24-240-720

Một nửa số cấu hình của dòng này có giá thấp hơn và một nửa có giá cao hơn, và $26.19 mỗi GB mỗi tháng.

$6285.90/tháng

Nhiều RAM nhất

NVIDIA B300 SXM 2304 GB · 224 vCPU · 3840 GB

G224-3840

Lớn nhất trong dòng này: 3840 GB, tương đương $25.87 mỗi GB mỗi tháng.

$99338.90/tháng

Hoặc thu hẹp lựa chọn

Ổ đĩa
Nhân

7 máy trên dòng này, định giá theo thành phố rẻ nhất của chúng.

  • NVIDIA L40S 48 GB · 8 vCPU · 96 GB

    G8-96 · Lưu lượng không được tính · Warszawa

    $2433.90/tháng

  • NVIDIA H100 80 GB · 24 vCPU · 240 GB

    G24-240 · Lưu lượng không được tính · 2 thành phố

    $4745.90/tháng

  • AMD Instinct MI325X 256 GB · 20 vCPU · 160 GB

    G20-160 · 15 TB lưu lượng · Toronto

    $5343.90/tháng

  • NVIDIA H200 141 GB · 24 vCPU · 240 GB

    G24-240-720 · 15 TB lưu lượng · 2 thành phố

    $6285.90/tháng

  • NVIDIA H100 160 GB · 48 vCPU · 480 GB

    G48-480 · Lưu lượng không được tính · 2 thành phố

    $9491.90/tháng

  • NVIDIA L40S 384 GB · 64 vCPU · 768 GB

    G64-768 · Lưu lượng không được tính · Warszawa

    $19469.90/tháng

Mọi gói GPU với card, VRAM, tỷ lệ trên một card vật lý, cấu hình máy đi kèm, nơi khởi tạo và giá hằng tháng
GóiCardVRAMBạn nhận được gìMáyKhởi tạo tạiTheo tháng
G8-96NVIDIA L40S48 GB1× nguyên card8 vCPU · 96 GB RAM · 40 GB SSD · lưu lượng không tính🇵🇱 Warszawa$2433.90
G24-240NVIDIA H10080 GB1× nguyên card24 vCPU · 240 GB RAM · 40 GB SSD · lưu lượng không tính🇫🇷 Paris, 🇵🇱 Warszawa$4745.90
G20-160AMD Instinct MI325X256 GB1× nguyên card20 vCPU · 160 GB RAM · 720 GB SSD · 15 TB🇨🇦 Toronto$5343.90
G24-240-720NVIDIA H200141 GB1× nguyên card24 vCPU · 240 GB RAM · 720 GB SSD · 15 TB🇺🇸 Atlanta, 🇺🇸 New York$6285.90
G48-480NVIDIA H100160 GB2× nguyên card48 vCPU · 480 GB RAM · 40 GB SSD · lưu lượng không tính🇫🇷 Paris, 🇵🇱 Warszawa$9491.90
G64-768NVIDIA L40S384 GB8× nguyên card64 vCPU · 768 GB RAM · 40 GB SSD · lưu lượng không tính🇵🇱 Warszawa$19469.90
G224-3840NVIDIA B300 SXM2304 GB8× nguyên card224 vCPU · 3840 GB RAM · 40 GB SSD · lưu lượng không tính🇫🇷 Paris$99338.90

Giá tính bằng USD, chưa gồm thuế và gia hạn theo đúng mức bạn trả lần đầu. Thanh toán theo năm được giảm 10% trên cùng mức giá. Không có phí cài đặt và không có kỳ hạn tối thiểu ngoài kỳ hạn bạn chọn.

Bạn đang mua gì

Một máy chủ Linux có gắn card, còn bộ driver là việc của bạn.

Các máy này là hàng của nhà cung cấp được bán lại. Điều đó mang lại cho bạn những card mà chúng tôi không thể cung cấp theo cách khác, nhưng bạn mất đi những tiện ích của nền tảng truyền thống của chúng tôi. Cả hai mặt đều được nêu dưới đây.

Card, được ghi dưới dạng tỷ lệ khi là phần chia

Khi một cấu hình là phần chia của một card vật lý, nó ghi rõ, ví dụ “phần 2 GB của một A16 (card dùng chung)”, và khi là card nguyên, nó ghi rõ số lượng. Tỷ lệ này lấy từ định nghĩa gói của chính nhà cung cấp, không phải từ chúng tôi. Không có gì ở đây làm tròn một phần chia thành một card.

Linux thuần, không cài sẵn phần mềm

Bạn có quyền root trên một trong sáu image Linux giống như phần còn lại của danh mục. Driver NVIDIA, CUDA và framework do bạn tự cài đặt và tự vá lỗi. Không có image học máy và không có agent nào của chúng tôi trên máy.

Không có sao lưu được quản trị trên dòng này

Tiện ích sao lưu hằng đêm thuộc về một số dòng khác của chúng tôi, và bên dưới đây là một nền tảng khác. Hãy tự sao lưu ra ngoài máy (restic, borg hoặc rsync đến nơi lưu trữ bạn kiểm soát), vì ở đây không có tiện ích sao lưu hằng đêm để mua.

Không có benchmark, vì kết quả của chúng tôi sẽ không phải của bạn

Thông lượng phụ thuộc vào mô hình, batch size, độ chính xác và phiên bản framework của bạn. Chúng tôi công bố card, VRAM và tỷ lệ chia; phép đo duy nhất đáng tin là phép đo bạn thực hiện trên khối lượng công việc của chính mình, và kỳ hạn hằng tháng đủ ngắn để thực hiện.

Đặt mua

Tồn kho được xác nhận trước khi khởi tạo máy.

Đây là điểm duy nhất mà đơn GPU khác với đơn CPU, nên đáng đọc trước khi thanh toán thay vì sau.

Khởi tạo theo đơn, không phải trong một phút
Hãy chờ một ngày làm việc. Đơn hàng được kiểm tra với tồn kho thực tế của nhà cung cấp cho card đó tại thành phố đó, và máy được khởi tạo sau khi xác nhận.
Nếu card đã hết, bạn được báo trước
Không tính phí cho máy chúng tôi không thể khởi tạo. Chúng tôi cho bạn biết cấu hình hoặc địa điểm nào khác có thể khởi tạo thay thế, và bạn quyết định.
Tình trạng sẵn có tính theo cấu hình, không theo dòng
Phạm vi khác nhau theo cấu hình: G8-96 có ở 1 thành phố, G224-3840 ở 1. Trình cấu hình chỉ đưa ra những địa điểm mà cấu hình bạn chọn còn hàng, và giỏ hàng từ chối phần còn lại.
Theo tháng hoặc theo năm, bạn chọn cho từng máy chủ
Theo năm được giảm 10% trên cùng mức giá khi trả trước mười hai tháng. Kỳ hạn trả trước không được hoàn tiền nếu bạn xóa máy chủ sớm, vì vậy theo tháng là mặc định.
Tự quản trị, như toàn bộ danh mục
Quyền root là của bạn, việc vá lỗi là của bạn, và bộ driver cũng là của bạn. Bộ phận hỗ trợ trả lời câu hỏi về máy và mạng, không phải về quá trình huấn luyện của bạn.
Các card lớn hơn được báo giá, không niêm yết
Dung lượng hạng H100, H200 và MI300 thay đổi theo từng tuần. Hãy gửi email đến [email protected] kèm card, thời hạn và khu vực để được trả lời về những gì thực sự có thể đặt mua.

Câu hỏi

Bảy câu hỏi chúng tôi nhận được trước mỗi đơn GPU.

Kể cả hai câu trả lời khiến chúng tôi mất đơn hàng, thường là dấu hiệu cho thấy đó là những câu trả lời đúng.

GPU có được chia sẻ không?
Tùy cấu hình, và mỗi cấu hình đều ghi rõ. Các cấu hình nhỏ hơn là phần chia của một card vật lý: cột 'Bạn nhận được' ghi rõ tỷ lệ, ví dụ phần 2 GB của một card A16 với người dùng khác trên phần còn lại. Các cấu hình lớn hơn là card nguyên, một hoặc nhiều card, không có ai khác dùng chung. Chúng tôi ghi nhãn như vậy vì đó là yếu tố quyết định gói có phù hợp với bạn hay không, không phải chi tiết để phát hiện sau hóa đơn đầu tiên.
Tôi có thể lấy H100 không?
Có, khi được niêm yết. Các cấu hình card nguyên trên trang này hiện là G8-96 (1× nguyên card của NVIDIA L40S), G24-240 (1× nguyên card của NVIDIA H100), G20-160 (1× nguyên card của AMD Instinct MI325X), G24-240-720 (1× nguyên card của NVIDIA H200), G48-480 (2× nguyên card của NVIDIA H100), G64-768 (8× nguyên card của NVIDIA L40S) và G224-3840 (8× nguyên card của NVIDIA B300 SXM). Mỗi cấu hình chỉ được niêm yết tại các thành phố mà nhà cung cấp đã xác nhận có card, và điều đó thay đổi theo tuần: vì vậy bảng là câu trả lời, không phải lời hứa. Với card hoặc khu vực không có trong bảng, hãy viết cho [email protected] kèm card, thời hạn và khu vực, và bạn sẽ nhận được câu trả lời thẳng về những gì có thể đặt mua trong tuần đó.
Vì sao việc khởi tạo không diễn ra ngay lập tức?
Vì ở đầu kia của đơn hàng là một card vật lý. Một instance CPU đến từ một nhóm tài nguyên gần như luôn sẵn có; GPU là mặt hàng khan hiếm mà nhà cung cấp của chúng tôi có thể đã bán cho người khác sáng nay. Vì vậy chúng tôi xác nhận card với tồn kho thực tế trước khi khởi tạo máy chứ không phải sau: hãy chờ một ngày làm việc. Nếu card đã hết, bạn được thông báo trước khi bị tính bất kỳ khoản phí nào, và chúng tôi cho biết cấu hình hoặc địa điểm nào khác có thể khởi tạo thay thế.
Bạn có tính phí theo giờ không?
Không. Đơn hàng trên web là theo tháng hoặc theo năm, và theo năm được giảm 10% trên cùng mức giá. Con số theo giờ in cạnh mỗi mức giá là giá tháng chia cho một tháng 730 giờ: con số bạn cần khi so sánh chúng tôi với nhà cung cấp tính phí theo mức dùng, không phải mức chúng tôi tính. Với GPU, sự khác biệt này quan trọng hơn so với các gói CPU: nếu công việc của bạn chạy sáu giờ mỗi tuần, một nhà cung cấp tính theo mức dùng sẽ rẻ hơn bất kỳ gói tháng nào, kể cả của chúng tôi, và chúng tôi thà viết điều đó ở đây còn hơn để bạn tự nhận ra sau.
Tôi nên bắt đầu với cấu hình nào?
G8-96 cho hầu hết công việc: 1× nguyên card với 48 GB VRAM, giá $2433.90 mỗi tháng. Tám gigabyte VRAM là ngưỡng mà một mô hình 7 tỷ tham số ở 8-bit vừa đủ chỗ cho ngữ cảnh và SDXL chạy mà không phải tranh giành bộ nhớ. Chỉ chọn thấp hơn nếu bạn cần một máy CUDA để phát triển; hãy nâng lên khi gặp một giới hạn cụ thể: một mô hình không vừa, hoặc hàng đợi dài vì card được dùng chung. Cả hai điều này đều rất dễ nhận ra khi xảy ra.
Máy được cài đặt sẵn những gì?
Một image Linux thuần và không gì khác. Driver NVIDIA, CUDA, cuDNN và framework bạn dùng do bạn tự cài đặt, theo cùng điều kiện tự quản trị như mọi máy chủ khác chúng tôi bán. Chúng tôi không cung cấp image học máy được cấu hình sẵn, và chúng tôi thà nói rõ trên trang này còn hơn để bạn phát hiện thư mục driver trống lúc 2 giờ sáng.
Bạn có công bố benchmark không?
Không, và chúng tôi không có ý định đó. Thông lượng trên GPU phụ thuộc vào mô hình, batch size, độ chính xác và phiên bản framework của bạn, nên bất kỳ con số nào chúng tôi công bố cũng đến từ một khối lượng công việc không phải của bạn. Thông số gồm card, VRAM và phần card bạn nhận được; đó là những sự thật. Hiệu quả bạn đạt được chỉ đo được trên khối lượng công việc của chính bạn, và kỳ hạn hằng tháng đủ ngắn để đo.