NVIDIA H100 · A100 · PCIe

Διακομιστής NVIDIA H100 GPU και αποκλειστικός διακομιστής A100 Η πλήρης GPU, το δικό σας λειτουργικό, η δική σας root πρόσβαση.

Ένας διακομιστής H100 GPU εδώ είναι ένα φυσικό μηχάνημα, όχι ένα τμήμα του: μια NVIDIA H100 80 GB PCIe ή A100 (40 ή 80 GB) με απευθείας πρόσβαση στο λειτουργικό που εγκαθιστάτε, με root πρόσβαση και απομακρυσμένη κονσόλα, με μηνιαία χρέωση. Η χαμηλότερη πλήρης τιμή είναι $1,682.67 τον μήνα με την H100, και $772.47 με την A100 40 GB.

  • Αποκλειστική χρήση
  • PCIe passthrough
  • Θύρα χωρίς μέτρηση
  • ECC HBM
  • Χωρίς συμβόλαιο

Τα φύλλα προδιαγραφών παραλείπουν τέσσερα πράγματα, και αυτή η σελίδα τα παρέχει: πόσο κοστίζει κάθε GPU με το μηχάνημα που τη φιλοξενεί, αν η κάρτα είναι η έκδοση PCIe ή η μονάδα SXM5, ποια σύνδεση PCIe πραγματικά λαμβάνει στο δικό μας πλαίσιο και ποια από τις τρεις χρειάζεται η εργασία σας.

A100 vs H100

Προδιαγραφές NVIDIA A100 vs H100, για τις PCIe GPU που τοποθετούμε

Και οι δύο είναι GPU κέντρων δεδομένων σχεδιασμένες για αριθμητική πινάκων, με στοιβαγμένη μνήμη HBM και ECC. Η H100 είναι η επόμενη γενιά: περισσότερο εύρος ζώνης μνήμης, Tensor Cores τέταρτης γενιάς και FP8 μέσω του Transformer Engine. Κάθε αριθμός εδώ αφορά την έκδοση PCIe, τη μόνη μορφή που δέχεται το πλαίσιό μας.

ΠροδιαγραφήA100 40 GBA100 80 GBH100 80 GB PCIe
ΑρχιτεκτονικήAmpereAmpereHopper
Μνήμη GPU40 GB HBM2, ECC80 GB HBM2e, ECC80 GB HBM2e, ECC
Εύρος ζώνης μνήμης1.555 GB/s1.935 GB/s2.039 GB/s
Tensor Cores3η γενιά3η γενιά4η γενιά, FP8 με το Transformer Engine
Ισχύς πλακέτας250 W300 W350 W
Διεπαφή GPUPCIe 4.0 x16PCIe 4.0 x16PCIe 5.0 x16
Multi-Instance GPUΈως 7 instancesΈως 7 instancesΈως 7 instances
Μηχανές βίντεοΧωρίς NVENC, 5 NVDECΧωρίς NVENC, 5 NVDECΧωρίς NVENC, 7 NVDEC
NVLinkΥποδοχή γέφυραςΥποδοχή γέφυραςΥποδοχή γέφυρας
Έξοδοι οθόνηςΚαμίαΚαμίαΚαμία
Πηγές: Φύλλο δεδομένων NVIDIA A100, σύντομο φυλλάδιο προϊόντος NVIDIA H100 PCIe, πίνακας υποστήριξης κωδικοποίησης και αποκωδικοποίησης βίντεο NVIDIA.

Παράγοντας μορφής

H100 PCIe vs H100 SXM5, και ποια πουλάει αυτή η σελίδα

Η H100 κυκλοφορεί σε δύο μορφές, και τα νούμερα που αναφέρονται συχνότερα στο διαδίκτυο ανήκουν στη μονάδα και όχι στην κάρτα. HBM3, 3,35 TB/s και έως 700 W είναι η μονάδα SXM5: βιδώνεται σε μια βασική πλακέτα HGX που αποτελεί μέρος του πλαισίου, επομένως δεν μπορεί να τοποθετηθεί σε διακομιστή που δεν αγοράστηκε με αυτήν. Τα πλαίσιά μας δέχονται κάρτες επέκτασης PCIe, επομένως κάθε H100 σε αυτή τη σελίδα είναι η κάρτα PCIe 80 GB.

H100 80 GBPCIe, αυτό που τοποθετούμεSXM5
ΜορφήΚάρτα επέκτασης PCIe διπλής υποδοχήςΜονάδα σε βασική πλακέτα HGX
Μνήμη GPU80 GB HBM2e, ECC80 GB HBM3, ECC
Εύρος ζώνης μνήμης2.039 GB/s3.350 GB/s
Ισχύς πλακέτας350 WΈως 700 W
Σύνδεση κεντρικού υπολογιστήPCIe 5.0 x16PCIe 5.0 x16, μέσω της βασικής πλακέτας
GPU σε GPUΥποδοχή γέφυρας NVLink, 600 GB/sNVLink με NVSwitch, 900 GB/s
ΨύξηΑέρας, σε τυπικό rackΑέρας ή υγρό, σε πλαίσιο HGX
Πηγές: Σύντομο φυλλάδιο προϊόντος NVIDIA H100 PCIe, φύλλο δεδομένων NVIDIA H100 Tensor Core GPU, τεκμηρίωση πλατφόρμας NVIDIA HGX.
  • Σε μία GPU η διαφορά είναι το εύρος ζώνης μνήμης: η μονάδα διαβάζει HBM περίπου 1,6 φορές ταχύτερα, κάτι που φαίνεται σε εργασίες που μεταφέρουν βάρη ή μεγάλο πλαίσιο από τη μνήμη και ελάχιστα σε εργασίες που εξαρτώνται από την αριθμητική. Και οι δύο κάρτες εκτελούν την ίδια έκδοση CUDA, τον ίδιο κλάδο οδηγών και τις ίδιες εκδόσεις framework.
  • Το ύφασμα NVLink είναι ο πραγματικός λόγος αγοράς του SXM5, και έχει σημασία μόνο όταν μια εργασία εκτείνεται σε πολλές GPU. Για περισσότερες από μία GPU σε ένα πλαίσιο, ή περισσότερα από ένα μηχανήματα, η σελίδα διακομιστές πολλαπλών GPU εξηγεί τι συναρμολογούμε και πώς επικοινωνούν οι GPU.
  • Η A100 έχει τον ίδιο διαχωρισμό. Η μονάδα SXM4 χρειάζεται επίσης βασική πλακέτα HGX, επομένως οι A100 40 GB και 80 GB εδώ είναι οι κάρτες PCIe, στα 1.555 και 1.935 GB/s.

Από τον κατάλογο παραγγελιών

Τιμές διακομιστών A100 και H100, με το μηχάνημα στο οποίο τοποθετείται η καθεμία

Κάθε γραμμή είναι μία GPU σε μία πλατφόρμα που τη δέχεται. Η τιμή είναι ο πλήρης μηνιαίος λογαριασμός για το φθηνότερο μηχάνημα σε αυτή την πλατφόρμα: επεξεργαστής, μνήμη, δίσκοι, θύρα χωρίς μέτρηση και μία διεύθυνση IPv4, συν τη GPU. Η επιλογή Διαμόρφωση ανοίγει αυτή την πλατφόρμα, όπου προσθέτετε μνήμη, δίσκους ή ταχύτερη θύρα.

GPUPlatformPCIe linkCheapest machineCitiesPer month
A100 40 GBGPU $699/moIntel Xeon E5-2600 v3/v4Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami, Amsterdam$772.47Configure
A100 40 GBGPU $699/moIntel Xeon Silver / GoldIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami, Amsterdam$782.67Configure
A100 40 GBGPU $699/moAMD EPYCAMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 GbpsNew York, Bucharest$916.59Configure
A100 80 GBGPU $899/moIntel Xeon E5-2600 v3/v4Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami, Amsterdam$972.47Configure
A100 80 GBGPU $899/moIntel Xeon Silver / GoldIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami, Amsterdam$982.67Configure
A100 80 GBGPU $899/moAMD EPYCAMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 GbpsNew York, Bucharest$1,116.59Configure
H100 80 GBGPU $1,599/moIntel Xeon Silver / GoldIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami, Amsterdam$1,682.67Configure
H100 80 GBGPU $1,599/moAMD EPYCAMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 GbpsNew York, Bucharest$1,816.59Configure

Μια διαμόρφωση με τοποθετημένη GPU πληρώνει εφάπαξ τέλος εγκατάστασης $29. Η προπληρωμή 3, 6 ή 12 μηνών μειώνει τη μηνιαία τιμή έως 15%, και η τιμή δεν αυξάνεται κατά την ανανέωση.

Σύνδεση PCIe

Ποια σύνδεση PCIe λαμβάνει η GPU και πότε έχει σημασία

Μια σύνδεση PCIe λειτουργεί στην ταχύτητα του πιο αργού άκρου της. Η H100 είναι GPU PCIe 5.0 και η A100 GPU PCIe 4.0· ο πίνακας διαμορφώσεων δείχνει τη γενιά που δίνει η υποδοχή κάθε πλατφόρμας και επισημαίνει πού η υποδοχή είναι το πιο αργό άκρο.

  • 16 GB/sPCIe 3.0 x16, προς κάθε κατεύθυνση
  • 32 GB/sPCIe 4.0 x16, προς κάθε κατεύθυνση
  • 63 GB/sPCIe 5.0 x16, προς κάθε κατεύθυνση
  • Έχει σημασία όταν τα δεδομένα διασχίζουν συνεχώς τον δίαυλο: φόρτωση μεγάλων βαρών, ροή παρτίδων εκπαίδευσης από τη μνήμη του κεντρικού υπολογιστή, μεταφορά κατάστασης βελτιστοποιητή στη CPU ή μετακίνηση τανυστών μεταξύ δύο GPU χωρίς γέφυρα NVLink.
  • Έχει μικρή σημασία όταν η εργασία βρίσκεται στη μνήμη της GPU. Η HBM διαβάζει με 1,5 έως 2 TB/s, περίπου 25 έως 130 φορές ταχύτερα από οποιαδήποτε από αυτές τις υποδοχές, επομένως ένα μοντέλο που παραμένει φορτωμένο εκτελείται με την ίδια ταχύτητα σε κάθε πλατφόρμα.
  • Αν η ροή εργασίας σας εξαρτάται από τον δίαυλο, επιλέξτε την πλατφόρμα με τη νεότερη σύνδεση στον πίνακα και κρατήστε το σύνολο δεδομένων στους δίσκους του διακομιστή αντί μέσω δικτύου.

Διαστασιολόγηση

A100 ή H100: ποια χρειάζεται η εργασία σας

Ξεκινήστε από τη μνήμη. Τα βάρη, οι ενεργοποιήσεις και, για εκπαίδευση, η κατάσταση του βελτιστοποιητή πρέπει να χωρούν στη GPU, και μια εργασία που δεν χωρά δεν σώζεται από ταχύτερο τσιπ.

A100 40 GB

Αποκλειστικός διακομιστής A100 για συμπερασμό και ομαδικές εργασίες

Η χαμηλότερη τιμή για HBM, ECC και Multi-Instance GPU. Κατάλληλη για εξυπηρέτηση μικρών και μεσαίων μοντέλων, ομαδική βαθμολόγηση και επιστημονικό κώδικα που χωρά σε 40 GB.

A100 80 GB

Διπλάσια μνήμη, ίδια γενιά

Περίπου ένα τέταρτο περισσότερο εύρος ζώνης από την έκδοση 40 GB. Κατάλληλη όταν το μοντέλο ή η παρτίδα δεν χωρά σε 40 GB και η ακατέργαστη αριθμητική δεν είναι το σημείο συμφόρησης.

H100 80 GB

Αποκλειστικός διακομιστής H100 για εκπαίδευση

Οι Tensor Cores τέταρτης γενιάς και το FP8 αυξάνουν την απόδοση στην εκπαίδευση και τον συμπερασμό μετασχηματιστών σε σχέση με την A100, κυρίως όπου το framework σας χρησιμοποιεί FP8. Αξίζει την τιμή της όταν η GPU είναι απασχολημένη το μεγαλύτερο μέρος του μήνα.

Χωρούν τα βάρη του μοντέλου;

Model weightsPrecisionA100 40 GBA100 or H100 80 GB
7-8 billion parameters16-bitfits16 GBfits16 GB
8-bitfits8 GBfits8 GB
4-bitfits5 GBfits5 GB
13-14 billion parameters16-bittight28 GBfits28 GB
8-bitfits14 GBfits14 GB
4-bitfits8 GBfits8 GB
30-34 billion parameters16-bitno68 GBno68 GB
8-bitno34 GBfits34 GB
4-bitfits19 GBfits19 GB
70 billion parameters16-bitno140 GBno140 GB
8-bitno70 GBno70 GB
4-bitno38 GBfits38 GB

Μόνο βάρη. Το "Χωρά" αφήνει τουλάχιστον μιάμιση φορά επιπλέον ελεύθερο χώρο για την κρυφή μνήμη KV και τον χρόνο εκτέλεσης· το "Οριακά" φορτώνει, αλλά ένα μεγάλο πλαίσιο ή ένας δεύτερος χρήστης εξαντλεί τη GPU. Η πλήρης λεπτομερής ρύθμιση σε μικτή ακρίβεια με τον βελτιστοποιητή Adam χρειάζεται περίπου 16 byte ανά παράμετρο πριν από τις ενεργοποιήσεις, επομένως μία GPU 80 GB εκπαιδεύει πλήρως περίπου 5 δισεκατομμύρια παραμέτρους. Οι LoRA και QLoRA εκπαιδεύουν προσαρμογείς σε πολύ μεγαλύτερα μοντέλα στην ίδια μνήμη. Για ένα συγκεκριμένο μοντέλο, η σελίδα Φιλοξενία LLM ονομάζει το μηχάνημα.

Καμία από τις δύο GPU δεν διαθέτει κωδικοποιητή βίντεο υλικού. Για διακωδικοποίηση, ο αποκλειστικός διακομιστής L40S διαθέτει τρεις μηχανές NVENC με AV1.

Περιλαμβάνεται

Τι ελέγχετε και πώς χρεώνεται

Το μηχάνημα και η GPU είναι δύο μηνιαίες γραμμές σε ένα τιμολόγιο. Αλλάξτε αργότερα τη GPU στον ίδιο διακομιστή και ο λογαριασμός μεταβάλλεται κατά τη διαφορά μεταξύ των δύο GPU· οι δίσκοι και οι διευθύνσεις IP σας παραμένουν.

Root πρόσβαση και απομακρυσμένη κονσόλα

Ένα καθαρό λειτουργικό σύστημα, πρόσβαση root και ο ελεγκτής εκτός ζώνης του διακομιστή για κονσόλα, εικονικά μέσα και τροφοδοσία.

Οδηγοί που καθορίζετε εσείς

Εγκαθιστάτε τον οδηγό NVIDIA, την έκδοση CUDA και την έκδοση framework στην οποία δοκιμάστηκε ο κώδικάς σας. Θέλετε τον οδηγό εγκατεστημένο κατά την παράδοση; Σημειώστε την έκδοση στην παραγγελία.

Θύρα χωρίς μέτρηση

Η κίνηση δεν μετράται προς καμία κατεύθυνση, επομένως η λήψη συνόλων δεδομένων και η αποστολή σημείων ελέγχου δεν προσθέτουν τίποτα στον λογαριασμό. Ταχύτερες θύρες υπάρχουν στη φόρμα παραγγελίας και η σελίδα εύρος ζώνης χωρίς μέτρηση τις παραθέτει.

Μήνα με μήνα

Χωρίς συμβόλαιο και χωρίς υπογραφές. Τα μηχανήματα σε rack που λαμβάνονται χωρίς αλλαγές χρεώνονται επίσης ανά ώρα στους άμεσους διακομιστές· μια διαμόρφωση κατά παραγγελία είναι μηνιαία.

Παράδοση

Πόσο χρόνο χρειάζεται ένας διακομιστής A100 ή H100

Ο χρόνος παράδοσης καθορίζεται από το πού βρίσκεται η GPU την ημέρα της παραγγελίας. Μαθαίνετε ποια από τις τέσσερις περιπτώσεις ισχύει πριν πληρώσετε, και κάθε χρονόμετρο ξεκινά με την έγκριση.

  1. 30 λεπτά

    Ήδη σε rack

    Ένα μηχάνημα που φέρει τη GPU περιμένει στο rack.

  2. 4–24 ώρες

    Τοποθετείται εδώ

    Διαθέτουμε τη GPU και την τοποθετούμε στο μηχάνημα που διαμορφώσατε.

  3. 5–10 ημέρες

    Αγοράζεται

    Εργάσιμες ημέρες, όταν η GPU πρέπει να παραγγελθεί πρώτα.

  4. 10–15 ημέρες

    Σε κατανομή

    Εργάσιμες ημέρες, όταν η GPU βρίσκεται σε κατανομή και ο προμηθευτής ορίζει την ημερομηνία.

Απαντήσεις

Ερωτήσεις για διακομιστές GPU H100 και A100

Ποια είναι η διαφορά μεταξύ των NVIDIA A100 και H100;

Η H100 είναι η γενιά μετά την A100. Ως προς τις PCIe GPU που τοποθετούμε, η A100 διαθέτει 40 GB HBM2 στα 1.555 GB/s ή 80 GB HBM2e στα 1.935 GB/s και διασύνδεση PCIe 4.0. Η H100 διαθέτει 80 GB HBM2e στα 2.039 GB/s, Tensor Cores τέταρτης γενιάς με FP8 και διασύνδεση PCIe 5.0, ενώ καταναλώνει 350 W έναντι 250 ή 300 W. Και οι τρεις διαθέτουν ECC, Multi-Instance GPU και κανέναν κωδικοποιητή βίντεο.

Πόσο κοστίζει ένας αποκλειστικός διακομιστής H100;

Η χαμηλότερη μηνιαία τιμή για έναν πλήρη διακομιστή H100 80 GB είναι $1,682.67. Το μηχάνημα αυτό είναι Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, και η GPU αποτελεί $1,599 του συνόλου. Μια σύνθεση με την GPU τοποθετημένη προσθέτει εφάπαξ τέλος εγκατάστασης $29, και ο πίνακας συνθέσεων αναφέρει κάθε πλατφόρμα με τη δική της τιμή.

Πόσο κοστίζει ένας διακομιστής A100;

Η χαμηλότερη μηνιαία τιμή για έναν πλήρη διακομιστή A100 είναι $772.47 με την GPU 40 GB και $972.47 με την GPU 80 GB, το καθένα στο φθηνότερο μηχάνημα που το υποστηρίζει. Η σύνθεση A100 40 GB είναι Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Η μνήμη, οι δίσκοι και μια ταχύτερη θύρα τιμολογούνται στη φόρμα παραγγελίας.

Η H100 εδώ είναι PCIe ή SXM5, και διαθέτει HBM3;

PCIe, και όχι. Τα πλαίσιά μας δέχονται πρόσθετες κάρτες GPU PCIe, οπότε η H100 που τοποθετούμε είναι η κάρτα PCIe 80 GB: HBM2e στα 2.039 GB/s, 350 W, σύνδεση PCIe 5.0 x16. Η HBM3 στα 3.350 GB/s και έως 700 W είναι η μονάδα SXM5, η οποία βιδώνεται σε μια μητρική πλακέτα HGX που κανένας από τους διακομιστές μας δεν διαθέτει. Σε μία GPU αυτό αντιστοιχεί περίπου σε 1,6 φορές το εύρος ζώνης μνήμης, και το ύφασμα NVLink που προσθέτει η μονάδα έχει σημασία μόνο πάνω από μία GPU.

Είναι ένας διακομιστής H100 κατάλληλος για εκπαίδευση μοντέλων τεχνητής νοημοσύνης;

Ναι, για μοντέλα που χωρούν σε 80 GB με τη μέθοδο εκπαίδευσης που χρησιμοποιείτε. Η πλήρης λεπτομερής ρύθμιση σε μικτή ακρίβεια με τον Adam απαιτεί περίπου 16 byte ανά παράμετρο πριν από τις ενεργοποιήσεις, οπότε μία H100 εκπαιδεύει πλήρως περίπου 5 δισεκατομμύρια παραμέτρους, και οι προσαρμογείς LoRA ή QLoRA την επεκτείνουν σε πολύ μεγαλύτερα μοντέλα. Πέρα από αυτό, η εργασία απαιτεί πολλές GPU, κάτι που καλύπτουν οι διακομιστές πολλαπλών GPU.

Μπορώ να τοποθετήσω δύο ή περισσότερες GPU A100 ή H100 σε έναν διακομιστή;

Συχνά, και τιμολογείται χειροκίνητα αντί να επιλέγεται στο ταμείο: ο χώρος του πλαισίου, οι λωρίδες PCIe και το τροφοδοτικό καθορίζουν τον αριθμό. Και οι δύο GPU διαθέτουν υποδοχή γέφυρας NVLink, αλλά καμία γέφυρα δεν υπάρχει στη φόρμα παραγγελίας, οπότε οι GPU σε έναν διακομιστή επικοινωνούν μέσω PCIe εκτός αν ζητηθεί γέφυρα. Ρωτήστε στη συνομιλία πριν παραγγείλετε αν η εργασία τη χρειάζεται.

Μπορώ να νοικιάσω έναν διακομιστή A100 ή H100 με την ώρα;

Μόνο ένα μηχάνημα ήδη τοποθετημένο σε rack, παραγγελμένο ως έχει, από τους άμεσους διακομιστές. Κοστίζει τη μηνιαία τιμή του διαιρεμένη με 730 ώρες, επί 1,3, με χρέωση ανά δευτερόλεπτο μέχρι να το απελευθερώσετε. Μια σύνθεση κατά παραγγελία, όπως οι σειρές σε αυτή τη σελίδα, χρεώνεται ανά μήνα.

Πόσο χρόνο χρειάζεται η παράδοση ενός διακομιστή A100 ή H100;

Περίπου 30 λεπτά μετά την έγκριση όταν ένα μηχάνημα με την GPU είναι ήδη τοποθετημένο σε rack, 4 έως 24 ώρες όταν τοποθετούμε μια GPU που διαθέτουμε, 5 έως 10 εργάσιμες ημέρες όταν η GPU αγοράζεται, και 10 έως 15 όταν είναι σε κατανομή. Δηλώνουμε ποια περίπτωση ισχύει πριν ληφθεί οποιαδήποτε πληρωμή.

Μπορεί μια A100 ή H100 να μετακωδικοποιήσει βίντεο;

Όχι σε επίπεδο υλικού. Καμία δεν διαθέτει κωδικοποιητή NVENC, οπότε η κωδικοποίηση θα εκτελούνταν σε λογισμικό στη GPU ή στον επεξεργαστή. Αποκωδικοποιούν, με 5 μηχανές NVDEC στην A100 και 7 στην H100. Για ζωντανή μετακωδικοποίηση επιλέξτε μια GPU με NVENC, όπως την L40S.

Μοιράζομαι τη GPU με κάποιον άλλο;

Όχι. Η GPU περνά απευθείας στο δικό σας λειτουργικό σύστημα χωρίς ενδιάμεσο hypervisor, και το μηχάνημα έχει έναν μόνο μισθωτή. Μπορείτε ακόμα να τη διαχωρίσετε μόνοι σας με το Multi-Instance GPU σε έως επτά στιγμιότυπα για τις δικές σας εργασίες.

Ποιος απαντά όταν χρειάζομαι βοήθεια;

Η τεχνητή νοημοσύνη στη συνομιλία μας απαντά μέσα σε δευτερόλεπτα και μπορεί να αναζητήσει τον λογαριασμό σας και τον διακομιστή σας ενώ μιλάτε. Πείτε ότι θέλετε ένα άτομο και κάποιος από εμάς αναλαμβάνει την ίδια συνομιλία.

Σε απλό κείμενο

Κάθε αριθμός σε αυτή τη σελίδα

GPUs
NVIDIA A100 40 GB (HBM2, 1,555 GB/s, 250 W, PCIe 4.0), A100 80 GB (HBM2e, 1,935 GB/s, 300 W, PCIe 4.0), H100 80 GB PCIe (HBM2e, 2,039 GB/s, 350 W, PCIe 5.0)
A100 40 GB server from
$772.47 a month, complete: Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps with the GPU
A100 80 GB server from
$972.47 a month, complete: Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps with the GPU
H100 80 GB server from
$1,682.67 a month, complete: Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps with the GPU
Platforms
Intel Xeon E5-2600 v3/v4 (PCIe 3.0); Intel Xeon Silver / Gold (PCIe 3.0); AMD EPYC (PCIe 4.0)
Cities
New York, Bucharest, San Francisco, Miami, Amsterdam
Setup
$29 once for a build with a GPU fitted
Term
Monthly, no contract; up to 15% off for 3, 6 or 12 months paid ahead
Traffic
Unmetered port, no egress charge
GPU access
PCIe passthrough to your own OS, root, no hypervisor
Delivery
About 30 minutes racked; 4 to 24 hours when we hold the GPU; 5 to 10 working days bought in; 10 to 15 on allocation
Not included
NVENC video encoding (neither GPU has one), NVLink bridge (quoted), SXM5 modules

Επιλέξτε τη GPU και μετά το μηχάνημα κάτω από αυτήν

Διαμορφώστε έναν διακομιστή A100 ή H100 τώρα, ή πείτε μας το μοντέλο και το μέγεθος παρτίδας στη συνομιλία. Η τεχνητή νοημοσύνη μας απαντά σε δευτερόλεπτα, και ένα άτομο συμμετέχει όταν το ζητήσετε.