Πώς οι NVIDIA H100 GPUs στην πλατφόρμα AI Cloud της CoreWeave κατέρριψαν ρεκόρ στο

Η κορυφαία επίδοση στον κόσμο για επεξεργασία γραφημάτων σε μεγάλη κλίμακα επιτεύχθηκε σε έναν εμπορικά διαθέσιμο υπολογιστικό κόμβο.

Νέο ρεκόρ στο Graph500

Η NVIDIA ανακοίνωσε πρόσφατα ένα νέο ρεκόρ στο Graph500 benchmark με 410 τρισεκατομμύρια διασχίσεις ακμών ανά δευτερόλεπτο (TEPS), κατακτώντας την πρώτη θέση στη λίστα της 31ης Graph500 για την αναζήτηση κατά πλάτος (BFS).

Η επίδοση αυτή επιτεύχθηκε σε ένα επιταχυνόμενο υπολογιστικό σύστημα που φιλοξενείται σε κέντρο δεδομένων της CoreWeave στο Ντάλας, χρησιμοποιώντας 8.192 NVIDIA H100 GPUs για την επεξεργασία ενός γραφήματος με 2,2 τρισεκατομμύρια κορυφές και 35 τρισεκατομμύρια ακμές. Αυτή η επίδοση είναι περισσότερο από διπλάσια από άλλες συγκρίσιμες λύσεις στη λίστα, συμπεριλαμβανομένων αυτών που φιλοξενούνται σε εθνικά εργαστήρια.

Η σημασία της επίδοσης

Για να κατανοήσουμε καλύτερα αυτή την επίδοση, ας φανταστούμε ότι κάθε άνθρωπος στη Γη έχει 150 φίλους. Αυτό θα αντιπροσώπευε 1,2 τρισεκατομμύρια ακμές σε ένα γράφημα κοινωνικών σχέσεων. Η επίδοση που πέτυχαν η NVIDIA και η CoreWeave επιτρέπει την αναζήτηση σε κάθε σχέση φίλων στη Γη σε περίπου τρία χιλιοστά του δευτερολέπτου.

Η ταχύτητα σε αυτή την κλίμακα είναι μόνο το μισό της ιστορίας — η πραγματική καινοτομία είναι η αποδοτικότητα. Ένα συγκρίσιμο σύστημα στην κορυφαία δεκάδα του Graph500 χρησιμοποίησε περίπου 9.000 κόμβους, ενώ η νικητήρια εκτέλεση της NVIDIA χρησιμοποίησε λίγο πάνω από 1.000 κόμβους, προσφέροντας τριπλάσια απόδοση ανά δολάριο.

Η τεχνολογική υποδομή

Η NVIDIA αξιοποίησε τη συνδυασμένη δύναμη των τεχνολογιών υλικού και λογισμικού της, όπως η πλατφόρμα CUDA, το δίκτυο Spectrum-X και οι H100 GPUs, καθώς και μια νέα βιβλιοθήκη ενεργών μηνυμάτων, για να επεκτείνει τα όρια της απόδοσης ενώ ελαχιστοποιεί το υλικό αποτύπωμα.

Με την εξοικονόμηση χρόνου και κόστους σε αυτή την κλίμακα σε ένα εμπορικά διαθέσιμο σύστημα, η νίκη αυτή δείχνει πώς η υπολογιστική πλατφόρμα της NVIDIA είναι έτοιμη να δημοκρατικοποιήσει την πρόσβαση στην επιτάχυνση των μεγαλύτερων αραιών, ακανόνιστων φορτίων εργασίας στον κόσμο — πέρα από τα πυκνά φορτία όπως η εκπαίδευση AI.

Πώς λειτουργούν τα γραφήματα σε μεγάλη κλίμακα

Τα γραφήματα είναι η υποκείμενη δομή πληροφοριών για τη σύγχρονη τεχνολογία. Οι άνθρωποι αλληλεπιδρούν με αυτά καθημερινά σε κοινωνικά δίκτυα και εφαρμογές τραπεζών, μεταξύ άλλων χρήσεων. Τα γραφήματα καταγράφουν σχέσεις μεταξύ κομματιών πληροφοριών σε τεράστιους ιστούς δεδομένων.

Για παράδειγμα, στο LinkedIn, το προφίλ ενός χρήστη είναι μια κορυφή. Οι συνδέσεις ή σχέσεις με άλλους χρήστες είναι ακμές — με τους άλλους χρήστες να αναπαρίστανται ως κορυφές. Κάποιοι χρήστες έχουν πέντε συνδέσεις, άλλοι 50.000. Αυτό δημιουργεί μεταβλητή πυκνότητα στο γράφημα, κάνοντάς το αραιό και ακανόνιστο. Σε αντίθεση με ένα μοντέλο εικόνας ή γλώσσας, που είναι δομημένο και πυκνό, ένα γράφημα είναι απρόβλεπτο.

Γιατί έχει σημασία

Αυτή η ανακάλυψη έχει τεράστιες επιπτώσεις για την υψηλή απόδοση υπολογιστών (HPC). Τομείς όπως η δυναμική ρευστών και η πρόγνωση καιρού βασίζονται σε παρόμοιες αραιές δομές δεδομένων και μοτίβα επικοινωνίας που τροφοδοτούν τα γραφήματα που υποστηρίζουν τα κοινωνικά δίκτυα και την κυβερνοασφάλεια.

Για δεκαετίες, αυτοί οι τομείς ήταν δεμένοι με τις αρχιτεκτονικές των CPUs στις μεγαλύτερες κλίμακες, ακόμη και καθώς τα δεδομένα αυξάνονται από δισεκατομμύρια σε τρισεκατομμύρια ακμές. Το αποτέλεσμα της NVIDIA στο Graph500, μαζί με άλλες δύο συμμετοχές στην κορυφαία δεκάδα, επιβεβαιώνει μια νέα προσέγγιση για την υψηλή απόδοση υπολογιστών σε κλίμακα.

Με τη συνολική οργάνωση της υπολογιστικής, δικτύωσης και λογισμικού της NVIDIA, οι προγραμματιστές μπορούν τώρα να χρησιμοποιούν τεχνολογίες όπως το NVSHMEM και το IBGDA για να κλιμακώσουν αποτελεσματικά τις μεγαλύτερες εφαρμογές HPC τους, φέρνοντας επιδόσεις υπερυπολογιστών σε εμπορικά διαθέσιμη υποδομή.

Μείνετε ενημερωμένοι για τα τελευταία benchmarks του Graph500 και μάθετε περισσότερα για τις τεχνολογίες δικτύωσης της NVIDIA.