Η σημασία των EPYC CPUs της AMD για την απόδοση των AI επιταχυντών

Η AMD ανέδειξε τη σημασία των server CPUs για το τμήμα των κέντρων δεδομένων στην πρόσφατη παρουσίαση Advancing AI, υποστηρίζοντας ότι η έλλειψη της σωστής συνδυαστικής λύσης μπορεί να επηρεάσει την απόδοση.

Η σημασία των EPYC CPUs για την απόδοση των AI επιταχυντών

Συχνά παραβλέπουμε πόσο κρίσιμη είναι η προσφορά των server CPUs για την υπολογιστική δύναμη στον τομέα της τεχνητής νοημοσύνης, καθώς οι επεξεργαστές παίζουν ουσιαστικό ρόλο τόσο στα σενάρια εκπαίδευσης όσο και στα σενάρια πρόβλεψης, πέρα από τους AI επιταχυντές. Τα τελευταία τρίμηνα, η AMD έχει επεκτείνει δυναμικά την παρουσία της στον τομέα των κέντρων δεδομένων, ιδιαίτερα με τις προσφορές των server CPUs EPYC, καθιστώντας την έναν σημαντικό παίκτη στην αγορά. Στην παρουσίαση Advancing AI, ο εκτελεστικός αντιπρόεδρος της AMD, Forrest Norrod, ανέλυσε πόσο κρίσιμη είναι η ισορροπία μεταξύ CPU και GPU στον τομέα των servers.

Συγκρίσεις και αποτελέσματα

Η AMD σύγκρινε τον επεξεργαστή Intel Xeon 8592+ 5th Gen με τον server CPU EPYC 9575F, και οι δύο εξοπλισμένοι με τον AI επιταχυντή Instinct MI300X, δείχνοντας πόσο μεγάλη είναι η διαφορά στην απόδοση αν οι πελάτες δεν διαθέτουν τη σωστή πλατφόρμα CPU. Πριν προχωρήσουμε στα benchmarks, ας αξιολογήσουμε τη δικαιοσύνη της επιλογής των CPUs. Η AMD, φυσικά, επέλεξε τη νεότερη σειρά CPUs EPYC 9005, συγκρίνοντάς την με τον Xeon 8592+, που κυκλοφόρησε πριν από σχεδόν δύο χρόνια. Σε επίπεδο χαρακτηριστικών, και οι δύο CPUs προσφέρουν διαμόρφωση 64 πυρήνων/128 νημάτων, με παρόμοια TDPs, καθιστώντας τη σύγκριση τουλάχιστον ισορροπημένη.

Αποτελέσματα των benchmarks

Τα benchmarks της εταιρείας δείχνουν ότι η υιοθέτηση της “προφανώς” ανώτερης πλατφόρμας EPYC 9005 προσφέρει αύξηση απόδοσης κατά 6% κατά μέσο όρο σε πολλαπλές δοκιμές στο μοντέλο AI Llama 3.1 8B, και αυτή η διαφορά ξεπερνά το 17% καθώς αυξάνεται ο αριθμός των παραμέτρων. Οι δοκιμές επικεντρώνονται κυρίως σε πολλαπλές εργασίες πρόβλεψης, δείχνοντας ότι η σωστή επιλογή server CPU επηρεάζει σημαντικά τη συνολική απόδοση. Τα benchmarks διεξήχθησαν παράλληλα με τους AI επιταχυντές Instinct MI300X, αλλά αναρωτιέμαι αν οι βελτιστοποιήσεις έπαιξαν ρόλο εδώ.

Η αυξανόμενη παρουσία της AMD στην αγορά

Ανεξάρτητα από τα benchmarks της AMD, η εταιρεία βλέπει σαφώς μαζική υιοθέτηση στον τομέα των server CPUs, καθώς το μερίδιο αγοράς της ανεβαίνει σε εντυπωσιακά νούμερα μέσα σε λίγα χρόνια.