Η πρόκληση της αποθήκευσης για την τεχνητή νοημοσύνη
Η βιομηχανία της τεχνητής νοημοσύνης (AI) έχει κάνει άλματα προόδου χάρη στις υψηλές επιδόσεις των σύγχρονων GPUs, όπως αυτές της Nvidia, οι οποίες διαθέτουν μνήμη υψηλής ταχύτητας (HBM). Ωστόσο, ένα από τα βασικά εμπόδια που αντιμετωπίζουν τα συστήματα εκπαίδευσης και πρόβλεψης AI είναι η απόδοση των συστημάτων αποθήκευσης. Για να αντιμετωπιστεί αυτό το πρόβλημα, η Nvidia συνεργάζεται με εταίρους για την ανάπτυξη SSDs που μπορούν να φτάσουν σε τυχαία ανάγνωση απόδοσης 100 εκατομμυρίων λειτουργιών εισόδου/εξόδου ανά δευτερόλεπτο (IOPS) σε μικρά μπλοκ εργασιών, σύμφωνα με τον Wallace C. Kuo σε συνέντευξή του στο Tom’s Hardware.
Η σημασία των 100 εκατομμυρίων IOPS
Η επίτευξη των 100 εκατομμυρίων IOPS αποτελεί τεράστιο στόχο. Οι σύγχρονοι επιταχυντές AI, όπως ο Nvidia B200, διαθέτουν μνήμη HBM3E με εύρος ζώνης περίπου 8 TB/s, ξεπερνώντας κατά πολύ τις δυνατότητες των σύγχρονων συστημάτων αποθήκευσης τόσο σε συνολική απόδοση όσο και σε καθυστέρηση. Οι σύγχρονοι SSDs PCIe 5.0 x4 φτάνουν μέχρι περίπου 14.5 GB/s και παρέχουν 2–3 εκατομμύρια IOPS για τυχαίες αναγνώσεις 4K και 512B. Αν και τα μπλοκ 4K είναι καλύτερα για το εύρος ζώνης, τα μοντέλα AI συνήθως εκτελούν μικρές, τυχαίες ανακτήσεις, καθιστώντας τα μπλοκ 512B πιο κατάλληλα για τα μοτίβα τους που είναι ευαίσθητα στην καθυστέρηση.
Νέες τεχνολογίες και προκλήσεις
Η Kioxia εργάζεται ήδη πάνω σε έναν “AI SSD” που βασίζεται στη μνήμη XL-Flash, σχεδιασμένη να ξεπεράσει τα 10 εκατομμύρια 512K IOPS. Η εταιρεία σχεδιάζει να κυκλοφορήσει αυτή τη μονάδα κατά το δεύτερο εξάμηνο του επόμενου έτους, πιθανώς σε συνδυασμό με την πλατφόρμα Vera Rubin της Nvidia. Για να φτάσει κανείς τα 100 εκατομμύρια IOPS, ίσως χρειαστεί να χρησιμοποιήσει πολλαπλούς “AI SSDs”.
Η ανάγκη για νέες μνήμες
Ο επικεφαλής της SMI πιστεύει ότι η επίτευξη των 100 εκατομμυρίων IOPS σε μια μόνο μονάδα με συμβατική NAND, με λογικό κόστος και κατανάλωση ενέργειας, θα είναι εξαιρετικά δύσκολη, οπότε ίσως χρειαστεί ένας νέος τύπος μνήμης. “Πιστεύω ότι ψάχνουν για μια αλλαγή μέσου,” δήλωσε ο Kuo. “Η Optane ήταν η ιδανική λύση, αλλά πλέον δεν υπάρχει. Η Kioxia προσπαθεί να φέρει την XL-NAND και να βελτιώσει την απόδοσή της. Η SanDisk προσπαθεί να εισαγάγει την High Bandwidth Flash (HBF), αλλά ειλικρινά, δεν πιστεύω πραγματικά σε αυτήν. Αυτή τη στιγμή, όλοι προωθούν τη δική τους τεχνολογία, αλλά η βιομηχανία χρειάζεται κάτι θεμελιωδώς νέο. Διαφορετικά, θα είναι πολύ δύσκολο να επιτευχθούν τα 100 εκατομμύρια IOPS και να παραμείνουν οικονομικά βιώσιμα.”
Το μέλλον της μη πτητικής μνήμης
Αυτή τη στιγμή, πολλές εταιρείες, συμπεριλαμβανομένων των Micron και SanDisk, αναπτύσσουν νέους τύπους μη πτητικής μνήμης. Ωστόσο, το πότε αυτοί οι νέοι τύποι μνήμης θα είναι εμπορικά βιώσιμοι είναι κάτι που ακόμη και ο επικεφαλής της Silicon Motion δεν μπορεί να προβλέψει με ακρίβεια.
