Στο Cisco Live στο Άμστερνταμ την Τρίτη, η επιχείρηση δικτύωσης Goliath ανακοίνωσε μια σειρά από πλατφόρμες υλικού και λογισμικού σε συνεργασία με την Nvidia, προσαρμοσμένες στην αγαπημένη λέξη όλων αυτών των ημερών: AL/ML.
Βασικό επίκεντρο της συνεργασίας είναι να διευκολύνει την ανάπτυξη και τη διαχείριση συστημάτων AI χρησιμοποιώντας τυπικό Ethernet, κάτι που είμαστε σίγουροι ότι θα εκτιμήσουν όλοι όσοι έχουν αντιμετωπίσει προβλήματα με τα πιστοποιητικά CCNA ή/και CCNP.
Ενώ οι GPU που τροφοδοτούν συμπλέγματα AI τείνουν να κυριαρχούν στη συνομιλία, τα δίκτυα υψηλής απόδοσης και χαμηλής καθυστέρησης που απαιτούνται για την υποστήριξη μπορεί να είναι αρκετά περίπλοκα. Αν και είναι αλήθεια ότι οι σύγχρονοι κόμβοι GPU επωφελούνται σε μεγάλο βαθμό από τη γρήγορη δικτύωση 200 Gb/s, 400 Gb/s και σύντομα 800 Gb/s, αυτό είναι μόνο μέρος της εξίσωσης, ειδικά όταν πρόκειται για εκπαίδευση. Επειδή αυτοί οι φόρτοι εργασίας πρέπει συχνά να κατανέμονται σε πολλούς διακομιστές που περιέχουν τέσσερις ή οκτώ GPU, τυχόν επιπλέον καθυστέρηση μπορεί να οδηγήσει σε εκτεταμένους χρόνους εκπαίδευσης.
Εξαιτίας αυτού, το InfiniBand της Nvidia συνεχίζει να κυριαρχεί στις αναπτύξεις δικτύωσης AI. Σε μια πρόσφατη συνέντευξη με τον αναλυτή επιχειρήσεων του Ομίλου Dell'Oro, Sameh Boujelbene αναμενόμενη ότι περίπου το 90 τοις εκατό των αναπτύξεων χρησιμοποιούν το InfiniBand της Nvidia/Mellanox — όχι Ethernet.
Αυτό δεν σημαίνει ότι το Ethernet δεν κερδίζει έλξη. Οι αναδυόμενες τεχνολογίες, όπως τα smartNIC και τα βελτιστοποιημένα για τεχνητή νοημοσύνη ASIC μεταγωγέων με βαθιά buffer πακέτων, έχουν συμβάλει στον περιορισμό της απώλειας πακέτων, κάνοντας το Ethernet τουλάχιστον να συμπεριφέρεται περισσότερο σαν InfiniBand.
Για παράδειγμα, ο διακόπτης ASIC της Cisco Silicon One G200, τον οποίο εμείς κοίταξε το περασμένο καλοκαίρι, μπορεί να υπερηφανεύεται για μια σειρά από χαρακτηριστικά ευεργετικά για τα δίκτυα τεχνητής νοημοσύνης, όπως η προηγμένη διαχείριση συμφόρησης, οι τεχνικές ψεκασμού πακέτων και η αποτυχία σύνδεσης. Αλλά είναι σημαντικό να σημειωθεί ότι αυτά τα χαρακτηριστικά δεν είναι μοναδικά για τη Cisco, και η Nvidia και η Broadcom έχουν ανακοινώσει και οι δύο παρόμοιους διακόπτες τα τελευταία χρόνια.
Η Dell'Oro προβλέπει ότι ο ρόλος του Ethernet στα δίκτυα τεχνητής νοημοσύνης θα έχει περίπου 20 σημεία μεριδίου εσόδων έως το 2027. Ένας από τους λόγους για αυτό είναι η εξοικείωση του κλάδου με το Ethernet. Ενώ οι αναπτύξεις τεχνητής νοημοσύνης ενδέχεται να απαιτούν ακόμη συγκεκριμένο συντονισμό, οι επιχειρήσεις γνωρίζουν ήδη πώς να αναπτύσσουν και να διαχειρίζονται την υποδομή Ethernet.
Αυτό και μόνο καθιστά τις συνεργασίες με προμηθευτές δικτύωσης όπως η Cisco ελκυστική προοπτική για τη Nvidia. Παρόλο που μπορεί να μειώσει τις πωλήσεις των διακοπτών InfiniBand ή Spectrum Ethernet της Nvidia, η ανταμοιβή είναι η δυνατότητα να τεθούν περισσότερες GPU στα χέρια των επιχειρήσεων που διαφορετικά θα μπορούσαν να αμφισβητήσουν την προοπτική ανάπτυξης μιας εντελώς ξεχωριστής στοίβας δικτύου.
Η Cisco παίζει την επιχειρηματική γωνία AI
Για να υποστηρίξουν αυτές τις προσπάθειες, η Cisco και η Nvidia έχουν αναπτύξει σχέδια και συστήματα αναφοράς, τα οποία στοχεύουν να εξασφαλίσουν συμβατότητα και να βοηθήσουν στην αντιμετώπιση των κενών γνώσης για την ανάπτυξη υποδομής δικτύωσης, αποθήκευσης και υπολογιστών για την υποστήριξη των αναπτύξεων τεχνητής νοημοσύνης τους.
Αυτά τα σχέδια αναφοράς στοχεύουν πλατφόρμες στις οποίες είναι πιθανό να έχουν ήδη επενδύσει οι επιχειρήσεις, συμπεριλαμβανομένου του κιτ από Pure Storage, NetApp και Red Hat. Δεν αποτελεί έκπληξη ότι χρησιμεύουν επίσης για να προωθήσουν τα συστήματα επιτάχυνσης GPU της Cisco. Αυτά περιλαμβάνουν σχέδια αναφοράς και σενάρια αυτοματισμού για την εφαρμογή των πλαισίων FlexPod και FlashStack σε φόρτους εργασίας εξαγωγής συμπερασμάτων AI. Η εξαγωγή συμπερασμάτων, ιδιαίτερα σε μοντέλα μικρών τομέων, είναι αναμένεται από πολλούς για να αποτελούν το μεγαλύτερο μέρος των επιχειρηματικών αναπτύξεων τεχνητής νοημοσύνης, δεδομένου ότι είναι σχετικά φειδωλοί στο τρέξιμο και την εκπαίδευση.
Το FlashStack AI Cisco Verified Design (CVD) είναι ουσιαστικά ένα βιβλίο παιχνιδιού πώς να αναπτύξτε τα συστήματα δικτύωσης της Cisco και τα συστήματα UCS με επιτάχυνση GPU παράλληλα με τις συστοιχίες αποθήκευσης flash του Pure Storage. Το FlexPod AI (CVD), εν τω μεταξύ, φαίνεται να ακολουθήστε παρόμοιο μοτίβο, αλλά ανταλλάσσει το Pure με την πλατφόρμα αποθήκευσης του NetApp. Η Cisco λέει ότι θα είναι έτοιμα να κυκλοφορήσουν αργότερα αυτόν τον μήνα, με περισσότερα CVD που υποστηρίζονται από την Nvidia να έρχονται στο μέλλον.
Μιλώντας για την υπολογιστική πλατφόρμα UCS της Cisco, το σύστημα δικτύωσης έχει επίσης παρουσιάσει μια έκδοση με εστίαση στις άκρες των συστημάτων blade της σειράς X που μπορεί να εξοπλιστεί με τις πιο πρόσφατες GPU της Nvidia.
Το πλαίσιο X Direct χαρακτηριστικά οκτώ υποδοχές που μπορούν να συμπληρωθούν με έναν συνδυασμό υπολογιστικών λεπίδων διπλής ή τετραπλής υποδοχής ή κόμβων επέκτασης PCIe για υπολογισμούς GPU. Μπορούν επίσης να χρησιμοποιηθούν πρόσθετες μονάδες X-Fabric για την επέκταση της χωρητικότητας GPU του συστήματος.
Ωστόσο, αξίζει να σημειωθεί ότι σε αντίθεση με πολλούς από τους κόμβους GPU που έχουμε δει από τις Supermicro, Dell, HPE και άλλους, οι οποίοι χρησιμοποιούν τις πιο ισχυρές μονάδες SXM της Nvidia, το σύστημα UCS X Direct της Cisco φαίνεται να υποστηρίζει μόνο GPU με χαμηλότερο TDP PCIe.
Σύμφωνα με το φύλλο δεδομένων, κάθε διακομιστής μπορεί να εξοπλιστεί με έως και έξι συμπαγείς GPU ανά διακομιστή ή έως δύο GPU διπλής υποδοχής, πλήρους μήκους, πλήρους ύψους.
Αυτό πιθανότατα θα αποδειχθεί περιοριστικό για όσους θέλουν να τρέξουν τεράστια μεγάλα μοντέλα γλώσσας που καταναλώνουν εκατοντάδες gigabyte μνήμης GPU. Ωστόσο, είναι πιθανώς κάτι παραπάνω από επαρκές για την εκτέλεση μικρότερων φόρτων εργασίας εξαγωγής συμπερασμάτων, για πράγματα όπως η προεπεξεργασία δεδομένων στην άκρη.
Η Cisco στοχεύει την πλατφόρμα στην κατασκευή, την υγειονομική περίθαλψη και όσους διαθέτουν μικρά κέντρα δεδομένων. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/02/08/cisco_nvidia_expand_collab/
