Η πρωτοπορία των NPU στο μέλλον

Οι μονάδες νευρωνικής επεξεργασίας ή οι NPU είναι το νεότερο υλικό που αναφέρεται από τους κατασκευαστές επεξεργαστών. Αυτά τα τσιπ υποτίθεται ότι έχουν κατασκευαστεί για να χειρίζονται την επεξεργασία AI και κάθε ένας από τους μεγάλους κατασκευαστές έχει τη δική του άποψη για τις NPU. Ας δούμε τι περιμένουμε στο εγγύς μέλλον.

NPU και η θέση τους σε φορητούς υπολογιστές

Εάν μέχρι τώρα δεν έχετε ακούσει για υπολογιστές AI και την ανάγκη τους για περισσότερη επεξεργαστική ισχύ, ίσως να μην γνωρίζετε πόσο μακριά έχουν φτάσει οι NPU. Οι NPU υποτίθεται ότι αποτελούν προσθήκη σε υπάρχουσες CPU, αλλά έχουν κατασκευαστεί ειδικά για να χειρίζονται την επεξεργασία AI. Οι κατασκευαστές τσιπ έχουν παρατηρήσει πόσο σημαντικό είναι να υπάρχει επεξεργασία ειδικής τεχνητής νοημοσύνης στα τσιπ, και οι NPU είναι μια κίνηση για την αντιμετώπιση αυτού.

Το X Elite του Snapdragon ήταν το πρώτο από τα νέα NPU, αλλά η Intel και η AMD ανεβάζουν το προβάδισμα, τόσο σε επεξεργαστική ισχύ όσο και σε σχεδιασμό αρχιτεκτονικής. Καθένας από αυτούς τους κατασκευαστές έχει μια σειρά από τσιπ ειδικά σχεδιασμένα για να λειτουργούν σε υπολογιστές Copilot+, τα οποία υποτίθεται ότι ξεκλειδώνουν τις δυνατότητες του βοηθού AI της Microsoft.

Αυτά τα τσιπ έχουν σχεδιαστεί κυρίως για χρήση φορητών υπολογιστών, αλλά αυτό δεν σημαίνει ότι δεν θα δούμε επιτραπέζιες εκδόσεις των τσιπ NPU στο μέλλον. Συγκρίνοντας αυτό που είναι ήδη διαθέσιμο με τις αναφορές για το τι να περιμένουμε, μας δίνει μια ιδέα για το τι συμβαίνει στην ανάπτυξη NPU και τι μπορούμε να περιμένουμε στο εγγύς μέλλον.

NPU επόμενης γενιάς της Intel: NPU 4

Το νεότερο τσιπ της Intel ενσωματώνει ένα NPU μαζί με πολλές φανταχτερές προσθήκες που κάνουν πολύ πιο αποτελεσματική επεξεργασία AI. Το NPU 4 περιλαμβάνεται στην αρχιτεκτονική Lunar Lake της Intel. Όταν σκάβετε κάτω από την επιφάνεια, αυτό το NPU προσφέρει πολλά οφέλη για την επεξεργασία εφαρμογών AI.

Η Intel ισχυρίζεται ότι η NPU μπορεί να προσφέρει μέγιστη επεξεργασία 48 Tera Operations per Second (TOPS), καθιστώντας την την πιο ισχυρή καινοτομία NPU της Intel μέχρι σήμερα. Η τρέχουσα γενιά NPU 4 ξεπερνά σημαντικά την τελευταία γενιά NPU 3 της Intel, προσφέροντας περισσότερο από τετραπλάσια υπολογιστική ισχύ.

Αυτό οφείλεται εν μέρει στην αρχιτεκτονική του τσιπ. Το τσιπ εκτελεί δύο παράλληλες NPU, η καθεμία με τη δική της ανεξάρτητη διοχέτευση συμπερασμάτων, με αποτέλεσμα την καλύτερη ερμηνεία των δεδομένων εργασιών. Κάθε μονάδα έχει τη δική της συστοιχία πολλαπλασιασμού συσσώρευσης (MAC), η οποία βοηθά στην εκτέλεση σύνθετων μαθηματικών πινάκων που απαιτούνται στην επεξεργασία τεχνητής νοημοσύνης. Επιπροσθέτως, το SHAVE DSP που περιλαμβάνεται σε κάθε μονάδα επιτρέπει έως και τετραπλάσια επεξεργαστική ισχύ από τον προκάτοχό του, επιτρέποντας τη δημιουργία πιο πολύπλοκων νευρωνικών δικτύων.

Η έρευνα στη Σεληνιακή Λίμνη υποδηλώνει ότι μπορεί να είναι σε θέση να εκτελέσει το Copilot της Microsoft τοπικά. Επιπλέον, η Lunar Lake είναι πιθανό να έχει μια πολύ αποτελεσματική υπογραφή ισχύος. Η Intel δηλώνει ότι η καινοτομία του Thread Director θα μειώσει την κατανάλωση ενέργειας για το NPU, καθιστώντας το μια ελκυστική επιλογή για εφαρμογές χαμηλής κατανάλωσης.

Πότε μπορούμε να πάρουμε στα χέρια μας αυτή την τεχνολογία; Ενώ η Intel αρχικά πρότεινε μια μαλακή κυκλοφορία του τσιπ, Οι φορητοί υπολογιστές Lunar Lake είναι τώρα εδώ.

NPU επόμενης γενιάς της AMD: XDNA 2

Τι έχει λοιπόν να προσφέρει η AMD στον ορίζοντα NPU; Η τελευταία επιδρομή της AMD στην αγορά NPU είναι το τσιπ XDNA 2. Η εταιρεία ισχυρίζεται ότι μπορεί να ξεπεράσει το NPU 4 της Intel, προσφέροντας 50 TOPS στα 48 του NPU 4. Η δεύτερη επανάληψη του XDNA βλέπει την AMD να αυξάνει τα 20 πλακίδια κινητήρα στο τσιπ σε 32 πλακίδια κινητήρα. Αυτή η αύξηση έχει ως αποτέλεσμα α πενταπλάσια αύξηση των NPU TOPS μεταξύ των γενεών.

Η ίδια η αρχιτεκτονική XDNA βασίζεται σε μια αρχιτεκτονική δεδομένων χωρικής ροής. Η AMD το σχεδίασε ώστε να είναι ευέλικτο και προσαρμόσιμο, με δυναμικό προγραμματισμό για να δημιουργεί προσαρμοσμένες ιεραρχίες για την επεξεργασία AI. Ο κινητήρας XDNA 2 είναι μια καινοτομία στην τεχνολογία επεξεργασίας από μόνος του.

Ανέφερα ότι η NPU έχει πλακίδια κινητήρα και αυτό είναι κρίσιμο για την προσαρμοστικότητα του συστήματος. Κάθε πλακίδιο μπορεί να θεωρηθεί ως ανεξάρτητος εργαζόμενος με τους δικούς του υπολογιστικούς πόρους και μνήμης. Αυτή η ανεξάρτητη προσέγγιση επεξεργασίας επιτρέπει στο τσιπ να κάνει περισσότερα ενώ απαιτεί λιγότερη ισχύ για να το κάνει. Το τσιπ σχεδιάστηκε για να χειρίζεται τόσο τυπική επεξεργασία όσο και επεξεργασία τεχνητής νοημοσύνης, όπως το Copilot της Microsoft.

Η AMD ήταν κυρίως ο πρώτος επεξεργαστής τσιπ που συμπεριέλαβε μια NPU στα τσιπ της. Αν και αυτό τους έχει βάλει μπροστά από το παιχνίδι με τις NPU, ανοίγει επίσης την πόρτα στην AMD να πιέζει τα όρια του τι μπορούν να κάνουν οι NPU, καθώς είχαν εμπειρία με την ενσωμάτωσή τους με CPU. Αν αναρωτιέστε πότε θα δοκιμάσετε αυτές τις NPU, έχουν ήδη κυκλοφορήσει. Η AMD έριξε τους πρώτους φορητούς υπολογιστές Ryzen AI 300 τον Ιούλιο του 2024.

NPU επόμενης γενιάς της Qualcomm: Snapdragon X Elite

Εικόνα ενός επεξεργαστή Qualcomm Snapdragon.

Ένα από τα πρώτα τσιπ που κυκλοφόρησαν στην αγορά αυτής της νέας γενιάς NPU ήταν το Snapdragon X Elite. Ενώ ο κατασκευαστής chip δεν είναι ξένος στην ανάπτυξη τσιπ για κινητά, αυτή είναι η πρώτη εισβολή της εταιρείας στην αγορά φορητών υπολογιστών. Το Snapdragon έχει αφιερώσει πολλούς πόρους για να χαράξει ένα κομμάτι της πίτας και να δείξει ότι το τσιπ του μπορεί να ανταγωνιστεί άλλους καταξιωμένους κατασκευαστές.

Είναι λίγο λιγότερο ισχυρό από τις προσφορές της Intel και της AMD, με α μέγιστη ισχύς επεξεργασίας 45 TOPS. Όταν κυκλοφόρησε το τσιπ, ξεπερνούσε τα πάντα στην αγορά. Ωστόσο, με την AMD και την Intel να είναι έτοιμες να κυκλοφορήσουν τα νέα και βελτιωμένα NPU τους, το Snapdragon X Elite μπορεί να είναι εκτός κατηγορίας.

Το Snapdragon X Elite είναι διαβόητο ότι είναι πιο δυναμικό από τους ανταγωνιστές του και οι φορητοί υπολογιστές που κυκλοφόρησαν με το τσιπ είναι λίγο πιο δυνατοί χάρη στην πρόσθετη παραγωγή θερμότητας από το τσιπ. Το X Elite είναι χτισμένο σε έναν νέο πυρήνα επεξεργαστή που ο Snapdragon ονομάζει “Oryon”.

Το Oryon είναι μια καινοτομία από μόνη της, καθώς είναι ο πρώτος νέος επεξεργαστής “από την αρχή” που σχεδιάστηκε τα τελευταία χρόνια. Προβλέπεται να χρησιμοποιηθεί, όχι μόνο στα μελλοντικά NPU του Snapdragon, αλλά και να ενσωματωθεί στην αγορά τσιπ για κινητά. Το NPU είναι ένας πολύ καλός τρόπος για να αποκτήσετε μια λαβή στην αγορά. Ωστόσο, υπήρξαν ήδη προβλήματα με το λογισμικό Windows-on-Arm, παρόλο που η Microsoft έχει κάνει θαύματα με το επίπεδο εξομοίωσης Prism.

Αν σας ενδιαφέρει να δοκιμάσετε τι έχει κάνει το Snapdragon με τις μάρκες του, μπορείτε να το αποκτήσετε χέρια σε φορητούς υπολογιστές αυτή τη στιγμή. Η εταιρεία εγκατέλειψε τους φορητούς υπολογιστές τον Απρίλιο του 2024 και από τότε, έχουν δει μεγάλη υιοθέτηση, παρά την υψηλή τιμή. Οι περισσότεροι άνθρωποι χρησιμοποιούν αυτούς τους φορητούς υπολογιστές ως σημείο εκκίνησης για να δουν πώς λειτουργούν οι φορητοί υπολογιστές με NPU σε σύγκριση με τους ξαδέρφους τους που δεν τροφοδοτούνται από NPU.

Είναι σημαντικό να υπάρχει NPU σε φορητό υπολογιστή;

Η τεχνητή νοημοσύνη φαίνεται να είναι ένα τσιτάτο στην τεχνολογία αυτές τις μέρες και οι κατασκευαστές που διαφημίζουν NPU μπορεί απλώς να πηδούν στο συγκρότημα. Είναι απαραίτητο ένας φορητός υπολογιστής να έχει NPU; Οι τρέχουσες επαναλήψεις της επεξεργασίας AI χρησιμοποιούν κυρίως GPU για να ολοκληρώσουν τη δουλειά.

Αν δεν σχεδιάζετε ένα LLM για να τρέχει στον υπολογιστή σας ή βασίζεστε πραγματικά στο Copilot της Microsoft, η τρέχουσα γενιά NPU δεν είναι απαραίτητη. Είναι, ωστόσο, σημάδι για τα πράγματα που θα ακολουθήσουν. Αν και μπορεί να μην χρειάζεστε ένα NPU στον υπολογιστή σας σήμερα, είναι θέμα χρόνου να είναι απαραίτητη για να ολοκληρώσετε ορισμένες εργασίες.