Η υπολογιστική ισχύς AI είναι κάτι παραπάνω από το κύριο SoC! Μια σαφής ματιά στον πραγματικό ρόλο του RK1820 στο σύστημα RK3588

Γιατί όλο και περισσότερες συσκευές edge μιλούν για NPUs και συν-επεξεργαστές; Το RK3588 είναι ήδη ένα ισχυρό SoC 6 TOPS (INT8), ωστόσο σε πολύπλοκες σκηνές όπως η συμπερασματολογία πολλαπλών εργασιών, ο παραλληλισμός μοντέλων και η ανάλυση video-AI, το όριο υπολογισμού ενός μόνο τσιπ εξακολουθεί να υπάρχει. Το RK1820 δημιουργήθηκε ακριβώς για να αναλάβει αυτό το κομμάτι του φόρτου και να ανακουφίσει την «αγωνία υπολογισμού» του κύριου SoC. Στον εξοπλισμό edge-AI, ο κεντρικός επεξεργαστής δεν μάχεται πλέον μόνος του. Όταν οι εργασίες AI ξεπερνούν την ικανότητα προγραμματισμού της παραδοσιακής CPU/NPU, ο συν-επεξεργαστής μπαίνει σιωπηλά και αναλαμβάνει μέρος του έξυπνου φόρτου εργασίας.

Το RK1820 είναι ένας συν-επεξεργαστής που κατασκευάστηκε ειδικά για συμπερασματολογία AI και επέκταση υπολογισμών. Συνδυάζεται ευέλικτα με κεντρικά SoCs όπως τα RK3588 και RK3576 και επικοινωνεί μαζί τους αποτελεσματικά μέσω διεπαφών PCIe ή USB.

Στο σύστημα RK3588 + RK1820, η ροή εργασιών AI αποσυντίθεται σε μια τετραβάθμια αρχιτεκτονική:
Εφαρμογή → Middleware → Εκτέλεση συν-επεξεργαστή → Έλεγχος & Παρουσίαση.
Κεντρικός υπολογιστής RK3588: χειρίζεται τον προγραμματισμό εργασιών, την προεπεξεργασία δεδομένων και την έξοδο αποτελεσμάτων, διέποντας ολόκληρη τη ροή εργασίας.
Συν-επεξεργαστής RK1820: αφιερωμένος στη συμπερασματολογία AI υψηλής υπολογιστικής ισχύος, συνδεδεμένος με τον κεντρικό υπολογιστή μέσω PCIe, σχηματίζοντας ένα μοντέλο συνεργασίας «ελαφρού ελέγχου + βαριάς υπολογιστικής ισχύος».

Το επίπεδο εφαρμογής είναι το σημείο όπου ξεκινά κάθε εργασία AI. Μεταφράζει τις απαιτήσεις του χρήστη—ανάλυση εικόνας, ανίχνευση αντικειμένων, ερωτήσεις και απαντήσεις LLM στην πλευρά του edge, κ.λπ.—σε εντολές εργασιών εκτελέσιμες από το σύστημα και τις μεταβιβάζει στο επίπεδο middleware μέσω τυποποιημένων API. Αυτό το επίπεδο χειρίζεται εξ ολοκλήρου ο κεντρικός υπολογιστής RK3588, ο οποίος διαχειρίζεται την αλληλεπίδραση με τον χρήστη, τη λογική των επιχειρήσεων και τα περιφερειακά δεδομένα.

Λήψη εργασίας: αποκτά εντολές χρήστη μέσω καμερών, οθονών αφής, Ethernet, UART κ.λπ.

• Έξυπνη ασφάλεια: ανίχνευση ατόμων σε καρέ βίντεο
• Βιομηχανική επιθεώρηση: αναγνώριση ελαττωμάτων επιφάνειας σε προϊόντα
• Edge LLM: μετατροπή φωνητικής εισόδου σε κείμενο και δημιουργία μιας εργασίας ερωτήσεων και απαντήσεων

Τυποποίηση εντολών: μετατρέπει μη δομημένη είσοδο σε δομημένες παραμέτρους εργασίας

• Εργασία όρασης: ανάλυση εισόδου, έκδοση μοντέλου, απαιτήσεις εξόδου
• Εργασία LLM: μάρκες εισόδου, έκδοση μοντέλου, μέγιστο μήκος εξόδου

Το επίπεδο middleware είναι ο κόμβος συνεργασίας: κρίνει κάθε εργασία, κατανέμει πόρους, προεπεξεργάζεται δεδομένα και διέπει την κυκλοφορία του διαύλου. Αποφασίζει εάν η εργασία εκτελείται στον κεντρικό υπολογιστή ή μεταβιβάζεται στον συν-επεξεργαστή.
Μόνο RK3588. Το RK1820 δεν συμμετέχει στη διαμόρφωση PCIe ή στη διαχείριση διακοπών—απλώς εκτελεί τις εργασίες συμπερασματολογίας που αποστέλλονται από τον κεντρικό υπολογιστή.

Ταξινόμηση και προγραμματισμός εργασιών

• Τοπική επεξεργασία: εργασίες χαμηλής υπολογιστικής ισχύος ή κρίσιμες για την καθυστέρηση (κλιμάκωση εικόνας, ελαφριά συμπερασματολογία AI) χειρίζονται από την CPU/NPU/RGA του RK3588.
• Μεταβίβαση στο RK1820: εργασίες υψηλής υπολογιστικής ισχύος (ανίχνευση πολλαπλών κλάσεων YOLOv8, συμπερασματολογία LLM, σημασιολογική τμηματοποίηση) αποστέλλονται στο RK1820. Μόλις το RK1820 αναλάβει, η CPU/NPU του κεντρικού υπολογιστή ελευθερώνεται για άλλη εργασία.

Προεπεξεργασία δεδομένων

• Όραση: περικοπή, αποθορυβοποίηση, κανονικοποίηση, επαναδιάταξη καναλιών.
• Κείμενο: διακριτοποίηση, συμπλήρωση, κωδικοποίηση.

Έλεγχος επικοινωνίας διαύλου

• Δημιουργεί σύνδεση μέσω PCIe ή USB3.
• Η μεταφορά δεδομένων χρησιμοποιεί DMA, χωρίς παρέμβαση CPU.
• Εκδίδει εντολές ελέγχου συμπερασματολογίας: εκκίνηση NPU, ρύθμιση ακρίβειας, αύξηση διακοπής ολοκλήρωσης.

Αυτό το επίπεδο είναι ο πυρήνας συμπερασματολογίας, που οδηγείται αποκλειστικά από τον συν-επεξεργαστή RK1820, αφιερωμένο στη συμπερασματολογία AI υψηλής υπολογιστικής ισχύος.
RK1820 ενεργό. Το RK3588 δεν παρεμβαίνει στη συμπερασματολογία, περιμένει μόνο τα αποτελέσματα. Η λήξη χρόνου ή οι εξαιρέσεις χειρίζονται από το RK3588 μέσω εντολών επαναφοράς PCIe.

Λήψη και προετοιμασία εργασίας

Λαμβάνει δεδομένα, βάρη μοντέλων και εντολές που αποστέλλονται από το RK3588. Τα γράφει στην τοπική DRAM υψηλού εύρους ζώνης, φορτώνει το μοντέλο και διαμορφώνει το NPU.

Υπολογισμός συμπερασματολογίας NPU

• Ανίχνευση αντικειμένων (YOLOv8n): conv → BN → ενεργοποίηση → pool → post-process NMS.
• Συμπερασματολογία LLM (Qwen2.5 3B): προ-συμπλήρωση μαρκών εισόδου → δημιουργία μάρκα-ανά-μάρκα αποκωδικοποίησης.
• Βελτιστοποίηση συμπερασματολογίας: συγχώνευση τελεστών, συμπίεση βάρους.

Επιστροφή αποτελέσματος

• Επιστρέφει συντεταγμένες πλαισίου, αναγνωριστικά κλάσεων και βαθμούς αξιοπιστίας για την ανίχνευση.
• Επιστρέφει πίνακα μαρκών για το LLM.

Αυτό το επίπεδο είναι το τέρμα κάθε εργασίας AI: μετατρέπει τα ακατέργαστα αποτελέσματα συμπερασματολογίας από το RK1820 σε οπτική ή έτοιμη για επιχειρήσεις έξοδο και κλείνει τον βρόχο.
RK3588 ενεργό. Το RK1820 παρέχει μόνο τα ακατέργαστα δεδομένα συμπερασματολογίας.

Μετα-επεξεργασία αποτελέσματος

• Αντιστοίχιση συντεταγμένων πίσω στο αρχικό μέγεθος εικόνας.
• Αποκωδικοποίηση μαρκών σε φυσική γλώσσα.
• Μέτρηση ελαττωμάτων στη βιομηχανική επιθεώρηση.

Έλεγχος συστήματος & έξοδος ανατροφοδότησης

• Έξυπνη ασφάλεια: εμφάνιση βίντεο με επικαλύψεις ανίχνευσης, ενεργοποίηση συναγερμών.
• Βιομηχανική επιθεώρηση: γραμμή εντολών για την απόρριψη ελαττωματικών προϊόντων.
• Edge LLM: εμφάνιση κειμένου + φωνητική ανακοίνωση.

Αξία της συνέργειας: όχι μόνο ταχύτερη, αλλά και εξυπνότερη

Με απλά λόγια: Το RK3588 τρέχει την παράσταση και διατηρεί τα πάντα σε καλό δρόμο, ενώ το RK1820 παρέχει εκρήξεις ακατέργαστου υπολογισμού. Μαζί κάνουν τις συσκευές edge-AI «πιο έξυπνες, ταχύτερες και χωρίς προβλήματα».
Ακολουθήστε μας για περισσότερα νέα RK1820 και ενημερώσεις SDK, νέα μαθήματα και έτοιμα προς εκτέλεση demos.