Komputasi AI Lebih dari Sekadar SoC Utama! Pandangan Jelas tentang Peran Nyata RK1820 dalam Sistem RK3588

Mengapa semakin banyak perangkat tepi yang berbicara tentang NPU dan koprosesor? RK3588 sudah menjadi SoC 6 TOPS (INT8) yang bertenaga, namun dalam adegan kompleks seperti inferensi multi-tugas, paralelisme model, dan analitik video-AI, batas komputasi dari satu chip masih ada. RK1820 dibuat persis untuk mengambil alih sebagian beban tersebut dan meringankan “kecemasan komputasi” SoC utama. Dalam peralatan edge-AI, prosesor host tidak lagi berjuang sendirian; ketika tugas AI melampaui kapasitas penjadwalan CPU/NPU tradisional, koprosesor diam-diam masuk dan mengambil alih sebagian beban kerja cerdas.

RK1820 adalah koprosesor yang dibuat khusus untuk inferensi AI dan ekspansi komputasi; ia berpasangan secara fleksibel dengan SoC host seperti RK3588 dan RK3576 dan berkomunikasi dengan mereka secara efisien melalui antarmuka PCIe atau USB.

Dalam sistem RK3588 + RK1820, alur tugas AI diuraikan menjadi arsitektur empat tingkat:
Aplikasi → Middleware → Eksekusi Koprosesor → Kontrol & Presentasi.
Host RK3588: menangani penjadwalan tugas, pra-pemrosesan data, dan keluaran hasil, mengatur seluruh alur kerja.
Koprosesor RK1820: didedikasikan untuk inferensi AI komputasi tinggi, dipasangkan ke host melalui PCIe, membentuk model kolaborasi “kontrol ringan + komputasi berat”.

Lapisan aplikasi adalah tempat setiap tugas AI dimulai; ia menerjemahkan persyaratan pengguna—analitik gambar, deteksi objek, Q&A LLM sisi tepi, dll.—menjadi perintah tugas yang dapat dieksekusi sistem dan meneruskannya ke lapisan middleware melalui API standar. Lapisan ini ditangani sepenuhnya oleh host RK3588, yang mengelola interaksi pengguna, logika bisnis, dan data periferal.

Penerimaan tugas: memperoleh perintah pengguna melalui kamera, panel sentuh, Ethernet, UART, dll.

• Keamanan cerdas: mendeteksi orang dalam bingkai video
• Inspeksi industri: mengidentifikasi cacat permukaan pada produk
• Edge LLM: mengubah input suara menjadi teks dan membentuk tugas Q&A

Standardisasi perintah: mengubah input yang tidak terstruktur menjadi parameter tugas yang terstruktur

• Tugas visi: resolusi input, versi model, persyaratan output
• Tugas LLM: token input, versi model, panjang output maksimum

Lapisan middleware adalah hub kolaboratif: ia menilai setiap tugas, mengalokasikan sumber daya, memproses data sebelumnya, dan mengatur lalu lintas bus. Ia memutuskan apakah tugas berjalan di host atau dimuat ke koprosesor.
Hanya RK3588; RK1820 tidak mengambil bagian dalam konfigurasi PCIe atau manajemen interupsi—ia hanya menjalankan pekerjaan inferensi yang dikirim oleh host.

Klasifikasi dan penjadwalan tugas

• Pemrosesan lokal: tugas komputasi rendah atau kritis latensi (penskalaan gambar, inferensi AI ringan) ditangani oleh CPU/NPU/RGA RK3588.
• Muat ke RK1820: tugas komputasi tinggi (deteksi multi-kelas YOLOv8, inferensi LLM, segmentasi semantik) dikirim ke RK1820. Setelah RK1820 mengambil alih, CPU/NPU host dibebaskan untuk pekerjaan lain.

Pra-pemrosesan data

• Visi: potong, hilangkan noise, normalisasi, urutkan ulang saluran.
• Teks: tokenisasi, padding, encode.

Kontrol komunikasi bus

• Menjalin tautan melalui PCIe atau USB3.
• Transfer data menggunakan DMA, tidak ada intervensi CPU.
• Mengeluarkan perintah kontrol inferensi: mulai NPU, atur presisi, naikkan interupsi penyelesaian.

Lapisan ini adalah inti inferensi, didorong secara eksklusif oleh koprosesor RK1820, yang didedikasikan untuk inferensi AI komputasi tinggi.
RK1820 aktif; RK3588 tidak mengganggu inferensi, ia hanya menunggu hasil. Waktu habis atau pengecualian ditangani oleh RK3588 melalui perintah reset PCIe.

Penerimaan dan persiapan tugas

Menerima data, bobot model, dan perintah yang dikirim oleh RK3588; menuliskannya ke DRAM bandwidth tinggi lokal, memuat model, dan mengkonfigurasi NPU.

Komputasi inferensi NPU

• Deteksi objek (YOLOv8n): conv → BN → aktifkan → pool → pasca-proses NMS.
• Inferensi LLM (Qwen2.5 3B): prefill token input → decode generasi token-by-token.
• Optimasi inferensi: fusi operator, kompresi bobot.

Pengembalian hasil

• Mengembalikan koordinat kotak pembatas, ID kelas, dan skor kepercayaan untuk deteksi.
• Mengembalikan array token untuk LLM.

Lapisan ini adalah terminal dari setiap tugas AI: ia mengubah hasil inferensi mentah dari RK1820 menjadi output visual atau siap bisnis dan menutup lingkaran.
RK3588 aktif; RK1820 hanya menyediakan data inferensi mentah.

Pasca-pemrosesan hasil

• Petakan koordinat kembali ke ukuran gambar asli.
• Dekode token menjadi bahasa alami.
• Hitung cacat dalam inspeksi industri.

Kontrol sistem & output umpan balik

• Keamanan cerdas: menampilkan video dengan overlay deteksi, memicu alarm.
• Inspeksi industri: baris perintah untuk menolak produk yang cacat.
• Edge LLM: tampilkan teks + pengumuman suara.

Nilai sinergi: tidak hanya lebih cepat, tetapi lebih pintar

Sederhananya: RK3588 menjalankan pertunjukan dan menjaga semuanya tetap pada jalurnya, sementara RK1820 memberikan ledakan komputasi mentah; bersama-sama mereka membuat perangkat edge-AI “lebih pintar, lebih cepat, dan bebas repot.”
Ikuti kami untuk berita RK1820 dan pembaruan SDK, tutorial baru, dan demo siap pakai.