NVIDIA hôm nay công bố nền tảng AI Edge‑X, một giải pháp mới dành cho các thiết bị IoT và thiết bị biên (edge devices). Edge‑X cho phép triển khai các mô hình ngôn ngữ và thị giác siêu nhẹ, chỉ chiếm 5MB bộ nhớ và sử dụng tối đa 200MB RAM, phù hợp với các bộ vi xử lý ARM Cortex‑A53.
Nền tảng dựa trên kiến trúc TensorRT‑Lite và công nghệ pruning‑aware quantization, giúp giảm đáng kể kích thước mô hình mà không làm giảm độ chính xác. Edge‑X hỗ trợ các mô hình như TinyBERT, MobileViT và Whisper‑Mini, cho phép thực hiện nhận dạng giọng nói, dịch thuật thời gian thực và nhận diện đối tượng trên thiết bị.
Theo The Verge, NVIDIA đã hợp tác với các nhà sản xuất thiết bị thông minh tại châu Á để tích hợp Edge‑X vào các sản phẩm như camera an ninh, loa thông minh và thiết bị y tế cá nhân. Điều này hứa hẹn giảm tải băng thông và tăng tính bảo mật khi dữ liệu được xử lý ngay tại thiết bị.
NVIDIA dự kiến sẽ mở rộng Edge‑X với bộ công cụ phát triển (SDK) miễn phí vào cuối năm 2026, khuyến khích cộng đồng nhà phát triển tạo ra các ứng dụng AI biên đa dạng.