Advantech và Qualcomm đẩy mạnh hợp tác để tăng tốc đổi mới sáng tạo với giải pháp AI On Premise

Advantech, tập đoàn hàng đầu trong lĩnh vực hệ thống IoT thông minh và nền tảng nhúng, đang mở rộng hợp tác với Qualcomm Technologies, Inc. nhằm thúc đẩy đổi mới và tăng tốc ứng dụng AI tại biên. Sự hợp tác hướng tới việc cung cấp các giải pháp AI hiệu năng cao, tiết kiệm điện năng cho các tác vụ Gen AI được triển khai tại chỗ (on-premise), phục vụ nhu cầu mở rộng AI trong các lĩnh vực như y tế, công nghiệp, thành phố thông minh và hơn thế nữa.

Trọng tâm của sự hợp tác này là thiết bị Qualcomm Dragonwing™ AI On-Prem, được trang bị thẻ tăng tốc Qualcomm® Cloud AI 100 Ultra và bộ phần mềm Qualcomm® AI Inference Suite - cung cấp hiệu năng xử lý AI lên tới 870 TOPS và bộ nhớ 128GB. Thiết bị hỗ trợ đa dạng các tính năng của Gen AI, bao gồm tạo hình ảnh, agentic AI, xử lý ngôn ngữ tự nhiên, thị giác máy tính và tạo tăng cường truy xuất (RAG), đồng thời tiêu thụ điện năng ít hơn so với các GPU cùng loại, khiến nó trở thành lựa chọn lý tưởng cho triển khai AI tại biên.

Ông Joey Hsu, Giám đốc Nhóm Nhúng IoT tại Advantech, cho biết: “Quan hệ hợp tác của chúng tôi với Qualcomm Technologies ngày càng sâu rộng hơn nhờ tích hợp Qualcomm Cloud AI 100 Ultra. Sự hợp tác này giúp mở rộng và cải thiện mạnh mẽ bộ giải pháp AI biên, giúp khách hàng triển khai nhanh chóng các giải pháp AI biên hiệu suất cao, tiết kiệm điện năng trong nhiều ngành công nghiệp khác nhau.”

Ông Evgeni Gousev, Giám đốc cấp cao mảng Kỹ thuật tại Qualcomm Technologies, Inc. chia sẻ. “Khi nhu cầu đối với Gen AI và điện toán biên thông minh gia tăng, sự hợp tác của chúng tôi với Advantech thể hiện cam kết của Qualcomm Technologies trong việc cung cấp các giải pháp AI có khả năng mở rộng, tiêu thụ điện năng thấp”. “Việc tích hợp thiết bị Qualcomm Dragonwing AI On-Prem được hỗ trợ bởi các thẻ tăng tốc Qualcomm Cloud AI và bộ phần mềm Qualcomm AI Inference Suite vào các nền tảng AI biên của Advantech giúp khách hàng khai phá hiệu suất ở tầm cao mới mà không tiêu hao pin, áp dụng được trong nhiều lĩnh vực từ thành phố thông minh đến y tế, đồng thời đơn giản hóa việc triển khai nhờ bộ phần mềm mạnh mẽ. Cùng nhau, chúng tôi đang thúc đẩy làn sóng đổi mới tiếp theo của AI tại biên.”

Các hệ thống và máy chủ AI biên thế hệ tiếp theo của Advantech – bao gồm AIR-410, AIR-420 và AIR-510 – được trang bị bộ vi xử lý AMD Ryzen™ dòng 7000, 8000 và 9000, cũng như bộ vi xử lý Intel® Core™ thế hệ thứ 12, 13 và 14, sẽ tích hợp các thẻ tăng tốc Qualcomm Cloud AI nhằm mang lại sức mạnh tính toán AI vượt trội ngay tại biên. Các hệ thống này hỗ trợ cấu hình linh hoạt, từ một đến bốn thẻ tăng tốc AI PCIE nhằm đáp ứng nhu cầu hiệu năng đa dạng và dự kiến sẽ được ra mắt vào cuối tháng 6. Ngoài hợp tác phần cứng, Advantech cũng hợp tác cùng Qualcomm Technologies để cung cấp bộ phần mềm đầy đủ cho giải pháp AI biên.

Nền tảng này bao gồm bộ Qualcomm Cloud AI SDK hỗ trợ vLLM và ONNX runtime nhằm tăng tốc triển khai Gen AI và AI thị giác, mang lại khả năng suy luận hiệu suất cao, độ trễ thấp và quy trình tối ưu hóa mô hình toàn diện. Dựa trên nền tảng này, Advantech ra mắt bộ công cụ Edge AI SDK tích hợp thiết bị Qualcomm AI On-Prem, cung cấp giải pháp AI tại chỗ, sẵn sàng sử dụng, dễ dàng triển khai và mở rộng.

Advantech và Qualcomm Technologies sẽ tiếp tục củng cố mối quan hệ hợp tác để mang đến các đột phá AI biên thế hệ mới và giải pháp AI chuyên ngành cho đa dạng lĩnh vực. Hãy ghé thăm Advantech tại COMPUTEX 2025, địa điểm gian hàng: Sảnh 1 / Booth K0605 và Sảnh 2 / Booth P0413a!

• Trang web sự kiện: https://www.advantech.com/en/events/computex
• Các phiên trình bày trực tiếp: https://www.youtube.com/@AdvantechCorp
• Thông tin Diễn đàn COMPUTEX: https://events.computextaipei.com.tw/en-us/Forum.aspx