Intel Arc Pro B70 Thể Hiện Sức Mạnh AI Đáng Kinh Ngạc Trong Bài Kiểm Tra MLPerf
Trong bối cảnh cuộc đua công nghệ AI đang nóng lên từng ngày, Intel vừa gây chú ý với dòng card đồ họa Arc Pro B70 và B65 trong kết quả MLPerf Inference v6.0. Đây là lần đầu tiên hai mẫu GPU mới này xuất hiện trên bảng xếp hạng benchmark đánh giá hiệu năng AI inference, mang đến những con số ấn tượng về khả năng xử lý các mô hình ngôn ngữ lớn.
Hệ Thống Bốn GPU Arc Pro B70: Sức Mạnh Vượt Trội Với 128 GB VRAM
Intel đã sử dụng cấu hình hệ thống bốn GPU Arc Pro B70 để tham gia bài kiểm tra, với tổng dung lượng VRAM lên đến 128 GB. Cấu hình này được kết hợp cùng CPU Intel Xeon 6 thế hệ mới, tạo nên một bộ đôi mạnh mẽ có khả năng chạy các mô hình AI lên đến 120 tỷ tham số. Trong bài kiểm tra GPT-OSS-120B, hệ thống này đạt 1.536,90 token/giây ở chế độ offline và 951,67 token/giây ở chế độ server.
So sánh với cấu hình bốn GPU Arc Pro B60 đơn chỉ có 96 GB VRAM, Arc Pro B70 cho thấy sự vượt trội rõ rệt. Cụ thể, B70 nhanh hơn khoảng 83% ở chế độ offline và hơn 110% ở chế độ server. Ở bài kiểm tra llama2-70b-99, bốn Arc Pro B70 đạt 2.459,18 token/giây offline và 1.698,57 token/giây server, trong khi B60 chỉ đạt 1.697,66 và 1.106,26 token/giây – tương ứng mức vượt trội 45% và 54%.
Intel Tối Ưu Phần Mềm, Nâng Hiệu Năng GPU Cũ Lên 18%
Bên cạnh phần cứng mới, Intel cũng công bố thành quả từ việc tối ưu hóa phần mềm liên tục. Nhờ cải tiến trình điều khiển và phần mềm AI, các GPU hiện có như Arc Pro B60 có thể tăng hiệu năng thêm 18% mà không cần nâng cấp phần cứng. Điều này cho thấy chiến lược phát triển song song giữa phần cứng và phần mềm của Intel đang mang lại hiệu quả thiết thực.
Đáng chú ý, dòng CPU Xeon 6 với P-Cores cũng ghi nhận mức tăng hiệu năng lên đến 90% so với thế hệ trước. Sự cải thiện này đến từ các công nghệ tích hợp AMX và AVX-512, cho phép chạy LLM inference, fine-tuning và machine learning cổ điển mà không cần thêm phần cứng tăng tốc riêng. Intel là nhà sản xuất vi xử lý máy chủ duy nhất nộp kết quả CPU độc lập trong MLPerf inference, với hơn nửa số lần nộp kết quả sử dụng Xeon làm CPU chủ.
Arc Pro B70: Nền Tảng Inference Toàn Diện Với Giá Hấp Dẫn
Intel mô tả các hệ thống Arc Pro B70 và B65 là nền tảng inference tích hợp toàn diện, hỗ trợ môi trường Linux container và mở rộng đa GPU qua PCIe P2P. Chúng cũng tích hợp các tính năng cấp doanh nghiệp như ECC, SRIOV, đo từ xa và cập nhật firmware từ xa. Khi so sánh với giải pháp GPU tương đương từ đối thủ, Arc Pro B70 trong cấu hình đa GPU hỗ trợ dung lượng KV cache lớn hơn 1,6 lần khi chạy các mô hình lớn.
Arc Pro B70 dự kiến sẽ lên kệ trong thời gian sớm với giá dưới 1.000 USD, tương đương khoảng 26,26 triệu đồng. Mỗi GPU này mang đến 32 GB VRAM, hứa hẹn là lựa chọn hấp dẫn cho các ứng dụng AI chuyên sâu. Với hiệu năng vượt trội và mức giá cạnh tranh, Intel đang định vị mình như một đối thủ đáng gờm trong thị trường GPU AI đang phát triển mạnh mẽ.
