FPT AI Factory chính thức ra mắt nền tảng hạ tầng AI thế hệ mới sử dụng NVIDIA HGX B300, đánh dấu bước tiến vượt bậc trong việc cung cấp dịch vụ GPU Cloud cho doanh nghiệp, tổ chức và các nhà phát triển AI tại Việt Nam và khu vực.
Cấu hình siêu mạnh mẽ của NVIDIA HGX B300
Hệ thống mới của FPT AI Factory được trang bị NVIDIA HGX B300 với 8 card GPU NVIDIA Blackwell Ultra. Mỗi GPU sở hữu bộ nhớ lên tới 288 GB, mang lại tổng dung lượng bộ nhớ khổng lồ 2.1 TB mỗi node. Với cấu hình này, nền tảng có thể triển khai các mô hình hàng nghìn tỷ tham số, AI đa phương thức và các ứng dụng xử lý ngữ cảnh dài với hiệu quả vượt trội.
Hiệu năng vượt trội so với thế hệ trước
So với thế hệ NVIDIA Blackwell trước đó, NVIDIA HGX B300 mang lại hiệu năng cao hơn tới 1.5 lần, giúp tăng tốc cả quá trình huấn luyện và suy luận AI. Nhờ đó, doanh nghiệp có thể rút ngắn thời gian triển khai mô hình, phục vụ nhiều người dùng hơn đồng thời tối ưu chi phí vận hành. Cụ thể, nền tảng giúp giảm tới 66% chi phí suy luận AI, giảm 49% chi phí huấn luyện và cải thiện gần 3 lần hiệu quả chi phí trên mỗi token. Bên cạnh hiệu năng, hệ thống còn được xây dựng với tiêu chuẩn bảo mật doanh nghiệp, độ ổn định cao cùng đội ngũ kỹ sư hỗ trợ chuyên sâu.
Chuyển đổi sang nền kinh tế token
Ngành công nghiệp AI đang bước sang giai đoạn mới, khi trọng tâm không còn chỉ là huấn luyện mô hình mà chuyển mạnh sang suy luận AI – quá trình AI tạo phản hồi và xử lý yêu cầu của người dùng theo thời gian thực. Điều này kéo theo nhu cầu xử lý khối lượng token lớn với tốc độ nhanh, độ trễ thấp và chi phí tối ưu. Trong bối cảnh đó, hạ tầng điện toán cần được cải tiến để đáp ứng nền kinh tế token, nơi hiệu suất AI được đo bằng tốc độ sinh token, thời gian phản hồi và chi phí trên mỗi token. Việc tích hợp NVIDIA HGX B300 giúp FPT AI Factory vận hành như một nhà máy sản xuất token AI, hỗ trợ các tổ chức nâng cao năng lực suy luận với hiệu suất cao và chi phí tối ưu.
Khẳng định vị thế tiên phong tại Việt Nam
FPT AI Factory là đơn vị tiên phong tại Việt Nam đưa NVIDIA HGX B300 vào vận hành, cung cấp hạ tầng AI hiện đại theo chuẩn quốc tế, phục vụ nghiên cứu, phát triển và ứng dụng AI quy mô lớn. Trước đó, FPT AI Factory đã tiên phong cung cấp các dịch vụ GPU Cloud với NVIDIA HGX H100 và HGX H200, phục vụ hơn 18.000 nhà phát triển và kỹ sư AI từ các doanh nghiệp, tổ chức nghiên cứu và giáo dục trên toàn cầu.
