OpenAI vừa chính thức ra mắt Jalapeño, chip AI tùy chỉnh đầu tiên do hãng thiết kế, hợp tác với Broadcom. Đây là mạch tích hợp chuyên dụng (ASIC) dành riêng cho suy luận (inference), giúp giảm đáng kể chi phí vận hành.
Thiết kế thần tốc nhờ AI
Điểm đáng chú ý nhất là thời gian hoàn thành: chỉ 9 tháng từ đầu đến cuối, trong khi chu kỳ thiết kế chip hiệu suất cao thông thường mất 2-3 năm. Bí quyết nằm ở việc OpenAI sử dụng chính các mô hình AI của mình để hỗ trợ phần lớn công việc thiết kế. Chủ tịch Greg Brockman thừa nhận: "Mức độ mà các mô hình của chúng tôi có thể tăng tốc quá trình này khiến chính chúng tôi cũng rất ngạc nhiên." Đây là ví dụ thực tế đầu tiên ở quy mô thương mại của vòng lặp AI dùng AI để cải thiện phần cứng chạy AI.
Tại sao chọn chip suy luận?
OpenAI chọn chip suy luận thay vì chip huấn luyện vì lý do kinh tế. Huấn luyện là chi phí một lần, còn suy luận là chi phí liên tục, phát sinh mỗi khi hàng trăm triệu người dùng gõ câu hỏi vào ChatGPT. Giảm 30-50% chi phí suy luận trên quy mô đó tạo ra khoản tiết kiệm khổng lồ mỗi ngày.
Thông số kỹ thuật và lộ trình
Về mặt kỹ thuật, Jalapeño được thiết kế để giảm thiểu di chuyển dữ liệu bên trong hệ thống, cân bằng tốt hơn giữa tính toán, bộ nhớ và băng thông mạng. CEO Broadcom Hock Tan cho biết sẽ có nguyên mẫu nhỏ vào cuối 2026, tăng tốc triển khai trong 2027 và chạy toàn công suất trong nửa đầu 2028. Mục tiêu dài hạn là xây đủ năng lực tính toán cần đến 10 gigawatt điện.
Bước đi chiến lược giảm phụ thuộc NVIDIA
Jalapeño đánh dấu bước đầu trong chiến lược giảm sự phụ thuộc vào NVIDIA. Trong những tháng gần đây, OpenAI đã ký thỏa thuận với Amazon Web Services dùng chip Trainium, ký hợp đồng với AMD và Cerebras. Ông Brockman phát biểu: "Bằng cách tự thiết kế nhiều hơn trong chuỗi, chúng tôi có thể phục vụ nhiều trí tuệ hơn với hiệu quả cao hơn." Trong ngành công nghệ, ai kiểm soát phần cứng sẽ nắm quyền định giá và biên lợi nhuận. Jalapeño là bước đầu tiên trong hành trình đó.
