iPhone 17 Pro Vận Hành Mô Hình AI 400 Tỷ Tham Số, Vượt Giới Hạn RAM 17 Lần
iPhone 17 Pro Chạy AI 400 Tỷ Tham Số, Vượt RAM 17 Lần

iPhone 17 Pro Làm Nên Điều Không Tưởng: Vận Hành AI Khổng Lồ Với RAM Hạn Chế

Trong một thử nghiệm công nghệ đầy ấn tượng vừa được công bố, chiếc iPhone 17 Pro đã đạt được thành tựu mà nhiều chuyên gia từng cho là bất khả thi. Thiết bị này đã thành công vận hành một mô hình ngôn ngữ nhân tạo cực lớn, vốn yêu cầu lượng bộ nhớ RAM gấp đến 17 lần dung lượng thực tế của máy.

Bí Quyết Đến Từ Dự Án Flash-MoE Mã Nguồn Mở

Dự án mang tên Flash-MoE, được chia sẻ bởi nhà phát triển @anemll, đã biến iPhone 17 Pro trở thành một phòng thí nghiệm AI di động đúng nghĩa. Thông thường, để tải và hoạt động một mô hình AI với quy mô 400 tỷ tham số, hệ thống cần ít nhất 200 GB RAM. Tuy nhiên, iPhone 17 Pro với chỉ 12 GB RAM đã chứng minh rằng giới hạn phần cứng có thể bị phá vỡ nhờ những thuật toán thông minh.

Thay vì cố gắng nhồi nhét toàn bộ mô hình vào bộ nhớ RAM hạn hẹp, hệ thống này sử dụng một cơ chế đặc biệt. Nó chỉ trích xuất các phần dữ liệu cần thiết từ bộ nhớ lưu trữ theo thời gian thực, kết hợp với cấu trúc Mixture of Experts (MoE). Cấu trúc này cho phép kích hoạt một nhóm nhỏ các chuyên gia AI cho từng câu hỏi cụ thể, giúp iPhone 17 Pro duy trì hoạt động mà không cần kết nối đám mây.

Banner rộng Pickt — ứng dụng danh sách mua sắm cộng tác cho Telegram

Những Thách Thức Thực Tế Và Triển Vọng Tương Lai

Dù đây được xem là một bước tiến lịch sử trong lĩnh vực AI trên thiết bị di động, trải nghiệm thực tế vẫn còn nhiều rào cản. Tốc độ tạo văn bản hiện chỉ đạt khoảng 0,6 token mỗi giây, khiến người dùng phải chờ đợi vài giây chỉ để nhận được một từ duy nhất. Điều này khiến quá trình giống như một bài kiểm tra lòng kiên nhẫn hơn là tương tác với một trợ lý ảo thực thụ.

Bên cạnh đó, việc bắt bộ vi xử lý và bộ nhớ lưu trữ hoạt động ở cường độ cực cao dẫn đến hai vấn đề đáng chú ý:

  • Pin của thiết bị tụt nhanh chóng.
  • Máy nóng lên đáng kể trong quá trình sử dụng.

Hiện tại, các mô hình AI nhỏ gọn vẫn là lựa chọn thực tế và tối ưu cho đa số người dùng. Tuy nhiên, thử nghiệm trên iPhone 17 Pro đã gửi đi một thông điệp mạnh mẽ: ranh giới giữa máy chủ AI và điện thoại thông minh đang dần bị xóa nhòa.

Khi tốc độ đọc ghi của bộ nhớ lưu trữ trên điện thoại ngày càng được cải thiện và chip xử lý được tối ưu hóa sâu cho cấu trúc MoE, việc sở hữu một siêu trí tuệ nhân tạo hoạt động ngoại tuyến với bảo mật tuyệt đối ngay trong lòng bàn tay sẽ không còn là viễn cảnh xa vời. Thành công này mở ra cánh cửa cho tương lai của AI di động, nơi các thiết bị cá nhân có thể xử lý những tác vụ phức tạp mà trước đây chỉ dành cho hệ thống máy chủ quy mô lớn.

Banner sau bài viết Pickt — ứng dụng danh sách mua sắm cộng tác với hình minh họa gia đình