Website giới thiệu Apple Intelligence. Ảnh: NurPhoto.
Apple Intelligence là bộ công cụ trí tuệ nhân tạo (AI) sắp có mặt trên iPhone, iPad và Mac, gồm tóm tắt thông báo, sáng tác ảnh hay trả lời email. Dù không đột phá, đây vẫn được xem là cách triển khai AI thân thiện, trực quan và hữu ích.
Dù vậy, không phải mọi iPhone hỗ trợ Apple Intelligence. Người dùng cần ít nhất iPhone 15 Pro hoặc 15 Pro Max. Kể cả thiết bị ra mắt chưa đầy một năm như iPhone 15 tiêu chuẩn cũng không hỗ trợ.
Ngoài iPhone, iPad và Mac cần chip M (từ năm 2020) để sử dụng Apple Intelligence. Theo Wired, khoảng cách này tương đương chu kỳ trung bình nâng cấp smartphone và laptop.
Bên cạnh khuyến khích người dùng mua máy mới, nhiều lý do khác nhau khiến AI Apple không hỗ trợ hàng trăm triệu chiếc iPhone.
Sức mạnh NPU có quan trọng?
Trong chương trình The Talk Show tại WWDC 2024, John Giannandrea, Phó chủ tịch Máy học và Chiến lược AI tại Apple, cho rằng sức mạnh tính toán là lý do Apple Intelligence chỉ hỗ trợ iPhone 15 Pro và iPad, Mac dùng chip M.
"Quá trình suy luận mô hình ngôn ngữ lớn (LLM) cần tài nguyên tính toán cực lớn. Điều đó kết hợp băng thông xử lý trên máy với kích thước của ANE (Apple Neural Engine), sức mạnh thiết bị để các mô hình chạy đủ nhanh và hữu ích.
Về lý thuyết, bạn có thể chạy những mô hình này với thiết bị rất cũ, nhưng sẽ chậm đến mức không còn hữu dụng", Giannandrea nhấn mạnh.
Táo khuyết mất nhiều năm xây dựng hình ảnh công ty bảo vệ quyền riêng tư. Để giải quyết vấn đề này, Apple Intelligence kết hợp xử lý dữ liệu trên thiết bị và máy chủ đám mây cho từng tính năng.
Các tính năng AI được Apple giới thiệu tại WWDC 2024. Ảnh: Apple
Để xử lý AI, thiết bị cần phần cứng đủ mạnh. Bên cạnh bộ xử lý trung tâm (CPU) hay đồ họa (GPU), bộ xử lý thần kinh (NPU) là thành phần quan trọng, sở hữu khả năng xử lý nhiều phép tính cùng lúc nhưng tiêu thụ ít năng lượng.
Trên mạng xã hội X, tài khoản về tư liệu phần mềm Albacore có thể bật một số tính năng Copilot+ PCs của Microsoft, bao gồm Recall trên Samsung Galaxy Book2 Go, model không tương thích về lý thuyết.
Chia sẻ với Wired, Albacore dùng kỹ thuật dịch ngược, loại bỏ giới hạn để các tính năng hoạt động dưới dạng phần mềm cài ngoài.
"Có thể nói Recall hoạt động tốt ngay cả với phần cứng cũ, kém mạnh mẽ hơn. Khác biệt duy nhất có thể nhận thấy là độ trễ khi tìm kiếm hành động trên dòng thời gian", Albacore cho biết.
Recall gây tranh cãi trong loạt công cụ AI của Microsoft. Tương tự phiên bản Siri mới ra mắt, tính năng này có thể thu thập toàn bộ hành vi tìm kiếm, duyệt web và email, cho phép người dùng tìm lại theo dòng thời gian.
Một kỹ sư dùng thủ thuật cài Recall lên máy tính Windows không tương thích. Ảnh: @thebookisclosed/X.
Trong khi Recall hoạt động hiệu quả, tính năng tạo ảnh Cocreator trong Paint chạy chậm và tối ưu kém.
"Quá trình tạo ảnh tiêu tốn rất nhiều tài nguyên, đến gần cuối thì bị 'sập'. Có lẽ mẫu chip cũ với nhiều RAM sẽ tốt hơn, nhưng hiện tôi không có tùy chọn ấy", Albacore nói thêm.
Với thiết bị Apple, NPU đã xuất hiện từ năm 2017 trên iPhone 8, 8 Plus và iPhone X. Về lý thuyết, chúng có thể chạy mô hình AI nhưng theo thử nghiệm của Albacore và giải thích từ đại diện Apple, tốc độ xử lý sẽ rất chậm.
Sự quan trọng của RAM
RAM có thể là mấu chốt để Apple Intelligenge không hỗ trợ iPhone 15 trở xuống dù sức mạnh CPU, NPU có thể ngang nhau.
Theo công cụ chấm điểm Geekbench, NPU trên iPhone 14 còn mạnh hơn MacBook M1. Tuy nhiên, điện thoại này chỉ có RAM 6 GB, trong khi các model hỗ trợ AI Apple ít nhất 8 GB.
Với mô hình chạy trên máy, tác vụ được xử lý và lưu trữ trong RAM hoặc vRAM (GPU). Kể cả SSD nhanh nhất hiện nay cũng không thể sánh ngang RAM về tốc độ.
Sony từng quảng cáo tốc độ SSD cực nhanh (5.000 MB/s) trên PS5. Để so sánh, băng thông RAM DDR5 trung bình của máy tính có thể đạt 64 GB/s, trong khi chip Nvidia H200 dùng cho AI có băng thông 4,8 TB/s.
ChatGPT được tích hợp lên Siri kể từ iOS 18. Ảnh: The Verge.
Những GPU băng thông siêu cao là sức mạnh cho hệ thống máy chủ của ChatGPT hay Stable Diffusion. Tuy nhiên, giá của chúng lên đến hàng chục nghìn USD, không thể tiếp cận người dùng phổ thông.
Jesse Clayton, giám đốc PC AI tại Nvidia, thừa nhận nếu muốn trải nghiệm AI tốt nhất, người dùng nên chọn dòng GPU GeForce RTX.
"Chúng mang đến hiệu suất AI nhanh nhất, tối đa 1.300 TOPS (nghìn tỷ phép tính mỗi giây) và hỗ trợ phần mềm AI hoàn thiện nhất", Clayton cho biết.
Để so sánh, máy tính Copilot+ PCs cần ít nhất 45 TOPS, trong khi iPhone 15 Pro Max khoảng 35 TOPS, phù hợp các mô hình ngôn ngữ nhỏ cho một số tính năng xử lý trên máy.
Theo Apple, những tính năng AI có thể xử lý trên thiết bị gồm gợi ý chia sẻ (Sharing Suggestions), kỷ niệm (Memories), nhận diện khung cảnh trong ứng dụng Photos, bên cạnh nhận diện giọng nói, dịch thành văn bản và gợi ý trong Siri.
Nói cách khác, các tính năng AI tạo sinh như tóm tắt văn bản vẫn không thể xử lý trực tiếp trên iPhone 15 Pro Max. Điều này đặt ra câu hỏi liệu toàn bộ dòng iPhone 16 có hỗ trợ Apple Intelligence không, hay vẫn chỉ các mẫu Pro như hiện nay.
